51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Expert na bezpečnost AI (angličtina a gudžarátština) – práce na dálku na smlouvu
Provádějte red-teamové hodnocení konverzačních modelů a agentů AI pro společnost Mercor, partnera AI laboratoří zaměřeného na trénování špičkových systémů. Vytvářejte data o zranitelnostech, scénáře útoků a reprodukovatelné bezpečnostní zprávy.
Popis
- Testujte konverzační modely a agenty AI pomocí jailbreaků, injekcí promptů, scénářů zneužití, využívání zkreslení a vícekrokové manipulace
- Vytvářejte lidmi označená data anotováním selhání, kategorizací zranitelností a identifikací systémových rizik
- Používejte zavedené taxonomie, benchmarky a playbooky k zajištění konzistentního hodnocení
- Vytvářejte reprodukovatelné zprávy, datové sady a scénáře útoků
- Posuzujte odpovědi AI týkající se zkreslení, dezinformací, škodlivého chování a dalších citlivých témat
- Identifikujte slabá místa, která může automatizované testování přehlédnout
- Rozšiřujte rozsah hodnocení, abyste pomáhali omezit neočekávané problémy v produkčním prostředí
- Zlepšujte zákaznické systémy AI pomocí jasných a reprodukovatelných podkladů hodnocení
Požadavky
- Rodilá nebo plynulá znalost angličtiny a gudžarátštiny
- Zdravý úsudek při hodnocení jazyka a obsahu
- Schopnost určit, zda jsou odpovědi AI přesné, úplné a vhodné, a své hodnocení vysvětlit
- Pečlivost při odhalování jemných chyb, nesrovnalostí a opomenutí
- Důsledné dodržování pokynů a požadavků na kvalitu
- Schopnost jasně vysvětlovat uvažování technickému i netechnickému publiku
- Flexibilita při práci na různých projektech, ve formátech úkolů a pro různé zákazníky
- Výhodou jsou zkušenosti s adversariálním strojovým učením, kyberbezpečností, sociotechnickými riziky nebo kreativním hledáním zranitelností
- Ochota pracovat jako nezávislý dodavatel
- Kandidáti s vízem H-1B a statusem STEM OPT nejsou podporováni
Benefity
- Plně vzdálená práce
- Možnost zvolit si vlastní pracovní dobu
- Týdenní platby prostřednictvím Stripe nebo Wise
- Konkurenceschopná hodinová odměna
- Možnost účastnit se projektů zahrnujících obsah s vyšší citlivostí
- Přístup k jasným pokynům a zdrojům pro podporu duševní pohody při práci s citlivým obsahem
- Na vyžádání jsou k dispozici přiměřená opatření
- Odměny za doporučení až 90 USD za každé úspěšné doporučení