51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Expert na red teaming bezpečnosti AI (angličtina a paňdžábština)
Provádějte adversariální testování konverzačních modelů a agentů AI v angličtině a paňdžábštině. Vytvářejte anotace zranitelností, útočné scénáře, datové sady a reprodukovatelné bezpečnostní zprávy pro projekty Mercor v oblasti bezpečnosti AI založené na lidských datech.
Popis
- Testovat konverzační modely a agenty AI pomocí jailbreaků, prompt injection, scénářů zneužití, využívání zkreslení a vícekolových manipulací
- Vytvářet anotace založené na lidských datech dokumentováním selhání, kategorizací zranitelností a identifikací systémových rizik
- Používat zavedené taxonomie, benchmarky a playbooky k zajištění konzistentního hodnocení
- Dodávat zákazníkům reprodukovatelné zprávy, datové sady a útočné scénáře
- Posuzovat výstupy AI týkající se zkreslení, dezinformací, škodlivého chování a dalších citlivých témat
- Rozšiřovat pokrytí hodnocení s cílem identifikovat zranitelnosti, které může automatizované testování přehlédnout
- Pomáhat zvyšovat bezpečnost, odolnost a důvěryhodnost systémů AI zákazníků
Požadavky
- Rodilá nebo plynulá znalost angličtiny a paňdžábštiny
- Dobrý úsudek při hodnocení přesnosti, úplnosti a vhodnosti obsahu generovaného AI
- Schopnost odhalovat jemné chyby, nesrovnalosti a opomenutí
- Důsledné dodržování pokynů, taxonomií, benchmarků, playbooků a standardů kvality
- Schopnost jasně vysvětlit způsob uvažování technickému i netechnickému publiku
- Flexibilita při práci na různých projektech, formátech úkolů a požadavcích zákazníků
- Schopnost pracovat jako nezávislý dodavatel
- Kandidáti s vízy H1-B a STEM OPT nejsou podporováni
- Výhodou jsou zkušenosti s adversariálním strojovým učením, datasety jailbreaků, útoky typu prompt injection nebo RLHF/DPO, extrakcí modelů, penetračním testováním, vývojem exploitů, reverzním inženýrstvím, zkoumáním obtěžování nebo dezinformací, analýzou zneužití, testováním konverzační AI, psychologií, herectvím nebo nekonvenčním adversariálním psaním
Benefity
- Plně vzdálená práce s flexibilním, samostatně řízeným rozvrhem
- Týdenní platby prostřednictvím Stripe nebo Wise
- Konkurenceschopné ohodnocení
- Zdroje pro podporu well-beingu a jasné pokyny pro projekty s vyšší mírou citlivosti
- Na vyžádání jsou k dispozici přiměřená opatření
- Doporučovací odměny až 90 USD za každé úspěšné doporučení
- Možnosti spolupráce s předními výzkumníky
- Praktické zkušenosti s red teamingem AI založeným na lidských datech na špičce bezpečnosti AI