51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Vzdálený odborník na bezpečnost AI (angličtina a kannadština)
Provádějte adversariální testování nejpokročilejších modelů AI společnosti Mercor pomocí vstupů v angličtině a kannadštině a odhalujte zranitelnosti. Vytvářejte reprodukovatelná bezpečnostní data, případy útoků a zprávy pro zákazníky AI.
Popis
- Testovat konverzační modely a agenty AI pomocí jailbreaků, injektáže promptů, scénářů zneužití, využívání zaujatosti a vícekrokové manipulace
- Vytvářet data generovaná lidmi anotováním selhání, kategorizací zranitelností a identifikací systémových rizik
- Používat zavedené taxonomie, benchmarky a playbooky k zajištění konzistentního hodnocení
- Vypracovávat reprodukovatelné zprávy, datové sady a případy útoků, které mohou zákazníci využít
- Posuzovat výstupy AI na citlivá témata včetně zaujatosti, dezinformací a škodlivého chování
- Odhalovat slabiny, které mohou automatizovaná hodnocení přehlédnout
- Rozšiřovat pokrytí hodnocení a pomáhat předcházet neočekávaným problémům v produkci
- Přispívat k projektům zaměřeným na trénování a zlepšování systémů AI pro laboratoř AI společnosti Mercor a podnikové zákazníky
Požadavky
- Rodilá nebo plynulá znalost angličtiny i kannadštiny
- Dobrý úsudek při posuzování jazyka a obsahu včetně přesnosti, úplnosti a vhodnosti odpovědí AI
- Schopnost jasně komunikovat způsob uvažování s technickým i netechnickým publikem
- Pečlivost při odhalování jemných chyb, nesrovnalostí a opomenutí
- Schopnost důsledně uplatňovat taxonomie, benchmarky, playbooky, pokyny a standardy kvality
- Flexibilita při práci na různých projektech, formátech úkolů a pro různé zákazníky
- Je nutné pracovat jako nezávislý dodavatel
- Uchazeči nesmějí usilovat o status H-1B ani STEM OPT
- Výhodou: zkušenosti s adversariálním strojovým učením, včetně datových sad jailbreaků, útoků pomocí injektáže promptů, útoků RLHF nebo DPO či extrakce modelů
- Výhodou: zkušenosti v oblasti kybernetické bezpečnosti, například s penetračním testováním, vývojem exploitů nebo reverzním inženýrstvím
- Výhodou: zkušenosti se sociotechnickými riziky, například s průzkumem obtěžování nebo dezinformací, analýzou zneužití či testováním konverzační AI
- Výhodou: zkušenosti z psychologie, herectví nebo psaní, které podporují nekonvenční adversariální uvažování
Benefity
- Plně vzdálená práce na základě smlouvy s flexibilním rozvrhem
- Týdenní platby prostřednictvím Stripe nebo Wise podle poskytnutých služeb
- Možnost získat zkušenosti s red teamingem předních systémů AI zaměřeným na bezpečnost a založeným na datech vytvořených lidmi
- Smysluplný příspěvek k vyšší odolnosti, bezpečnosti a důvěryhodnosti systémů AI
- Zdroje pro podporu duševní pohody a jasná doporučení pro projekty zahrnující obsah s vyšší citlivostí
- Přiměřená opatření jsou k dispozici na vyžádání
- Odměny za doporučení až do výše 90 USD za každé úspěšné doporučení s výhradou příslušných omezení