51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Expert na bezpečnost AI — angličtina a telugština (práce na dálku na smlouvu)
Provádějte red-teamová hodnocení konverzačních modelů a agentů AI pro Mercor a odhalujte zranitelnosti pomocí adversariálního testování. Vytvářejte kvalitní datové sady, útočné scénáře a srozumitelné zprávy zaměřené na výkon v angličtině a telugštině.
Popis
- Testovat konverzační modely a agenty AI z hlediska jailbreaků, prompt injection, scénářů zneužití, využití zaujatosti a vícekolové manipulace
- Vytvářet data generovaná lidmi označováním selhání, kategorizací zranitelností a identifikací systémových rizik
- Používat zavedené taxonomie, benchmarky a playbooky k zajištění konzistentního hodnocení
- Vytvářet reprodukovatelné zprávy, datové sady a případy adversariálních útoků
- Posuzovat odpovědi AI týkající se zaujatosti, dezinformací, škodlivého chování a dalších citlivých témat
- Odhalovat slabá místa, která mohou automatizované metody hodnocení přehlédnout
- Rozšiřovat rozsah hodnocení a pomáhat předcházet neočekávaným problémům v produkčním prostředí
- Zlepšovat zákaznické systémy AI pomocí strukturovaného adversariálního testování
Požadavky
- Plynulá znalost angličtiny a telugštiny na úrovni rodilého mluvčího
- Dobrý úsudek při hodnocení jazyka a obsahu
- Schopnost určit, zda jsou odpovědi AI přesné, úplné a vhodné, a vysvětlit své uvažování
- Mimořádná pozornost k jemným chybám, nesrovnalostem a opomenutím
- Důsledné dodržování pokynů a standardů kvality
- Schopnost jasně vysvětlit své uvažování technickému i netechnickému publiku
- Flexibilita při práci na různých projektech, formátech úkolů a pro různé zákazníky
- Schopnost pracovat jako nezávislý dodavatel
- Nesmí být vyžadováno sponzorství víz H-1B nebo STEM OPT
- Zkušenosti s adversariálním strojovým učením, kybernetickou bezpečností, sociotechnickými riziky nebo kreativním testováním jsou výhodou
Benefity
- Plně vzdálená práce
- Flexibilní pracovní doba podle vašich možností
- Týdenní platby prostřednictvím Stripe nebo Wise
- Délka projektu se může změnit nebo může být předčasně ukončen podle obchodních potřeb a pracovních výsledků
- Přístup ke zdrojům pro podporu zdraví a pohody a k jasným pokynům pro úkoly s vyšší citlivostí
- Možnost získat zkušenosti s red teamingem AI založeným na datech vytvořených lidmi
- Pomoc při zvyšování odolnosti, bezpečnosti a důvěryhodnosti systémů AI
- Konkurenceschopná odměna
- Spolupráce s předními výzkumníky
- Na vyžádání jsou k dispozici přiměřená opatření