51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Expert na bezpečnost AI — angličtina a bengálština (vzdálený kontrakt)
Mercor hledá odborníka na red teaming bezpečnosti AI, který ovládá angličtinu a bengálštinu, aby odhaloval zranitelnosti konverzačních AI systémů. Náplní práce je vytváření reprodukovatelných případů útoků a dat vytvořených lidmi pro AI laboratoře trénující pokročilé modely.
Popis
- Testovat konverzační modely a agenty AI pomocí jailbreaků, vkládání promptů, scénářů zneužití, využívání zkreslení a vícekrokové manipulace
- Vytvářet data vytvořená lidmi pomocí anotování selhání, kategorizace zranitelností a identifikace systémových rizik
- Používat zavedené taxonomie, benchmarky a metodiky k zajištění konzistentního hodnocení
- Dodávat zákazníkům reprodukovatelné zprávy, datové sady a případy útoků
- Posuzovat odpovědi AI týkající se zkreslení, dezinformací, škodlivého chování a dalších citlivých témat
- Rozšiřovat pokrytí hodnocení a přispívat k bezpečnějším systémům AI pro zákazníky
Požadavky
- Rodilá nebo plynulá znalost angličtiny i bengálštiny
- Rozvážný úsudek při hodnocení jazyka a obsahu, včetně schopnosti určit, zda jsou odpovědi AI přesné, úplné a vhodné, a své hodnocení vysvětlit
- Velká pozornost k nenápadným chybám, nesrovnalostem a opomenutím
- Spolehlivé dodržování pokynů pro testování a standardů kvality
- Jasná komunikace úvah s technickým i netechnickým publikem
- Ochota přizpůsobovat se různým projektům, formátům úkolů a zákazníkům
- Schopnost pracovat jako nezávislý dodavatel
- Nesmí být vyžadováno sponzorování víz H-1B nebo STEM OPT
- Výhodou: zkušenost s adversariálním strojovým učením, včetně datových sad jailbreaků, vkládání promptů, útoků RLHF/DPO nebo extrakce modelů
- Výhodou: zkušenost s kybernetickou bezpečností, včetně penetračního testování, vývoje exploitů nebo reverzního inženýrství
- Výhodou: zkušenost se sociotechnickými riziky, včetně testování obtěžování nebo dezinformací, analýzy zneužití či testování konverzační AI
- Výhodou: zkušenost z psychologie, herectví nebo psaní podporující nekonvenční adversariální myšlení
Benefity
- Plně vzdálená práce
- Flexibilní rozvrh podle vlastní dostupnosti
- Týdenní platby prostřednictvím Stripe nebo Wise
- Možnost zvolit si účast na projektech s vyšší citlivostí
- Přístup k jasným pokynům a zdrojům pro podporu duševní pohody u úkolů s citlivým obsahem
- Konkurenceschopná odměna
- Získání zkušeností s red teamingem bezpečnosti AI založeným na datech vytvořených lidmi
- Spolupráce s předními výzkumníky AI
- Odměny za doporučení až 90 USD za každé úspěšné doporučení