51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Vzdálený odborník na bezpečnost AI (angličtina a tamilština)
Mercor hledá odborníka na bezpečnost AI, který ovládá angličtinu a tamilštinu, pro red-teamové testování konverzačních modelů a agentů. Náplní práce na základě smlouvy je identifikace zranitelností, hodnocení citlivých výstupů a tvorba reprodukovatelných bezpečnostních dat pro trénování špičkových systémů AI.
Popis
- Provádět red-teamové testování konverzačních modelů a agentů pomocí jailbreaků, injektáže promptů, scénářů zneužití, využívání předsudků a vícekrokové manipulace
- Označovat selhání, kategorizovat zranitelnosti a identifikovat systémová rizika
- Důsledně používat zavedené taxonomie, benchmarky a testovací postupy
- Vytvářet reprodukovatelné zprávy, datové sady a případy útoků
- Hodnotit výstupy AI týkající se předsudků, dezinformací, škodlivého chování a dalších citlivých témat
- Rozšiřovat pokrytí hodnocení hledáním slabých míst, která mohou automatizovanému testování uniknout
- Spolupracovat s projektovými týmy, které vyvíjejí a zdokonalují špičkové systémy AI
Požadavky
- Rodilá nebo plynulá znalost angličtiny i tamilštiny
- Dobrý úsudek při hodnocení jazyka a obsahu
- Schopnost určit, zda jsou odpovědi AI přesné, úplné a vhodné
- Mimořádná pozornost k jemným chybám, nesrovnalostem a opomenutím
- Důsledné dodržování pokynů a standardů kvality
- Schopnost jasně vysvětlovat své uvažování technickému i netechnickému publiku
- Flexibilita při práci na různých projektech, ve variabilních formátech úkolů a pro různé zákazníky
- Ochota pracovat jako nezávislý dodavatel
- Bez potřeby sponzorství víza H-1B nebo STEM OPT
- Výhodou jsou zkušenosti s adversariálním strojovým učením, kyberbezpečností, sociotechnickými riziky nebo kreativním hledáním zranitelností
Benefity
- Plně vzdálená práce
- Flexibilní pracovní doba
- Týdenní platby prostřednictvím Stripe nebo Wise
- Konkurenceschopná odměna
- Získání zkušeností s red-teamovým testováním AI založeným na datech vytvářených lidmi
- Možnost přispět k vyšší odolnosti, bezpečnosti a důvěryhodnosti systémů AI
- Spolupráce s předními výzkumníky
- Přiměřená přizpůsobení jsou k dispozici na vyžádání
- Odměny za doporučení až 90 USD za každé úspěšné doporučení