51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Vzdálený expert na bezpečnost AI (angličtina a telugština)
Mercor hledá odborníka na red teaming bezpečnosti AI, který plynně ovládá angličtinu a telugštinu a bude odhalovat zranitelnosti pokročilých modelů AI. Náplní práce je vytváření adversariálních testů, strukturovaných datových sad a reprodukovatelných zpráv.
Popis
- Testovat konverzační modely AI a agenty pomocí jailbreaků, prompt injection, scénářů zneužití, využívání předpojatosti a vícekrokové manipulace
- Dokumentovat selhání, kategorizovat zranitelnosti a identifikovat systémová rizika
- Používat zavedené taxonomie, benchmarky a postupy pro konzistentní hodnocení
- Vytvářet reprodukovatelné zprávy, datové sady a případy adversariálních útoků
- Posuzovat výstupy AI z hlediska předpojatosti, dezinformací, škodlivého chování a dalších rizik spojených s citlivým obsahem
- Rozšiřovat rozsah hodnocení a odhalovat zranitelnosti, které mohou automatizované testy přehlédnout
- Podílet se na projektech zaměřených na trénování a zdokonalování pokročilých systémů AI
Požadavky
- Plynulá znalost angličtiny a telugštiny na úrovni rodilého mluvčího
- Dobrý úsudek při posuzování přesnosti, úplnosti a vhodnosti odpovědí AI
- Schopnost odhalit jemné chyby, nesrovnalosti a opomenutí
- Důsledné dodržování pokynů a standardů kvality
- Schopnost srozumitelně vysvětlovat postup uvažování technickému i netechnickému publiku
- Flexibilita při práci na různých projektech, formátech úkolů a pro různé zákazníky
- Ochota pracovat jako nezávislý dodavatel
- Nesmí vyžadovat podporu víz H-1B nebo STEM OPT
- Zkušenosti s adversariálním strojovým učením, kybernetickou bezpečností, sociotechnickými riziky nebo kreativním hledáním zranitelností jsou výhodou
Benefity
- Plně vzdálená práce
- Možnost zvolit si vlastní pracovní dobu
- Týdenní platby prostřednictvím Stripe nebo Wise
- Délka projektu se může změnit nebo může být předčasně ukončen v závislosti na obchodních potřebách a pracovních výsledcích
- Konkurenceschopná hodinová odměna
- Možnost získat zkušenosti s red teamingem AI založeným na datech vytvořených lidmi
- Pomoc při zvyšování odolnosti, bezpečnosti a důvěryhodnosti systémů AI
- Přiměřené úpravy pracovních podmínek jsou k dispozici na vyžádání
- Až 90 USD za každé úspěšné doporučení