51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Expert na bezpečnost AI — angličtina a finština (na dálku)
Mercor hledá odborníky na bezpečnost AI, kteří hovoří anglicky a finsky, pro red team testování konverzačních modelů a agentů AI. Náplní práce je vytváření reprodukovatelných údajů o zranitelnostech a případů útoků pro projekty trénování pokročilých systémů AI.
Popis
- Provádět adversariální testování konverzačních modelů a agentů AI pomocí jailbreaků, injektáže promptů, scénářů zneužití, využívání zkreslení a vícekrokové manipulace
- Dokumentovat selhání, kategorizovat zranitelnosti a identifikovat systémová rizika
- Používat zavedené taxonomie, benchmarky a playbooky k zajištění konzistentního hodnocení
- Vytvářet reprodukovatelné zprávy, datové soubory a případy útoků
- Zkoumat výstupy modelů týkající se zkreslení, dezinformací a škodlivého chování
- Rozšiřovat rozsah hodnocení s cílem odhalit zranitelnosti, které mohou automatizované testy přehlédnout
- Spolupracovat s projektovými týmy podporujícími trénování a zlepšování pokročilých systémů AI
Požadavky
- Plynulá nebo rodilá znalost angličtiny a finštiny
- Předchozí zkušenost s red team testováním v oblasti adversariálního testování AI, kybernetické bezpečnosti nebo sociotechnického zkoumání
- Prokázaná schopnost adversariálně testovat systémy AI
- Schopnost pracovat s frameworky, taxonomiemi, benchmarky a playbooky
- Schopnost jasně komunikovat rizika technickému i netechnickému publiku
- Přizpůsobivost při práci na různých projektech a pro různé zákazníky
- Je nutné pracovat jako nezávislý dodavatel
- Je nutné být schopen pracovat bez důvěrných nebo vlastnických informací patřících jinému zaměstnavateli, klientovi nebo instituci
- Uchazeči s vízy H-1B a STEM OPT nejsou podporováni
Benefity
- Plně vzdálená smluvní práce
- Flexibilní rozvrh s možností určovat si pracovní dobu
- Možnost účastnit se projektů s vyšší citlivostí
- Jasné pokyny a zdroje pro podporu duševní pohody
- Týdenní platby prostřednictvím Stripe nebo Wise
- Konkurenční odměna
- Možnost získat doporučovací odměnu až 250 amerických dolarů za každé úspěšné doporučení
- Přiměřená opatření jsou k dispozici na vyžádání