51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Vzdálený odborník na bezpečnost AI (angličtina a tamilština)
Mercor hledá dodavatele pro bezpečnost AI, který plynně ovládá angličtinu a tamilštinu a bude provádět red-teamové testování konverzačních modelů a agentů. Práce se zaměřuje na testování obcházení ochranných mechanismů, analýzu zranitelností, posuzování škodlivého chování a tvorbu strukturovaných dat pro vývoj pokročilých systémů AI.
Popis
- Testovat konverzační modely a agenty pomocí obcházení ochranných mechanismů, injektáže promptů, scénářů zneužití, využívání předsudků a vícekolové manipulace
- Vytvářet lidmi generované datové sady anotováním selhání, kategorizací zranitelností a identifikací systémových rizik
- Používat zavedené taxonomie, benchmarky a metodiky k zajištění konzistentního hodnocení
- Vytvářet reprodukovatelné zprávy, datové sady a případy útoků
- Posuzovat výstupy AI týkající se citlivých témat včetně předsudků, dezinformací a škodlivého chování
- Rozšiřovat rozsah hodnocení s cílem odhalit slabiny, které mohou automatizované testy přehlédnout
- Podporovat laboratoř AI společnosti Mercor a podnikové zákazníky při trénování a zlepšování pokročilých systémů AI
Požadavky
- Rodilá nebo plynulá znalost angličtiny a tamilštiny
- Dobrý úsudek při hodnocení jazyka a obsahu včetně toho, zda jsou odpovědi AI přesné, úplné a vhodné
- Schopnost odhalovat jemné chyby, nesrovnalosti a opomenutí
- Důsledné dodržování pokynů, taxonomií, benchmarků, metodik a standardů kvality
- Jasné vysvětlování postupu uvažování technickému i netechnickému publiku
- Flexibilita při práci na různých projektech, formátech úkolů a pro různé zákazníky
- Schopnost pracovat jako nezávislý dodavatel
- Kandidátům s H1-B a STEM OPT v současnosti nelze poskytnout podporu
- Zkušenosti s adversariálním strojovým učením, kybernetickou bezpečností, sociotechnickými riziky nebo kreativním testováním jsou výhodou
Benefity
- Plně vzdálená práce
- Flexibilní pracovní doba s možností pracovat v čase, který vám vyhovuje
- Týdenní platby prostřednictvím Stripe nebo Wise
- Konkurenceschopné odměňování
- Přístup ke zdrojům pro podporu duševní pohody a jasným pokynům pro projekty s vyšší citlivostí
- Délka projektu se může změnit nebo může skončit dříve podle obchodních potřeb a pracovních výsledků
- Odměny za doporučení až 90 USD za každé úspěšné doporučení