51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Expert na bezpečnost AI — angličtina a maráthština (vzdálená práce na smlouvu)
Mercor hledá experta na bezpečnost AI, který plynně ovládá angličtinu a maráthštinu a bude testovat konverzační systémy AI z hlediska zranitelností. Práce na smlouvu se zaměřuje na adversariální testování, analýzu zranitelností a srozumitelné reportování pro projekty s lidsky vytvářenými daty a špičkovými modely AI.
Popis
- Testovat konverzační modely a agenty AI na jailbreaky, prompt injection, scénáře zneužití, využívání zkreslení a vícekrokovou manipulaci
- Vytvářet datové podklady připravené lidmi anotováním selhání, kategorizací zranitelností a identifikací systémových rizik
- Používat zavedené taxonomie, benchmarky a metodiky k zajištění konzistentního hodnocení
- Dodávat reprodukovatelné případy útoků, datové sady a zákaznické reporty
- Posuzovat odpovědi AI na citlivá témata včetně zkreslení, dezinformací a škodlivého chování
- Odhalovat slabiny, které mohou automatizované metody hodnocení přehlédnout
- Rozšiřovat pokrytí testování a pomáhat předcházet neočekávaným problémům v produkčním prostředí
- Pomáhat zákazníkům zvyšovat bezpečnost, odolnost a spolehlivost jejich systémů AI
- Spolupracovat s předními výzkumníky na iniciativách zaměřených na trénování a rozvoj špičkových modelů AI
Požadavky
- Rodilá nebo plynulá angličtina a maráthština
- Dobrý úsudek při hodnocení jazyka a obsahu
- Schopnost určit, zda jsou odpovědi AI přesné, úplné a vhodné, a své závěry jasně vysvětlit
- Pečlivost při odhalování nuancovaných chyb, nesrovnalostí a opomenutí
- Spolehlivé dodržování pokynů k testování a požadavků na kvalitu
- Jasná komunikace zdůvodnění s technickým i netechnickým publikem
- Flexibilita při práci na různých projektech, úkolech a pro různé zákazníky
- Schopnost pracovat jako nezávislý kontraktor
- Nesmí vyžadovat sponzorství víz H-1B nebo STEM OPT
- Výhodou: zkušenosti s adversariálním strojovým učením, včetně jailbreakových datových sad, prompt injection, útoků RLHF/DPO nebo extrakce modelů
- Výhodou: zkušenosti s kyberbezpečností, například s penetračním testováním, vývojem exploitů nebo reverzním inženýrstvím
- Výhodou: zkušenosti se sociotechnickými riziky, například s testováním obtěžování nebo dezinformací, analýzou zneužití či testováním konverzační AI
- Výhodou: zkušenosti z psychologie, herectví nebo psaní, které podporují nekonvenční adversariální uvažování
Benefity
- Plně vzdálená práce na smlouvu
- Flexibilní rozvrh s možností nastavit si vlastní pracovní dobu
- Týdenní platby prostřednictvím Stripe nebo Wise
- Délka projektu se může změnit nebo projekt může skončit dříve podle obchodních potřeb a pracovního výkonu
- Volitelná účast na projektech s obsahem zvýšené citlivosti
- Jasné pokyny a zdroje pro podporu duševní pohody při úkolech s citlivým obsahem
- Na vyžádání jsou k dispozici přiměřená opatření
- Odměny za doporučení až 90 USD za každé úspěšné doporučení