51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Vzdálený odborník na bezpečnost AI (angličtina a gudžarátština) — kontrakt
Mercor hledá smluvního odborníka na bezpečnost AI, který plynně ovládá angličtinu a gudžarátštinu a bude provádět red teaming špičkových modelů AI. Náplní práce je testování zranitelností, vyhodnocování selhání a vytváření reprodukovatelných datových sad a útočných případů.
Popis
- Testovat konverzační modely a agenty AI na jailbreaky, injektáže promptů, scénáře zneužití, využití předpojatosti a vícekrokovou manipulaci
- Vytvářet data generovaná lidmi pomocí anotování selhání, kategorizace zranitelností a identifikace systémových rizik
- Používat zavedené taxonomie, benchmarky a playbooky k provádění konzistentních hodnocení
- Vytvářet reprodukovatelné zákaznické zprávy, datové sady a útočné případy
- Posuzovat výstupy AI z hlediska citlivých problémů včetně předpojatosti, dezinformací a škodlivého chování
- Odhalovat slabiny, které automatizované testování nezachytí
- Rozšiřovat rozsah hodnocení a pomáhat tak předcházet neočekávaným problémům v produkčním prostředí
- Přispívat k projektům, které trénují a zlepšují špičkové systémy AI
Požadavky
- Angličtina a gudžarátština na úrovni rodilého mluvčího nebo plynulá znalost
- Správný úsudek při hodnocení jazyka a obsahu z hlediska přesnosti, úplnosti a vhodnosti
- Schopnost odhalovat jemné chyby, nesrovnalosti a opomenutí
- Důsledné dodržování zavedených pokynů a standardů kvality
- Jasná komunikace odůvodnění technickému i netechnickému publiku
- Flexibilita při práci na různých projektech, formátech úkolů a potřebách zákazníků
- Spolupráce jako nezávislý dodavatel
- Uchazeči s vízem H-1B a statusem STEM OPT nejsou způsobilí
- Výhodou: zkušenosti s adversariálním strojovým učením, včetně jailbreakových datových sad, injektáže promptů, útoků RLHF/DPO nebo extrakce modelů
- Výhodou: zkušenosti s kybernetickou bezpečností, včetně penetračního testování, vývoje exploitů nebo reverzního inženýrství
- Výhodou: zkušenosti se sociotechnickými riziky, včetně zkoumání obtěžování nebo dezinformací, analýzy zneužití či testování konverzační AI
- Výhodou: zkušenosti z psychologie, herectví nebo psaní podporující nekonvenční adversariální myšlení
Benefity
- Práce na dálku ze Spojených států
- Flexibilní pracovní doba podle vaší dostupnosti
- Týdenní platby prostřednictvím Stripe nebo Wise
- Možnost účastnit se projektů s vyšší citlivostí nebo je odmítnout
- Přístup k jasným pokynům a zdrojům pro podporu well-beingu při úkolech s citlivým obsahem
- Konkurenceschopná hodinová odměna
- Na vyžádání jsou k dispozici přiměřená opatření
- Možnost získat až 90 USD za každé úspěšné doporučení s výhradou příslušných limitů