51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Vzdálený odborník na bezpečnost AI — angličtina a ásámština (smluvní spolupráce)
Mercor hledá vzdáleného smluvního odborníka na bezpečnost AI s plynulou znalostí angličtiny a ásámštiny pro red teamové testování špičkových modelů, hodnocení zranitelností a tvorbu kvalitních lidsky označených dat pro projekty zaměřené na bezpečnost AI.
Popis
- Provádět red teamové testování konverzačních modelů a agentů AI pomocí jailbreaků, prompt injection, scénářů zneužití, využívání zkreslení a vícekrokové manipulace
- Vytvářet lidmi označená data anotováním selhání, kategorizací zranitelností a identifikací systémových rizik
- Používat taxonomie, benchmarky a playbooky k zajištění konzistentního hodnocení
- Vytvářet reprodukovatelné zprávy, datové sady a případy útoků pro zákazníky
- Hodnotit výstupy AI týkající se citlivých témat včetně zkreslení, dezinformací a škodlivého chování
- Identifikovat zranitelnosti, které automatizované testování nedokáže odhalit
- Rozšiřovat rozsah hodnocení s cílem pomáhat minimalizovat neočekávané problémy v produkčním prostředí
- Přispívat k projektům, které trénují a zlepšují špičkové systémy AI
Požadavky
- Rodilá nebo téměř rodilá znalost angličtiny i ásámštiny
- Dobrý úsudek při hodnocení kvality jazyka a obsahu
- Schopnost určit, zda jsou odpovědi AI přesné, úplné a vhodné
- Schopnost jasně vysvětlit své uvažování technickému i netechnickému publiku
- Mimořádná pozornost k nuancím chyb, nesrovnalostí a opomenutí
- Schopnost důsledně používat pokyny, taxonomie, benchmarky, playbooky a standardy kvality
- Flexibilita při práci na různých projektech, formátech úkolů a potřebách zákazníků
- Je nutné pracovat jako nezávislý dodavatel
- V současné době nelze poskytnout podporu kandidátům s vízem H-1B ani STEM OPT
- Preferované oblasti odbornosti zahrnují adversariální strojové učení, kybernetickou bezpečnost, sociotechnická rizika, hodnocení konverzační AI, psychologii, herectví a psaní
Benefity
- Práce plně na dálku
- Možnost nastavit si rozvrh podle svých potřeb
- Týdenní platby prostřednictvím Stripe nebo Wise
- Praktické zkušenosti s red teamovým testováním AI založeným na datech vytvořených lidmi
- Možnost pomáhat vytvářet odolnější, bezpečnější a důvěryhodnější systémy AI
- Spolupráce s předními výzkumníky v oblasti AI
- Na vyžádání jsou k dispozici přiměřená opatření
- Odměny za doporučení až do výše 90 USD za každé úspěšné doporučení, s výhradou platných limitů