51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Red teamer pre bezpečnosť AI (angličtina a telugčina) – vzdialená zmluvná spolupráca
Ako anglicky a telugsky hovoriaci red teamer skúmajte konverzačné modely a agentov AI s cieľom odhaliť bezpečnostné zraniteľnosti. Vytvárajte údaje o zraniteľnostiach, reprodukovateľné prípady útokov a hodnotiace správy pre projekty trénovania AI.
Popis
- Testujte konverzačné modely a agentov AI pomocou jailbreakov, injektáže promptov, scenárov zneužitia, zneužívania zaujatosti a viacotáčkovej manipulácie
- Anotujte zlyhania, klasifikujte zraniteľnosti a označujte systémové riziká v údajoch vytvorených ľuďmi
- Používajte taxonómie, benchmarky a metodiky na konzistentné testovanie
- Vytvárajte reprodukovateľné správy, súbory údajov a prípady útokov
- Vyhodnocujte výstupy AI z hľadiska zaujatosti, dezinformácií, škodlivého správania a ďalších citlivých problémov
- Odhaľujte zraniteľnosti, ktoré môže automatizované testovanie prehliadnuť
- Rozširujte pokrytie hodnotenia a pomáhajte znižovať neočakávané problémy v produkcii
- Spolupracujte s projektovými tímami, ktoré podporujú trénovanie a zlepšovanie systémov AI
Požiadavky
- Plynulá znalosť angličtiny a telugčiny na úrovni rodeného hovoriaceho
- Správny úsudok pri hodnotení jazyka a obsahu
- Schopnosť určiť, či sú odpovede AI presné, úplné a vhodné
- Schopnosť odhaliť jemné chyby, nezrovnalosti a opomenutia
- Dôsledné dodržiavanie usmernení a noriem kvality
- Schopnosť jasne vysvetliť svoje uvažovanie technickému aj netechnickému publiku
- Flexibilita pri práci na rôznych projektoch, typoch úloh a pre rôznych zákazníkov
- Dostupnosť na prácu ako nezávislý zmluvný spolupracovník
- Nie ste kandidátom na víza H-1B ani STEM OPT
- Špecializácia na útočné strojové učenie, kybernetickú bezpečnosť, sociotechnické riziká alebo kreatívne testovanie je výhodou
Benefity
- Práca na diaľku odkiaľkoľvek
- Flexibilný pracovný čas
- Týždenné platby prostredníctvom Stripe alebo Wise
- Konkurenčná hodinová odmena
- Zdroje na podporu duševnej pohody a jasné pokyny pre projekty s vyššou citlivosťou
- Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok
- Odmeny za odporúčanie až do výšky 90 USD za každé úspešné odporúčanie