51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na bezpečnosť AI – angličtina a gudžarátčina, zmluva na diaľku v USA
Vykonávajte odborné red-team hodnotenia konverzačných modelov a agentov AI pre spoločnosť Mercor. Vytvárajte údaje o zraniteľnostiach, scenáre útokov a reprodukovateľné hodnotenia bezpečnosti v angličtine a gudžarátčine.
Popis
- Testujte konverzačné modely a agentov AI pomocou jailbreakov, injekcií promptov, scenárov zneužitia, využívania zaujatosti a viacotáčkovej manipulácie
- Anotujte zlyhania, kategorizujte zraniteľnosti a eskalujte systémové riziká
- Používajte zavedené taxonómie, benchmarky a pracovné postupy na zachovanie konzistentného hodnotenia
- Vytvárajte reprodukovateľné správy, datasety a scenáre útokov
- Posudzujte výstupy AI týkajúce sa zaujatosti, dezinformácií, škodlivého správania a ďalších citlivých tém
- Odhaľujte slabé miesta, ktoré môže automatizované testovanie prehliadnuť
- Rozširujte pokrytie hodnotenia a pomáhajte obmedzovať neočakávané problémy v produkcii
- Zlepšujte AI systémy zákazníkov prostredníctvom red-teamingu založeného na ľuďmi vytvorených údajoch
Požiadavky
- Plynulá znalosť angličtiny a gudžarátčiny na úrovni rodeného hovoriaceho
- Rozvážny úsudok pri hodnotení jazyka a obsahu
- Schopnosť určiť, či sú odpovede AI presné, úplné a vhodné, a vysvetliť toto hodnotenie
- Veľká pozornosť venovaná jemným chybám, nezrovnalostiam a opomenutiam
- Dôsledné dodržiavanie pokynov a štandardov kvality
- Jasná komunikácia odôvodnení technickému aj netechnickému publiku
- Flexibilita pri práci na rôznych projektoch, formátoch úloh a so zákazníkmi
- Ochota pracovať ako nezávislý zmluvný spolupracovník
- Nesmiete byť kandidátom na vízum H-1B ani STEM OPT
- Výhodou sú skúsenosti s nepriateľským strojovým učením, kybernetickou bezpečnosťou, sociotechnickými rizikami alebo kreatívnym testovaním
Benefity
- Plne vzdialená zmluvná práca
- Flexibilný pracovný čas
- Týždenné platby prostredníctvom Stripe alebo Wise
- Možnosť zapojiť sa do projektov s vyššou citlivosťou
- Usmernenia a zdroje na podporu duševnej pohody pri práci s citlivým obsahom
- Konkurencieschopné odmeňovanie
- Príležitosť spolupracovať s poprednými výskumníkmi
- Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok
- Odporúčací program s odmenou až 90 USD za každé úspešné odporúčanie