51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na red teaming bezpečnosti AI (angličtina a pandžábčina)
Vykonávajte adversariálne testovanie konverzačných modelov a agentov AI v angličtine a pandžábčine. Vytvárajte anotácie zraniteľností, útočné prípady, datasety a reprodukovateľné bezpečnostné správy pre projekty spoločnosti Mercor v oblasti AI bezpečnosti založené na ľudských dátach.
Popis
- Testujte konverzačné modely a agentov AI pomocou jailbreakov, injekcií promptov, scenárov zneužitia, využívania skreslení a viacotáčkovej manipulácie
- Vytvárajte anotácie ľudských dát dokumentovaním zlyhaní, kategorizovaním zraniteľností a identifikovaním systémových rizík
- Používajte zavedené taxonómie, benchmarky a playbooky na zabezpečenie konzistentného hodnotenia
- Dodávajte zákazníkom reprodukovateľné správy, datasety a útočné prípady
- Posudzujte výstupy AI súvisiace so skreslením, dezinformáciami, škodlivým správaním a ďalšími citlivými témami
- Rozširujte pokrytie hodnotenia s cieľom identifikovať zraniteľnosti, ktoré môže automatizované testovanie prehliadnuť
- Pomáhajte zlepšovať bezpečnosť, odolnosť a dôveryhodnosť systémov AI zákazníkov
Požiadavky
- Rodná alebo plynulá znalosť angličtiny a pandžábčiny
- Správny úsudok pri hodnotení presnosti, úplnosti a primeranosti obsahu generovaného AI
- Schopnosť odhaliť nuansované chyby, nezrovnalosti a opomenutia
- Dôsledné dodržiavanie usmernení, taxonómií, benchmarkov, playbookov a štandardov kvality
- Jasná komunikácia odôvodnení pre technické aj netechnické publikum
- Flexibilita pri práci na rôznych projektoch, formátoch úloh a podľa požiadaviek zákazníkov
- Schopnosť pracovať ako nezávislý kontraktor
- Uchádzači s vízami H1-B a STEM OPT nie sú podporovaní
- Výhodou sú skúsenosti s adversariálnym strojovým učením, datasetmi jailbreakov, útokmi typu injekcia promptu alebo RLHF/DPO, extrakciou modelov, penetračným testovaním, vývojom exploitov, reverzným inžinierstvom, testovaním obťažovania alebo dezinformácií, analýzou zneužitia, testovaním konverzačnej AI, psychológiou, herectvom alebo nekonvenčným adversariálnym písaním
Benefity
- Plne vzdialená práca s flexibilným rozvrhom, ktorý si riadite sami
- Týždenné platby prostredníctvom Stripe alebo Wise
- Konkurencieschopné odmeňovanie
- Zdroje na podporu duševnej pohody a jasné pokyny pre projekty s vyššou citlivosťou
- Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok
- Odmeny za odporúčania až do výšky 90 USD za každé úspešné odporúčanie
- Príležitosti na spoluprácu s poprednými výskumníkmi
- Praktické skúsenosti s red teamingom AI založeným na ľudských dátach na hranici AI bezpečnosti