51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na bezpečnosť AI – angličtina a asámčina | Vzdialená zmluva s Mercorom
Vykonávajte adversariálne testovanie špičkových modelov AI s cieľom odhaliť jailbreaky, skreslenie, zneužitie a ďalšie bezpečnostné riziká. Vytvárajte anotácie údajov od ľudí, klasifikácie zraniteľností a reprodukovateľné dôkazy útokov pre zákazníkov spoločnosti Mercor.
Popis
- Adversariálne testovanie konverzačných modelov a agentov AI zamerané na jailbreaky, injekciu promptov, zneužitie, využívanie skreslenia a viacotáčkovú manipuláciu
- Vytváranie anotácií údajov od ľudí, klasifikácia zlyhaní a identifikácia systémových rizík
- Používanie zavedených taxonómií, benchmarkov a príručiek na štandardizáciu hodnotení
- Dodávanie reprodukovateľných správ, súborov údajov a prípadov útokov zákazníkom
- Hodnotenie odpovedí AI týkajúcich sa skreslenia, dezinformácií, škodlivého správania a ďalších citlivých tém
- Vyhľadávanie slabých miest, ktoré automatizované testovanie neodhalí
- Rozširovanie pokrytia hodnotení s cieľom pomôcť predchádzať neočakávaným problémom v produkcii
- Zlepšovanie systémov AI zákazníkov prostredníctvom štruktúrovaného adversariálneho testovania
Požiadavky
- Plynulá znalosť angličtiny a asámčiny na úrovni rodeného hovoriaceho
- Správny úsudok pri hodnotení jazyka a obsahu z hľadiska presnosti, úplnosti a vhodnosti
- Schopnosť odhaliť jemné chyby, nezrovnalosti a opomenutia
- Dôsledné dodržiavanie pokynov a noriem kvality
- Jasné vysvetľovanie odôvodnení technickému aj netechnickému publiku
- Flexibilita pri práci na rôznych projektoch, formátoch úloh a potrebách zákazníkov
- Výhodou sú skúsenosti s adversariálnym strojovým učením vrátane súborov údajov o jailbreakoch, injekcii promptov, útokoch RLHF alebo DPO či extrakcii modelov
- Výhodou sú skúsenosti s kybernetickou bezpečnosťou v oblasti penetračného testovania, vývoja exploitov alebo reverzného inžinierstva
- Výhodou sú skúsenosti so sociotechnickými rizikami, napríklad skúmaním obťažovania alebo dezinformácií, analýzou zneužitia či testovaním konverzačnej AI
- Výhodou sú skúsenosti z psychológie, herectva alebo písania, ktoré podporujú nekonvenčné adversariálne myslenie
- Je potrebné pracovať ako nezávislý dodávateľ
- Uchádzači s vízami H-1B a STEM OPT nie sú podporovaní
Benefity
- Práca je úplne na diaľku
- Vyberte si vlastný pracovný rozvrh
- Týždenné platby prostredníctvom Stripe alebo Wise
- Získajte praktické skúsenosti s red teamingom AI založeným na údajoch od ľudí
- Pomáhajte robiť systémy AI robustnejšími, bezpečnejšími a dôveryhodnejšími
- Pracujte s poprednými výskumníkmi
- Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok
- Za úspešné odporúčania môžete získať odmeny až do výšky 90 USD