51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na red teaming v oblasti bezpečnosti AI – angličtina a fínčina, práca na diaľku v Spojených štátoch
Vykonávanie adversariálneho testovania konverzačných modelov a agentov AI pre projekty spoločnosti Mercor využívajúce ľudské dáta na vývoj AI. Tvorba reprodukovateľných údajov o zraniteľnostiach na pomoc pri posilňovaní pokročilých systémov AI.
Popis
- Testovanie konverzačných modelov a agentov AI pomocou jailbreakov, injektovania promptov, scenárov zneužitia, využívania zaujatosti a viacotáčkovej manipulácie
- Anotovanie zlyhaní, kategorizácia zraniteľností a identifikácia systémových rizík
- Uplatňovanie zavedených taxonómií, benchmarkov a metodík na konzistentné hodnotenia
- Tvorba reprodukovateľných správ, súborov údajov a útočných prípadov pre zákazníkov
- Identifikácia zraniteľností, ktoré môže automatizované testovanie prehliadnuť
- Rozširovanie pokrytia hodnotení a pomoc pri znižovaní neočakávaných problémov v produkcii
- Spolupráca s poprednými výskumníkmi na projektoch, ktoré trénujú a zlepšujú systémy AI
Požiadavky
- Plynulá alebo materinská znalosť angličtiny a fínčiny
- Predchádzajúce skúsenosti s red teamingom v oblasti adversariálnej práce s AI, kybernetickej bezpečnosti alebo sociotechnického skúmania
- Schopnosť adversariálne testovať systémy AI a privádzať ich ku kritickým bodom zlyhania
- Skúsenosti s uplatňovaním rámcov alebo benchmarkov na štruktúrované testovanie
- Schopnosť jasne komunikovať riziká technickému aj netechnickému publiku
- Prispôsobivosť rôznym projektom a požiadavkám zákazníkov
- Dostupnosť na spoluprácu ako nezávislý dodávateľ
- Nesmiete byť kandidátom na vízum H-1B ani STEM OPT
- Výhodou sú skúsenosti s adversariálnym strojovým učením vrátane súborov údajov jailbreakov, injektovania promptov, útokov RLHF/DPO alebo extrakcie modelov
- Výhodou sú skúsenosti s kybernetickou bezpečnosťou v oblasti penetračného testovania, vývoja exploitov alebo reverzného inžinierstva
- Výhodou sú skúsenosti so sociotechnickými rizikami pri skúmaní obťažovania alebo dezinformácií, analýze zneužitia či testovaní konverzačnej AI
- Výhodou sú skúsenosti z psychológie, herectva alebo písania, ktoré podporujú nekonvenčné adversariálne myslenie
Benefity
- Plne vzdialená práca
- Flexibilný pracovný čas
- Týždenné platby prostredníctvom Stripe alebo Wise
- Zdroje na podporu duševnej pohody a jasné pokyny pre projekty s vyššou citlivosťou
- Príležitosť získať skúsenosti s red teamingom AI založeným na ľudských dátach
- Priama príležitosť pomôcť zvýšiť robustnosť, bezpečnosť a dôveryhodnosť systémov AI
- Konkurenčná odmena
- Referral bonus až do výšky 250 USD za každé úspešné odporúčanie