51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na red teaming bezpečnosti AI (angličtina a pandžábčina)
Mercor hľadá odborníka na bezpečnosť AI, ktorý hovorí po anglicky a pandžábsky, na red teaming konverzačných modelov a agentov. Zmluvná pozícia sa zameriava na odhaľovanie zraniteľností, tvorbu útočných scenárov a prípravu reprodukovateľných bezpečnostných správ pre zákazníkov z oblasti výskumu AI.
Popis
- Testovanie konverzačných modelov a agentov AI pomocou jailbreakov, injekcií promptov, scenárov zneužitia, využívania zaujatosti a viacotáčkovej manipulácie
- Hodnotenie výstupov modelov pri citlivých témach vrátane zaujatosti, dezinformácií a škodlivého správania
- Dokumentovanie zlyhaní, kategorizácia zraniteľností a identifikácia systémových rizík
- Používanie zavedených taxonómií, benchmarkov a testovacích postupov na zachovanie konzistentného hodnotenia
- Tvorba reprodukovateľných správ, dátových súborov a útočných scenárov pre zákazníkov
- Skúmanie systémov AI s cieľom odhaliť slabiny, ktoré môže automatizované testovanie prehliadnuť
- Rozšírenie pokrytia hodnotenia s cieľom obmedziť neočakávané problémy v produkcii
- Zlepšovanie systémov AI zákazníkov prostredníctvom red teamingu vedeného ľuďmi a založeného na dátach
Požiadavky
- Aktívna alebo plynulá znalosť angličtiny a pandžábčiny
- Správny úsudok pri hodnotení jazyka a obsahu
- Schopnosť určiť, či sú odpovede AI presné, úplné a vhodné, a vysvetliť toto hodnotenie
- Dôkladná pozornosť venovaná jemným chybám, nezrovnalostiam a opomenutiam
- Dôsledné dodržiavanie testovacích pokynov a kvalitatívnych štandardov
- Schopnosť jasne komunikovať odôvodnenie technickému aj netechnickému publiku
- Flexibilita pri práci na rôznych projektoch, formátoch úloh a pre rôznych zákazníkov
- Možnosť pracovať ako nezávislý dodávateľ
- Nesmie byť potrebná podpora H-1B ani STEM OPT
- Preferované skúsenosti môžu zahŕňať adversariálne strojové učenie, datasety jailbreakov, injekcie promptov, útoky RLHF/DPO, extrakciu modelov, penetračné testovanie, vývoj exploitov, reverzné inžinierstvo, testovanie obťažovania alebo dezinformácií, analýzu zneužitia, testovanie konverzačnej AI, psychológiu, herectvo alebo písanie
Benefity
- Práca na diaľku odkiaľkoľvek, kde to táto pozícia umožňuje
- Vlastné nastavenie pracovného času
- Týždenné platby za poskytnuté služby prostredníctvom Stripe alebo Wise
- Projekty môžu byť podľa obchodných potrieb a výkonu predĺžené, zmenšené alebo ukončené skôr
- Prístup k zdrojom na podporu duševnej pohody a jasným pokynom pre projekty s vyššou citlivosťou
- Získanie skúseností s red teamingom AI založeným na ľudských dátach
- Pomoc pri zvyšovaní odolnosti, bezpečnosti a dôveryhodnosti systémov AI
- Konkurenčné finančné ohodnotenie
- Spolupráca s poprednými výskumníkmi v oblasti AI