51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Vzdialený odborník na bezpečnosť AI (angličtina a gudžarátčina) – zmluvná spolupráca
Spoločnosť Mercor hľadá odborníka na bezpečnosť AI so znalosťou angličtiny a gudžarátčiny na zmluvnú spoluprácu pri red-teamovom testovaní pokročilých modelov AI. Práca zahŕňa testovanie zraniteľností, hodnotenie zlyhaní a tvorbu reprodukovateľných súborov údajov a prípadov útokov.
Popis
- Testovanie konverzačných modelov a agentov AI z hľadiska obídenia bezpečnostných mechanizmov, injektáže promptov, scenárov zneužitia, využívania zaujatosti a viacotáčkovej manipulácie
- Tvorba údajov generovaných ľuďmi anotovaním zlyhaní, kategorizáciou zraniteľností a identifikáciou systémových rizík
- Používanie zavedených taxonómií, referenčných testov a metodík na vykonávanie konzistentných hodnotení
- Tvorba reprodukovateľných zákazníckych správ, súborov údajov a prípadov útokov
- Hodnotenie výstupov AI z hľadiska citlivých problémov vrátane zaujatosti, dezinformácií a škodlivého správania
- Hľadanie slabých miest, ktoré automatizované testovanie neodhalí
- Rozšírenie pokrytia hodnotenia s cieľom pomôcť predchádzať neočakávaným problémom v produkcii
- Prispievanie k projektom, ktoré trénujú a zlepšujú pokročilé systémy AI
Požiadavky
- Plynulá alebo rodná znalosť angličtiny a gudžarátčiny
- Dobrý úsudok pri hodnotení jazyka a obsahu z hľadiska presnosti, úplnosti a vhodnosti
- Schopnosť odhaliť jemné chyby, nezrovnalosti a vynechania
- Dôsledné dodržiavanie zavedených usmernení a štandardov kvality
- Jasná komunikácia odôvodnení technickému aj netechnickému publiku
- Flexibilita pri práci na rôznych projektoch, formátoch úloh a potrebách zákazníkov
- Spolupráca ako nezávislý zmluvný dodávateľ
- Uchádzači s vízami H-1B a STEM OPT nie sú oprávnení
- Výhodou sú skúsenosti s nepriateľským strojovým učením vrátane súborov údajov na obchádzanie bezpečnostných mechanizmov, injektáže promptov, útokov RLHF/DPO alebo extrakcie modelov
- Výhodou sú skúsenosti v oblasti kybernetickej bezpečnosti s penetračným testovaním, vývojom exploitov alebo reverzným inžinierstvom
- Výhodou sú skúsenosti so sociotechnickými rizikami vrátane skúmania obťažovania alebo dezinformácií, analýzy zneužitia alebo testovania konverzačnej AI
- Výhodou sú skúsenosti z psychológie, herectva alebo písania, ktoré podporujú nekonvenčné antagonistické myslenie
Benefity
- Práca na diaľku z územia Spojených štátov
- Výber flexibilného pracovného času podľa vašej dostupnosti
- Týždenné platby prostredníctvom Stripe alebo Wise
- Možnosť zapojiť sa do projektov s vyššou citlivosťou alebo ich odmietnuť
- Prístup k jasným pokynom a zdrojom na podporu duševnej pohody pri úlohách s citlivým obsahom
- Konkurencieschopná hodinová odmena
- Na požiadanie sú k dispozícii primerané úpravy podmienok
- Možnosť získať až 90 USD za každé úspešné odporúčanie v súlade s platnými limitmi