51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na bezpečnosť AI – angličtina a bengálčina (práca na diaľku na zmluvu)
Mercor hľadá odborníka na red teaming bezpečnosti AI, ktorý hovorí po anglicky a bengálsky a bude identifikovať zraniteľnosti v konverzačných systémoch AI. Úloha zahŕňa vytváranie reprodukovateľných útočných prípadov a ľuďmi vytváraných údajov na trénovanie špičkových modelov v laboratóriách AI.
Popis
- Testovanie konverzačných modelov a agentov AI pomocou jailbreakov, injektáže promptov, scenárov zneužitia, využívania zaujatosti a viacotáčkovej manipulácie
- Vytváranie ľuďmi generovaných údajov anotovaním zlyhaní, kategorizáciou zraniteľností a identifikáciou systémových rizík
- Používanie zavedených taxonómií, benchmarkov a testovacích príručiek na zachovanie konzistentnosti hodnotení
- Dodávanie reprodukovateľných správ, dátových súborov a útočných prípadov zákazníkom
- Posudzovanie odpovedí AI týkajúcich sa zaujatosti, dezinformácií, škodlivého správania a ďalších citlivých tém
- Rozširovanie pokrytia hodnotení a prispievanie k bezpečnejším systémom AI zákazníkov
Požiadavky
- Rodilá alebo plynulá znalosť angličtiny aj bengálčiny
- Dobrý úsudok pri hodnotení jazyka a obsahu vrátane schopnosti určiť, či sú odpovede AI presné, úplné a primerané, a vysvetliť toto posúdenie
- Veľká pozornosť venovaná jemným chybám, nezrovnalostiam a vynechaniam
- Spoľahlivé dodržiavanie testovacích pokynov a štandardov kvality
- Jasné vysvetľovanie dôvodov technickému aj netechnickému publiku
- Ochota prispôsobovať sa rôznym projektom, formátom úloh a zákazníkom
- Schopnosť pracovať ako nezávislý dodávateľ
- Nesmie vyžadovať sponzorstvo víz H-1B ani STEM OPT
- Výhodou sú skúsenosti s adversariálnym strojovým učením vrátane datasetov jailbreakov, injektáže promptov, útokov RLHF/DPO alebo extrakcie modelov
- Výhodou sú skúsenosti v oblasti kybernetickej bezpečnosti s penetračným testovaním, vývojom exploitov alebo reverzným inžinierstvom
- Výhodou sú skúsenosti so sociotechnickými rizikami vrátane testovania obťažovania alebo dezinformácií, analýzy zneužitia či testovania konverzačnej AI
- Výhodou sú skúsenosti z psychológie, herectva alebo písania podporujúce nekonvenčné adversariálne myslenie
Benefity
- Práca úplne na diaľku
- Flexibilný pracovný čas podľa vlastnej dostupnosti
- Týždenné platby prostredníctvom Stripe alebo Wise
- Možnosť rozhodnúť sa, či sa zapojiť do projektov s vyššou citlivosťou
- Prístup k jasným pokynom a zdrojom na podporu duševnej pohody pri úlohách s citlivým obsahom
- Konkurenčné finančné ohodnotenie
- Budovanie skúseností s red teamingom AI založeným na ľuďmi vytváraných údajoch
- Spolupráca s poprednými výskumníkmi v oblasti AI
- Odmeny za odporúčania až do výšky 90 USD za každé úspešné odporúčanie