51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na bezpečnostný red teaming AI (angličtina a telugčina) – vzdialená zmluvná práca
Testujte konverzačné modely AI na úniky z obmedzení, injektáž promptov, zneužitie, zaujatosť a ďalšie zlyhania v oblasti bezpečnosti. Dokumentujte reprodukovateľné zraniteľnosti a hodnotiace údaje pre zákazníkov výskumu AI.
Popis
- Adverzárne testovanie konverzačných modelov a agentov AI na úniky z obmedzení, injektáž promptov, zneužitie, využívanie zaujatosti a viacotáčkovú manipuláciu
- Anotovanie zlyhaní testov, kategorizovanie zraniteľností a identifikácia systémových rizík
- Uplatňovanie zavedených taxonómií, benchmarkov a pracovných postupov na zachovanie konzistentného hodnotenia
- Tvorba reprodukovateľných správ, súborov údajov a scenárov útokov pre zákazníkov
- Posudzovanie odpovedí AI na citlivé témy vrátane zaujatosti, dezinformácií a škodlivého správania
- Vyhľadávanie slabín, ktoré automatizované metódy hodnotenia nedokážu odhaliť
- Rozširovanie pokrytia hodnotenia s cieľom pomôcť predchádzať neočakávaným problémom v produkcii
- Zlepšovanie systémov AI zákazníkov prostredníctvom opakovaného adverzárneho testovania
Požiadavky
- Natívna znalosť angličtiny aj telugčiny
- Správny úsudok pri hodnotení jazyka a obsahu z hľadiska presnosti, úplnosti a vhodnosti
- Schopnosť jasne komunikovať odôvodnenia technickému aj netechnickému publiku
- Dôsledná pozornosť venovaná jemným chybám, nezrovnalostiam a opomenutiam
- Schopnosť konzistentne dodržiavať usmernenia a štandardy kvality
- Flexibilita pri práci na rôznych projektoch, formátoch úloh a so zákazníkmi
- Spolupráca ako nezávislý dodávateľ
- Schopnosť pracovať bez použitia dôverných alebo vlastníckych informácií od ktoréhokoľvek zamestnávateľa, klienta alebo inštitúcie
- Uchádzači s vízami H-1B a STEM OPT nie sú podporovaní
Benefity
- Plne vzdialená práca, ktorú možno vykonávať podľa vlastného rozvrhu
- Týždenné platby prostredníctvom Stripe alebo Wise za poskytnuté služby
- Voliteľná účasť na projektoch zahŕňajúcich citlivejšie témy
- Usmernenia a zdroje na podporu duševnej pohody pri práci s citlivým obsahom
- Skúsenosti s budovaním odbornosti v oblasti red teamingu AI založeného na ľudských údajoch
- Príležitosť pomôcť vytvárať bezpečnejšie, odolnejšie a dôveryhodnejšie systémy AI
- Príležitosti na spoluprácu s poprednými výskumníkmi
- Odmeny za odporúčania až do 90 USD za každé úspešné odporúčanie, s výhradou príslušných limitov