51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Odborník na bezpečnosť AI – angličtina a telugčina (práca na diaľku na zmluvu)
Vykonávajte red-teamové hodnotenia konverzačných modelov a agentov AI pre spoločnosť Mercor a identifikujte zraniteľnosti pomocou adversariálneho testovania. Vytvárajte kvalitné datasety, útočné prípady a zrozumiteľné správy zamerané na výkon v angličtine a telugčine.
Popis
- Testujte konverzačné modely a agentov AI proti obchádzaniu bezpečnostných obmedzení, injektáži promptov, scenárom zneužitia, zneužívaniu zaujatosti a viacotáčkovej manipulácii
- Vytvárajte údaje generované ľuďmi označovaním zlyhaní, kategorizáciou zraniteľností a identifikáciou systémových rizík
- Používajte zavedené taxonómie, benchmarky a pracovné postupy na zabezpečenie konzistentného hodnotenia
- Vytvárajte reprodukovateľné správy, datasety a adversariálne útočné prípady
- Posudzujte odpovede AI súvisiace so zaujatosťou, dezinformáciami, škodlivým správaním a ďalšími citlivými témami
- Identifikujte slabiny, ktoré môžu automatizované metódy hodnotenia prehliadnuť
- Rozširujte pokrytie hodnotenia s cieľom pomôcť predchádzať neočakávaným problémom v produkcii
- Zlepšujte zákaznícke systémy AI prostredníctvom štruktúrovaného adversariálneho testovania
Požiadavky
- Plynulá znalosť angličtiny aj telugčiny na úrovni rodeného hovoriaceho
- Dobrý úsudok pri hodnotení jazyka a obsahu
- Schopnosť určiť, či sú odpovede AI presné, úplné a vhodné, a vysvetliť svoje odôvodnenie
- Mimoriadna pozornosť venovaná jemným chybám, nezrovnalostiam a vynechaniam
- Dôsledné dodržiavanie pokynov a štandardov kvality
- Schopnosť jasne komunikovať odôvodnenie technickému aj netechnickému publiku
- Flexibilita pri práci na rôznych projektoch, formátoch úloh a pre rôznych zákazníkov
- Schopnosť pracovať ako nezávislý dodávateľ
- Nesmie vyžadovať sponzorstvo víz H-1B ani STEM OPT
- Uprednostňujú sa skúsenosti s adversariálnym strojovým učením, kybernetickou bezpečnosťou, sociotechnickým rizikom alebo kreatívnym testovaním
Benefity
- Práca úplne na diaľku
- Flexibilný pracovný čas podľa vašej dostupnosti
- Týždenné platby prostredníctvom Stripe alebo Wise
- Trvanie projektu sa môže meniť alebo sa môže predčasne skončiť v závislosti od obchodných potrieb a výkonu
- Prístup k zdrojom na podporu pohody a jasným pokynom pre úlohy s vyššou citlivosťou
- Získanie skúseností s red teamingom AI založeným na údajoch od ľudí
- Pomoc pri zvyšovaní robustnosti, bezpečnosti a dôveryhodnosti systémov AI
- Konkurenčné odmeňovanie
- Spolupráca s poprednými výskumníkmi
- Na požiadanie sú k dispozícii primerané úpravy