51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na bezpečnosť AI – angličtina a gudžarátčina (práca na diaľku na zmluvu)
Testujte špičkové modely a agentov AI na bezpečnostné zraniteľnosti prostredníctvom konfrontačných rozhovorov vrátane jailbreakov, injektáže promptov, zneužitia, zaujatosti a manipulácie. Vytvárajte anotované datasety, scenáre útokov a reprodukovateľné správy o bezpečnosti v angličtine a gudžarátčine.
Popis
- Konfrontačne testujte konverzačné modely a agentov AI na jailbreaky, injektáž promptov, zneužitie, využitie zaujatosti a viacotáčkovú manipuláciu
- Vytvárajte údaje generované ľuďmi anotovaním zlyhaní, kategorizáciou zraniteľností a identifikáciou systémových rizík
- Používajte zavedené taxonómie, benchmarky a pracovné postupy na zachovanie konzistentných hodnotení
- Vytvárajte reprodukovateľné správy, datasety a scenáre útokov
- Posudzujte výstupy AI týkajúce sa citlivých tém vrátane zaujatosti, dezinformácií a škodlivého správania
- Identifikujte slabiny, ktoré automatizované metódy hodnotenia nedokážu odhaliť
- Rozširujte pokrytie hodnotenia s cieľom pomôcť obmedziť nečakané problémy v produkcii
- Zlepšujte zákaznícke systémy AI prostredníctvom štruktúrovaného konfrontačného testovania
Požiadavky
- Plynulá znalosť angličtiny aj gudžarátčiny na úrovni rodeného hovoriaceho
- Správny úsudok pri hodnotení jazyka a obsahu
- Schopnosť určiť, či sú odpovede AI presné, úplné a primerané, a vysvetliť toto posúdenie
- Dôkladná pozornosť voči jemným chybám, nezrovnalostiam a vynechaniam
- Dôsledné používanie taxonómií, benchmarkov, pracovných postupov, usmernení a štandardov kvality
- Schopnosť jasne komunikovať odôvodnenie technickému aj netechnickému publiku
- Flexibilita pri práci na rôznych projektoch, formátoch úloh a pre rôznych zákazníkov
- Výhodou je vzdelanie alebo prax v oblasti konfrontačného strojového učenia, kybernetickej bezpečnosti, sociotechnických rizík alebo kreatívneho testovania AI
- Je potrebné pracovať ako nezávislý dodávateľ
- Kandidáti s vízami H-1B a STEM OPT nie sú podporovaní
Benefity
- Plne vzdialená pozícia
- Flexibilný pracovný čas s možnosťou zvoliť si vlastné hodiny
- Týždenné platby prostredníctvom Stripe alebo Wise
- Projekty môžu byť podľa obchodných potrieb a pracovného výkonu predĺžené, skrátené alebo ukončené skôr
- Dobrovoľná účasť na projektoch s obsahom s vyššou mierou citlivosti
- Jasné usmernenia a zdroje na podporu pohody pri zadaniach s citlivým obsahom
- Na požiadanie sú k dispozícii primerané úpravy
- Možnosť získať skúsenosti s red teamingom AI založeným na údajoch vytvorených ľuďmi
- Spolupráca s poprednými výskumníkmi
- Odmeny za odporúčania do výšky 90 USD za každé úspešné odporúčanie v súlade s platnými limitmi