51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na bezpečnosť AI (angličtina a kannadčina) – vzdialená zmluvná práca v Spojených štátoch
Mercor hľadá špecialistu na red teaming AI, ktorý ovláda angličtinu a kannadčinu a bude testovať najmodernejšie modely na odhalenie zraniteľností. Práca zahŕňa vytváranie reprodukovateľných prípadov útokov, hodnotiacich dátových súborov a správ o rizikách pre projekty tréningu AI na ľudských údajoch.
Popis
- Testujte konverzačné modely a agentov AI pomocou jailbreakov, prompt injection útokov, scenárov zneužitia, využívania predsudkov a viacotáčkovej manipulácie
- Vytvárajte anotácie ľudských údajov dokumentovaním zlyhaní, kategorizovaním zraniteľností a identifikovaním systémových rizík
- Používajte zavedené taxonómie, benchmarky a pracovné postupy na zachovanie konzistentného hodnotenia
- Pripravujte reprodukovateľné správy pre zákazníkov, dátové súbory a prípady útokov
- Posudzujte odpovede AI na citlivé témy vrátane predsudkov, dezinformácií a škodlivého správania
- Skúmajte systémy AI s cieľom odhaliť slabiny, ktoré môže automatizované testovanie prehliadnuť
- Rozširujte rozsah hodnotenia s cieľom obmedziť neočakávané problémy v produkcii
- Podporujte tréning a zlepšovanie najmodernejších modelov pre laboratórium AI spoločnosti Mercor a jej podnikových zákazníkov
Požiadavky
- Plynulá znalosť angličtiny a kannadčiny na úrovni rodeného hovoriaceho
- Správny úsudok pri posudzovaní, či sú odpovede AI presné, úplné a vhodné
- Jasné komunikačné schopnosti pri vysvetľovaní postupov technickému aj netechnickému publiku
- Mimoriadna pozornosť venovaná jemným chybám, nezrovnalostiam a opomenutiam
- Dôslednosť pri uplatňovaní taxonómií, benchmarkov, pracovných postupov, usmernení a štandardov kvality
- Flexibilita pri práci na rôznych projektoch, vo viacerých formátoch úloh a pre rôznych zákazníkov
- Schopnosť pracovať ako nezávislý zmluvný dodávateľ
- Nesmiete vyžadovať sponzorstvo víz H-1B ani STEM OPT; tieto možnosti sponzorstva nie sú podporované
- Relevantné skúsenosti s nepriateľským strojovým učením, kybernetickou bezpečnosťou, sociotechnickými rizikami, testovaním konverzačnej AI, psychológiou, herectvom alebo nekonvenčným nepriateľským písaním sú výhodou
Benefity
- Pracujte úplne na diaľku s flexibilitou pri určovaní vlastného pracovného času
- Dostávajte týždenné platby za poskytnuté služby prostredníctvom Stripe alebo Wise
- Vyberte si, či sa zapojíte do projektov s obsahom s vyššou mierou citlivosti
- Získajte jasné usmernenia a zdroje na podporu duševnej pohody pri úlohách s citlivým obsahom
- Získajte konkurencieschopnú odmenu
- Rozvíjajte praktické skúsenosti s red teamingom AI založeným na ľudských údajoch
- Spolupracujte s poprednými výskumníkmi
- V prípade potreby požiadajte o primerané úpravy
- Získajte odmenu za odporúčanie až do výšky 90 USD za každé úspešné odporúčanie