51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na bezpečnosť AI (angličtina a gudžarátčina) – práca na diaľku na zmluvu
Vykonávajte red-teamové hodnotenia konverzačných modelov a agentov AI pre spoločnosť Mercor, partnera AI laboratória zameraného na trénovanie najmodernejších systémov. Vytvárajte údaje o zraniteľnostiach, útočné scenáre a reprodukovateľné správy o bezpečnosti.
Popis
- Testujte konverzačné modely a agentov AI pomocou jailbreakov, injektáží promptov, scenárov zneužitia, zneužitia zaujatosti a viacotáčkovej manipulácie
- Vytvárajte ľuďmi označené údaje anotovaním zlyhaní, kategorizovaním zraniteľností a identifikovaním systémových rizík
- Používajte zavedené taxonómie, benchmarky a metodiky na zabezpečenie konzistentných hodnotení
- Vytvárajte reprodukovateľné správy, datasety a útočné scenáre
- Posudzujte odpovede AI týkajúce sa zaujatosti, dezinformácií, škodlivého správania a ďalších citlivých tém
- Identifikujte slabé miesta, ktoré môže automatizované testovanie prehliadnuť
- Rozširujte pokrytie hodnotení s cieľom obmedziť neočakávané problémy v produkcii
- Zlepšujte zákaznícke systémy AI pomocou jasných a reprodukovateľných výstupov z hodnotení
Požiadavky
- Rodilá alebo plynulá znalosť angličtiny a gudžarátčiny
- Rozvážnosť pri posudzovaní jazyka a obsahu
- Schopnosť určiť, či sú odpovede AI presné, úplné a primerané, a vysvetliť toto posúdenie
- Dôsledná pozornosť voči jemným chybám, nezrovnalostiam a vynechaniam
- Dôsledné dodržiavanie pokynov a požiadaviek na kvalitu
- Schopnosť jasne komunikovať odôvodnenie technickému aj netechnickému publiku
- Flexibilita pri práci na rôznych projektoch, formátoch úloh a pre rôznych zákazníkov
- Výhodou sú skúsenosti s adversariálnym strojovým učením, kybernetickou bezpečnosťou, sociotechnickými rizikami alebo kreatívnym sondovaním
- Dostupnosť na prácu ako nezávislý zmluvný spolupracovník
- Uchádzači s vízami H-1B a STEM OPT nie sú podporovaní
Benefity
- Práca je plne na diaľku
- Vyberte si vlastný pracovný čas
- Týždenné platby prostredníctvom Stripe alebo Wise
- Konkurenčná hodinová odmena
- Možnosť zapojiť sa do projektov s obsahom s vyššou mierou citlivosti
- Prístup k jasným usmerneniam a zdrojom na podporu duševnej pohody pri práci s citlivým obsahom
- Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok
- Za každé úspešné odporúčanie môžete získať odmenu až 90 USD