51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na bezpečnosť AI (angličtina a telugčina) – práca na diaľku na zmluvu
Vykonávajte red-teamové hodnotenia konverzačných modelov a agentov AI pre spoločnosť Mercor so zameraním na bezpečnosť v angličtine a telugčine. Vytvárajte údaje o zraniteľnostiach, útočné prípady a reprodukovateľné správy na podporu bezpečnejšieho vývoja AI.
Popis
- Testujte konverzačné modely a agentov AI pomocou jailbreakov, injekcií promptov, scenárov zneužitia, využívania zaujatosti a viacotáčkovej manipulácie
- Anotujte zlyhania, kategorizujte zraniteľnosti a identifikujte systémové riziká
- Používajte taxonómie, benchmarky a playbooky na zabezpečenie konzistentného hodnotenia
- Vytvárajte reprodukovateľné správy, súbory údajov a útočné prípady pre zákazníkov
- Posudzujte výstupy AI týkajúce sa zaujatosti, dezinformácií, škodlivého správania a ďalších citlivých tém
- Prispievajte k projektom, ktoré trénujú a zlepšujú systémy AI
- Identifikujte zraniteľnosti, ktoré automatizované testovanie neodhalí
- Rozširujte pokrytie hodnotenia s cieľom pomôcť znížiť počet neočakávaných problémov v produkcii
Požiadavky
- Materinský alebo plynulý anglický a telugský jazyk
- Správny úsudok pri posudzovaní, či sú odpovede AI presné, úplné a vhodné
- Schopnosť jasne vysvetliť svoje uvažovanie technickému aj netechnickému publiku
- Mimoriadna pozornosť venovaná jemným chybám, nezrovnalostiam a opomenutiam
- Dôsledné dodržiavanie pokynov a štandardov kvality
- Flexibilita pri práci na rôznych projektoch, formátoch úloh a pre rôznych zákazníkov
- Ochota pracovať ako nezávislý zmluvný dodávateľ
- Nesmiete byť uchádzačom v rámci víz H-1B ani STEM OPT; medzi relevantné špecializácie môžu patriť adversariálne strojové učenie, datasety jailbreakov, injekcie promptov, útoky RLHF/DPO, extrakcia modelov, penetračné testovanie, vývoj exploitov, reverzné inžinierstvo, testovanie obťažovania alebo dezinformácií, analýza zneužitia, testovanie konverzačnej AI, psychológia, herectvo alebo písanie.
- benefity
Benefity
- Pracujte úplne na diaľku podľa vlastného rozvrhu
- Za poskytnuté služby dostávajte týždenné platby prostredníctvom Stripe alebo Wise
- Získajte skúsenosti s red-teamingom AI založeným na ľudských údajoch a zameraným na bezpečnosť špičkových systémov
- Pomôžte zvýšiť odolnosť, bezpečnosť a dôveryhodnosť systémov AI
- Vyberte si, či sa zapojíte do projektov s vyššou citlivosťou
- Získajte jasné pokyny a zdroje na podporu duševnej pohody pri projektoch s vyššou citlivosťou
- Požiadajte o primerané úpravy pracovných podmienok
- Získajte až 90 USD za každé úspešné odporúčanie bez uvedeného limitu počtu odporúčaní