51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na bezpečnosť AI – angličtina a asámčina (práca na diaľku na zmluvu)
Testujte konverzačné systémy AI na odhaľovanie jailbreakov, zaujatosti, rizík injekcie promptov a ďalších zraniteľností. Vytvárajte jasné a reprodukovateľné artefakty ľudských údajov, ktoré pomáhajú zvyšovať bezpečnosť a spoľahlivosť pokročilej AI.
Popis
- Testujte konverzačné modely a agentov AI na jailbreaky, injekcie promptov, scenáre zneužitia, využívanie zaujatosti a manipuláciu vo viacerých kolách
- Vytvárajte anotácie ľudských údajov dokumentovaním zlyhaní, kategorizovaním zraniteľností a identifikovaním systémových rizík
- Používajte zavedené taxonómie, benchmarky a pracovné postupy na zachovanie konzistentného hodnotenia
- Dodávajte zákazníkom reprodukovateľné správy, súbory údajov a scenáre útokov
- Odhaľujte slabiny, ktoré môže automatizované testovanie prehliadnuť
- Rozširujte pokrytie hodnotenia s cieľom pomôcť minimalizovať neočakávané problémy v produkcii
- Posudzujte výstupy AI na citlivé témy podľa poskytnutých usmernení
Požiadavky
- Natívna znalosť angličtiny aj asámčiny
- Správny úsudok pri hodnotení jazyka a obsahu vrátane posúdenia, či sú odpovede AI presné, úplné a primerané
- Vynikajúca pozornosť venovaná nenápadným chybám, nezrovnalostiam a vynechaniam
- Dôsledné dodržiavanie usmernení a noriem kvality
- Schopnosť jasne vysvetliť svoje uvažovanie technickému aj netechnickému publiku
- Flexibilita pri práci na rôznych projektoch, formátoch úloh a pre rôznych zákazníkov
- Postavenie nezávislého dodávateľa
- Ochota pracovať s citlivými témami, ako sú zaujatosť, dezinformácie a škodlivé správanie; účasť na projektoch s vyššou citlivosťou je voliteľná
- Uchádzači s vízami H-1B a STEM OPT nie sú podporovaní
Benefity
- Práca úplne na diaľku s flexibilným rozvrhom, ktorý si nastavíte
- Týždenné platby prostredníctvom Stripe alebo Wise
- Možnosť získať skúsenosti s red teamingom AI založeným na ľudských údajoch
- Praktický príspevok k robustnejším, bezpečnejším a dôveryhodnejším systémom AI
- Príležitosti na spoluprácu s poprednými výskumníkmi
- Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok
- Motivácia za odporúčanie až do výšky 90 USD za každé úspešné odporúčanie