51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Vzdialený expert na bezpečnosť AI – angličtina a gudžarátčina
Vykonávajte adversariálne testovanie partnerských modelov a agentov AI s cieľom identifikovať zraniteľnosti, predsudky a škodlivé správanie. Vytvárajte anotované datasety, útočné prípady a reprodukovateľné správy, ktoré zlepšujú hodnotenie špičkovej AI.
Popis
- Testujte konverzačné modely a agentov AI pomocou jailbreakov, injekcií promptov, scenárov zneužitia, využívania predsudkov a viacotáčkovej manipulácie
- Vytvárajte ľuďmi generované údaje anotovaním zlyhaní, kategorizáciou zraniteľností a identifikáciou systémových rizík
- Používajte zavedené taxonómie, benchmarky a pracovné postupy na zachovanie konzistentného hodnotenia
- Vypracúvajte reprodukovateľné správy, datasety a útočné prípady pre zákazníkov
- Hodnoťte odpovede AI týkajúce sa predsudkov, dezinformácií, škodlivého správania a ďalších citlivých tém
- Odhaľujte slabiny, ktoré automatizované testovanie nezachytí
- Rozširujte pokrytie hodnotenia s cieľom pomôcť znížiť neočakávané problémy v produkcii
- Zlepšujte systémy AI zákazníkov prostredníctvom štruktúrovaného adversariálneho testovania
Požiadavky
- Vyžaduje sa plynulá znalosť angličtiny a gudžarátčiny na úrovni rodeného hovoriaceho
- Preukázaný úsudok pri hodnotení jazyka a obsahu vrátane posúdenia, či sú odpovede AI presné, úplné a vhodné, spolu so schopnosťou vysvetliť toto hodnotenie
- Veľká pozornosť venovaná jemným chybám, nezrovnalostiam a vynechaniam
- Schopnosť konzistentne uplatňovať usmernenia a štandardy kvality
- Schopnosť jasne vysvetliť odôvodnenie technickému aj netechnickému publiku
- Flexibilita pri práci na rôznych projektoch, typoch úloh a pre rôznych zákazníkov
- Spolupráca je nastavená ako práca nezávislého dodávateľa
- Uchádzači nesmú byť kandidátmi na víza H-1B ani STEM OPT
- Uprednostňujú sa skúsenosti s adversariálnym strojovým učením, kybernetickou bezpečnosťou, sociotechnickými rizikami alebo kreatívnym skúmaním
Benefity
- Pracujte úplne na diaľku podľa rozvrhu, ktorý si sami určíte
- Za poskytnuté služby dostávajte týždenné platby prostredníctvom Stripe alebo Wise
- Vyberte si, či sa chcete zapojiť do projektov s vyššou citlivosťou
- Získate jasné usmernenia a zdroje na podporu duševnej pohody pri projektoch zahŕňajúcich citlivý obsah
- Konkurenčné odmeňovanie
- Spolupracujte s poprednými výskumníkmi
- Získajte odmeny za odporúčania až do výšky 90 USD za každé úspešné odporúčanie, s výhradou príslušných limitov