51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Vzdialený expert na bezpečnosť AI (angličtina a kannadčina)
Vykonávajte adversariálne testovanie najmodernejších modelov AI spoločnosti Mercor pomocou vstupov v angličtine a kannadčine s cieľom identifikovať zraniteľnosti. Vytvárajte reprodukovateľné bezpečnostné údaje, útokové prípady a správy pre zákazníkov AI.
Popis
- Testujte konverzačné modely a agentov AI pomocou jailbreakov, injekcií promptov, scenárov zneužitia, využívania zaujatosti a viacotáčkovej manipulácie
- Vytvárajte údaje generované ľuďmi anotovaním zlyhaní, kategorizáciou zraniteľností a identifikáciou systémových rizík
- Používajte zavedené taxonómie, benchmarky a pracovné postupy na zabezpečenie konzistentného hodnotenia
- Vytvárajte reprodukovateľné správy, datasety a útokové prípady, ktoré môžu zákazníci využívať
- Posudzujte výstupy AI v citlivých témach vrátane zaujatosti, dezinformácií a škodlivého správania
- Odhaľujte slabiny, ktoré môžu automatizované hodnotenia prehliadnuť
- Rozširujte pokrytie hodnotenia s cieľom predchádzať neočakávaným problémom v produkcii
- Prispievajte k projektom, ktoré trénujú a zlepšujú systémy AI pre laboratórium AI spoločnosti Mercor a podnikových zákazníkov
Požiadavky
- Rodilá alebo plynulá znalosť angličtiny aj kannadčiny
- Správny úsudok pri posudzovaní jazyka a obsahu vrátane presnosti, úplnosti a primeranosti odpovedí AI
- Schopnosť jasne komunikovať odôvodnenie technickému aj netechnickému publiku
- Dôsledná pozornosť venovaná jemným chybám, nezrovnalostiam a opomenutiam
- Schopnosť konzistentne uplatňovať taxonómie, benchmarky, pracovné postupy, usmernenia a štandardy kvality
- Flexibilita pri práci na rôznych projektoch, formátoch úloh a pre rôznych zákazníkov
- Musíte pracovať ako nezávislý dodávateľ
- Uchádzači nesmú žiadať o status H-1B ani STEM OPT
- Výhodou sú skúsenosti s adversariálnym strojovým učením, napríklad s datasetmi jailbreakov, injekciami promptov, útokmi RLHF alebo DPO či extrakciou modelov
- Výhodou je kybernetické vzdelanie alebo prax v penetračnom testovaní, vývoji exploitov či reverznom inžinierstve
- Výhodou sú skúsenosti so sociotechnickými rizikami, napríklad s testovaním obťažovania alebo dezinformácií, analýzou zneužitia či testovaním konverzačnej AI
- Výhodou sú skúsenosti z psychológie, herectva alebo písania, ktoré podporujú nekonvenčné adversariálne myslenie
Benefity
- Plne vzdialená zmluvná práca s flexibilným plánovaním
- Týždenná platba prostredníctvom Stripe alebo Wise podľa poskytnutých služieb
- Príležitosť získať skúsenosti s red teamingom AI založeným na ľudských údajoch a zameraným na bezpečnosť najmodernejších systémov
- Zmysluplný príspevok k tomu, aby boli systémy AI robustnejšie, bezpečnejšie a dôveryhodnejšie
- Zdroje na podporu duševnej pohody a jasné usmernenia pre projekty s obsahom vyššej citlivosti
- Na požiadanie sú k dispozícii primerané úpravy podmienok
- Odmeny za odporúčania až do výšky 90 USD za každé úspešné odporúčanie, s výhradou príslušných obmedzení