51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na bezpečnosť AI – angličtina a fínčina (práca na diaľku)
Spoločnosť Mercor hľadá odborníkov na bezpečnosť AI hovoriacich po anglicky a fínsky na red teaming konverzačných modelov a agentov AI. Práca zahŕňa vytváranie reprodukovateľných údajov o zraniteľnostiach a prípadov útokov pre projekty vývoja špičkovej AI.
Popis
- Vykonávať adversariálne testovanie konverzačných modelov a agentov AI pomocou jailbreakov, injektáže promptov, scenárov zneužitia, využívania zaujatosti a viacotáčkovej manipulácie
- Dokumentovať zlyhania, kategorizovať zraniteľnosti a identifikovať systémové riziká
- Používať zavedené taxonómie, benchmarky a pracovné postupy na zabezpečenie konzistentného hodnotenia
- Vytvárať reprodukovateľné správy, datasety a prípady útokov
- Skúmať výstupy modelov zahŕňajúce zaujatosť, dezinformácie a škodlivé správanie
- Rozširovať pokrytie hodnotenia s cieľom identifikovať zraniteľnosti, ktoré môže automatizované testovanie prehliadnuť
- Spolupracovať s projektovými tímami podporujúcimi tréning a zlepšovanie špičkových systémov AI
Požiadavky
- Plynulá alebo rodená znalosť angličtiny a fínčiny
- Predchádzajúce skúsenosti s red teamingom pri adversariálnom testovaní AI, kybernetickej bezpečnosti alebo sociotechnickom skúmaní
- Preukázaná schopnosť adversariálne testovať systémy AI
- Schopnosť pracovať s rámcami, taxonómiami, benchmarkmi a pracovnými postupmi
- Schopnosť jasne komunikovať riziká technickému aj netechnickému publiku
- Prispôsobivosť pri práci na rôznych projektoch a pre rôznych zákazníkov
- Je potrebné pracovať ako nezávislý dodávateľ
- Je potrebné vedieť pracovať bez dôverných alebo vlastníckych informácií patriacich inému zamestnávateľovi, klientovi alebo inštitúcii
- Kandidáti s vízami H-1B a STEM OPT nie sú podporovaní
Benefity
- Plne vzdialená zmluvná pozícia
- Flexibilný rozvrh s možnosťou kontrolovať pracovný čas
- Možnosť zapojiť sa do projektov s vyššou citlivosťou
- Jasné usmernenia a zdroje na podporu duševnej pohody
- Týždenné platby prostredníctvom Stripe alebo Wise
- Konkurenčné odmeňovanie
- Možnosť odporučenia s odmenou až 250 USD za každé úspešné odporúčanie
- Na požiadanie sú k dispozícii primerané úpravy