51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na bezpečnosť AI – angličtina a maráthčina (práca na diaľku)
Spoločnosť Mercor hľadá odborníkov na bezpečnosť AI hovoriacich po anglicky a po maráthsky na red-team testovanie konverzačných modelov a agentov. Práca zahŕňa identifikáciu zraniteľností, hodnotenie citlivých výstupov a tvorbu reprodukovateľných bezpečnostných dát pre AI laboratóriá a zákazníkov.
Popis
- Vykonávať red-team testovanie konverzačných modelov a agentov AI pomocou jailbreakov, injekcií promptov, scenárov zneužitia, využívania zaujatosti a viacotáčkovej manipulácie
- Vytvárať dáta z ľudského hodnotenia anotovaním zlyhaní, kategorizáciou zraniteľností a identifikáciou systémových rizík
- Používať zavedené taxonómie, benchmarky a metodiky na podporu konzistentného hodnotenia
- Vytvárať reprodukovateľné správy, datasety a prípady útokov pre zákazníkov
- Hodnotiť výstupy AI súvisiace so zaujatými postojmi, dezinformáciami, škodlivým správaním a ďalšími citlivými témami
- Identifikovať zraniteľnosti, ktoré môže automatizované testovanie prehliadnuť
- Rozširovať pokrytie hodnotenia s cieľom minimalizovať neočakávané problémy v produkcii
- Podporovať zákazníkov pri zlepšovaní bezpečnosti, robustnosti a dôveryhodnosti ich systémov AI
Požiadavky
- Plynulá znalosť angličtiny aj maráthčiny na úrovni rodeného hovoriaceho
- Vynikajúci úsudok pri hodnotení jazyka a obsahu vrátane posúdenia, či sú odpovede AI presné, úplné a primerané
- Schopnosť odhaliť jemné chyby, nezrovnalosti a opomenutia
- Schopnosť dôsledne dodržiavať pokyny a štandardy kvality
- Schopnosť jasne komunikovať zdôvodnenie technickému aj netechnickému publiku
- Prispôsobivosť pri práci na rôznych projektoch, typoch úloh a pre rôznych zákazníkov
- Schopnosť pracovať ako nezávislý kontraktor
- Nesmie vyžadovať podporu víz H-1B ani STEM OPT
- Výhodou sú skúsenosti s nepriateľským strojovým učením vrátane datasetov jailbreakov, injekcií promptov, útokov RLHF alebo DPO či extrakcie modelov
- Výhodou sú skúsenosti s kybernetickou bezpečnosťou v oblasti penetračného testovania, vývoja exploitov alebo reverzného inžinierstva
- Výhodou sú skúsenosti so sociotechnickými rizikami, napríklad s testovaním obťažovania alebo dezinformácií, analýzou zneužitia či testovaním konverzačnej AI
- Výhodou sú skúsenosti z psychológie, herectva alebo písania podporujúce nekonvenčné nepriateľské myslenie
Benefity
- Plne vzdialená práca, ktorú možno vykonávať podľa vlastného rozvrhu
- Týždenné platby prostredníctvom Stripe alebo Wise
- Možnosť dobrovoľne sa zapojiť do projektov s vyššou citlivosťou
- Jasné pokyny a zdroje na podporu duševnej pohody pri práci s citlivým obsahom
- Konkurencieschopné odmeňovanie
- Možnosť spolupracovať s poprednými výskumníkmi
- Odmeny za odporúčania až do výšky 90 USD za každé úspešné odporúčanie, s určitými limitmi