51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Red teamer pre bezpečnosť AI – zmluvná práca na diaľku v Spojených štátoch
Spoločnosť Mercor hľadá zmluvného red teamera pre bezpečnosť AI, ktorý bude testovať najmodernejšie modely AI a odhaľovať ich zraniteľnosti. Úloha sa zameriava na vysokorizikové oblasti a podporuje vývoj bezpečnejších a spoľahlivejších systémov AI.
Popis
- Vytvárať adversariálne prompty, ktoré dôsledne testujú najmodernejšie modely AI
- Odhaľovať jailbreaky, nebezpečné správanie, halucinácie a nedodržiavanie bezpečnostných pravidiel
- Posudzovať odolnosť modelov voči dezinformáciám, kybernetickým hrozbám, biologickým hrozbám, podvodom, politickému obsahu a ďalším citlivým oblastiam
- Zaznamenávať odhalené nedostatky a podporovať bezpečnostné benchmarky a správy z red teamingu
- Spolupracovať s výskumníkmi v oblasti AI na zlepšovaní zosúladenia, robustnosti a bezpečnosti modelov
- Pomáhať chrániť a zlepšovať vznikajúce najmodernejšie systémy AI
- Ovplyvňovať, ako modely AI zvládajú náročné bezpečnostné scenáre v reálnom svete
Požiadavky
- Bakalársky titul alebo vyššie vzdelanie v odbore informatika, kybernetická bezpečnosť, žurnalistika, komunikácia, psychológia, biológia, chémia, verejná politika alebo v príbuznom odbore
- Najmenej päť rokov odbornej praxe v oblasti bezpečnosti AI, red teamingu AI, dôvery a bezpečnosti, kybernetickej bezpečnosti, investigatívnej žurnalistiky, biologických vied alebo v príbuznej oblasti
- Silný analytický úsudok, schopnosť vytvárať prompty a zručnosti písomnej komunikácie
- Praktické skúsenosti s vytváraním adversariálnych promptov alebo posudzovaním najmodernejších systémov AI
- Výhodou sú skúsenosti s red teamingom AI, RLHF, SFT, zosúlaďovaním AI alebo dôverou a bezpečnosťou
- Výhodou je znalosť hodnotenia jailbreakov, prompt engineeringu alebo metód adversariálneho hodnotenia
- Výhodou je odbornosť v špecifických oblastiach, ako sú kybernetická bezpečnosť, biologická bezpečnosť, politický obsah, dezinformácie alebo vedecká bezpečnosť
- Dostupnosť pracovať ako nezávislý zmluvný pracovník
- Uchádzači s vízami H-1B a STEM OPT nie sú podporovaní
Benefity
- Práca úplne na diaľku
- Samostatné nastavenie pracovného času a plnenie úloh podľa flexibilného rozvrhu
- Týždenné platby prostredníctvom Stripe alebo Wise
- Trvanie projektu sa môže meniť alebo sa projekt môže skončiť skôr v závislosti od obchodných potrieb a výkonu
- Konkurencieschopné finančné ohodnotenie
- Spolupráca s poprednými výskumníkmi v oblasti AI a bezpečnostnými tímami
- Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok
- Odporúčací program s odmenou až 340 USD za každé úspešné odporúčanie, podľa limitov odporúčaní