51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Špecialista na red teaming bezpečnosti AI
Mercor hľadá špecialistu na red teaming bezpečnosti AI, ktorý bude testovať najmodernejšie modely pomocou adversariálnych promptov. Cieľom práce je odhaľovať slabiny a pomáhať partnerským AI laboratóriám zlepšovať zosúladenie, odolnosť a bezpečnosť modelov.
Popis
- Vytvárať adversariálne prompty na testovanie najmodernejších modelov AI.
- Odhaľovať jailbreaky, nebezpečné správanie, halucinácie a zlyhania pri dodržiavaní pravidiel.
- Posudzovať odolnosť modelov v citlivých oblastiach vrátane dezinformácií, kybernetickej bezpečnosti, biologickej bezpečnosti, podvodov a politického obsahu.
- Zaznamenávať zraniteľnosti a pomáhať pripravovať bezpečnostné benchmarky a správy z red teamingu.
- Spolupracovať s výskumníkmi AI na posilňovaní zosúladenia, odolnosti a bezpečnosti modelov.
- Prispievať k projektom zameraným na trénovanie a zlepšovanie systémov AI.
Požiadavky
- Vysokoškolské vzdelanie minimálne na úrovni bakalára v odbore informatika, kybernetická bezpečnosť, žurnalistika, komunikácia, psychológia, biológia, chémia, verejná politika alebo príbuznom odbore.
- Aspoň päť rokov odborných skúseností v oblasti bezpečnosti AI, red teamingu AI, dôvery a bezpečnosti, kybernetickej bezpečnosti, investigatívnej žurnalistiky, prírodných vied alebo príbuznej oblasti.
- Vynikajúce analytické uvažovanie, schopnosť navrhovať prompty a písomne komunikovať.
- Skúsenosti s tvorbou adversariálnych promptov alebo posudzovaním najmodernejších systémov AI.
- Výhodou sú skúsenosti s red teamingom AI, RLHF, SFT, zosúlaďovaním AI alebo dôverou a bezpečnosťou.
- Výhodou je znalosť testovania jailbreakov, prompt engineeringu alebo metód adversariálneho hodnotenia.
- Výhodou sú odborné znalosti v náročných oblastiach, ako sú kybernetická bezpečnosť, biologická bezpečnosť, politický obsah, dezinformácie alebo vedecká bezpečnosť.
- Možnosť pracovať ako nezávislý dodávateľ.
- Kandidátom s vízami H-1B a STEM OPT sa podpora neposkytuje.
Benefity
- Práca na diaľku odkiaľkoľvek v Spojených štátoch.
- Možnosť samostatne si nastaviť pracovný rozvrh.
- Týždenné platby cez Stripe alebo Wise.
- Projekty sa môžu podľa potrieb projektu a pracovného výkonu predĺžiť, skrátiť alebo predčasne ukončiť.
- Spolupráca s poprednými výskumníkmi AI a bezpečnostnými tímami.
- Možnosť podieľať sa na formovaní bezpečnosti najmodernejších systémov AI.
- Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok.
- Odmeny za odporúčanie až do výšky 340 USD za každé úspešné odporúčanie; platia obmedzenia.