51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Red teamer pre bezpečnosť AI
Mercor hľadá odborníka na bezpečnostné testovanie AI, ktorý bude skúmať slabiny pokročilých modelov v oblastiach s vysokým rizikom. Táto práca pomáha laboratóriám AI trénovať a zlepšovať pokročilé systémy.
Popis
- Vytvárať útočné prompty na testovanie pokročilých modelov AI.
- Odhaľovať obchádzanie ochranných opatrení, nebezpečné správanie, halucinácie a zlyhania pri dodržiavaní zásad.
- Posudzovať odolnosť modelov voči dezinformáciám, hrozbám v kybernetickej bezpečnosti a biologickej bezpečnosti, podvodom, politickému obsahu a ďalším citlivým témam.
- Zaznamenávať zraniteľnosti a pomáhať pripravovať bezpečnostné benchmarky a správy z red teaming testovania.
- Spolupracovať s výskumníkmi AI na posilňovaní zosúladenia modelov, ich odolnosti a bezpečnosti.
- Prispievať k projektom zameraným na trénovanie a zlepšovanie systémov AI.
Požiadavky
- Vysokoškolské vzdelanie aspoň na úrovni bakalára v odbore informatika, kybernetická bezpečnosť, žurnalistika, komunikácia, psychológia, biológia, chémia, verejná politika alebo v príbuznom odbore.
- Najmenej päť rokov odbornej praxe v oblasti bezpečnosti AI, red teamingu AI, dôvery a bezpečnosti, kybernetickej bezpečnosti, investigatívnej žurnalistiky, biologických vied alebo v príbuznej oblasti.
- Vynikajúce analytické myslenie, schopnosť navrhovať prompty a písomne komunikovať.
- Skúsenosti s tvorbou útočných promptov alebo posudzovaním pokročilých systémov AI.
- Pobyt v jednej z uvedených oprávnených krajín: Albánsko, Rakúsko, Belgicko, Bulharsko, Bosna a Hercegovina, Švajčiarsko, Česko, Nemecko, Dánsko, Španielsko, Estónsko, Fínsko, Francúzsko, Spojené kráľovstvo, Grécko, Chorvátsko, Maďarsko, Írsko, Island, Taliansko, Lichtenštajnsko, Litva, Luxembursko, Lotyšsko, Monako, Moldavsko, Severné Macedónsko, Malta, Holandsko, Nórsko, Poľsko, Portugalsko, Rumunsko, San Maríno, Srbsko, Slovensko, Slovinsko, Švédsko, Spojené štáty alebo Kosovo.
- V súčasnosti nie je možné podporiť kandidátov s vízami H-1B ani účastníkov programu STEM OPT.
Benefity
- Plne vzdialená práca s flexibilným pracovným časom.
- Týždenné platby za odvedenú prácu cez Stripe alebo Wise.
- Trvanie projektu sa môže podľa jeho potrieb a pracovného výkonu predĺžiť, skrátiť alebo sa projekt môže ukončiť skôr.
- Konkurenčné odmeňovanie.
- Možnosť spolupracovať s poprednými výskumníkmi AI a bezpečnostnými tímami.
- Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok.
- Program odporúčaní ponúka až 340 USD za každé úspešné odporúčanie, pričom platia limity.