51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Red teamer bezpečnosti modelov umelej inteligencie
Testujte bezpečnosť pokročilých modelov umelej inteligencie pomocou adversariálneho testovania. Odhaľujte zraniteľnosti a pomáhajte zlepšovať zosúladenie modelov.
Popis
- Vytvárajte adversariálne prompty na testovanie pokročilých modelov umelej inteligencie.
- Odhaľujte obchádzanie bezpečnostných obmedzení, nebezpečné správanie, halucinácie a porušovanie zásad.
- Testujte odolnosť modelov v oblastiach dezinformácií, kybernetickej bezpečnosti, biologickej bezpečnosti, podvodov, politického obsahu a ďalších citlivých tém.
- Zaznamenávajte zraniteľnosti a pomáhajte pripravovať bezpečnostné benchmarky a správy z red team testovania.
- Spolupracujte s výskumníkmi umelej inteligencie na posilňovaní zosúladenia, odolnosti a bezpečnosti modelov.
- Pomáhajte chrániť a zlepšovať ďalšiu generáciu pokročilých modelov umelej inteligencie.
- Zapájajte sa do projektov zameraných na trénovanie a zlepšovanie systémov umelej inteligencie.
Požiadavky
- Vysokoškolské vzdelanie aspoň na bakalárskom stupni v odbore informatika, kybernetická bezpečnosť, žurnalistika, komunikácia, psychológia, biológia, chémia, verejná politika alebo v príbuznom odbore
- Aspoň päť rokov odbornej praxe v oblasti bezpečnosti umelej inteligencie, red team testovania umelej inteligencie, dôvery a bezpečnosti, kybernetickej bezpečnosti, investigatívnej žurnalistiky, prírodných vied o živej prírode alebo v príbuznej oblasti
- Výborné analytické uvažovanie, schopnosť navrhovať prompty a písať
- Skúsenosti s tvorbou adversariálnych promptov alebo hodnotením pokročilých systémov umelej inteligencie
- Výhodou sú skúsenosti s red team testovaním umelej inteligencie, RLHF, dolaďovaním pod dohľadom, zosúlaďovaním umelej inteligencie alebo oblasťou dôvery a bezpečnosti
- Výhodou je znalosť testovania obchádzania bezpečnostných obmedzení, prompt engineeringu alebo metód adversariálneho hodnotenia
- Výhodou je odborná znalosť aspoň jednej citlivej oblasti, napríklad kybernetickej bezpečnosti, biologickej bezpečnosti, politického obsahu, dezinformácií alebo bezpečnosti vo vede
- Uchádzač nesmie potrebovať sponzorstvo víz H-1B ani STEM OPT; Mercor nemôže podporiť uchádzačov, ktorí potrebujú niektorú z týchto foriem sponzorstva
Benefity
- Plne vzdialená práca s flexibilným rozvrhom
- Týždenné platby za vykonanú prácu prostredníctvom Stripe alebo Wise
- Dĺžka projektu sa môže meniť alebo sa projekt môže predčasne ukončiť podľa jeho potrieb a pracovného výkonu
- Spolupráca s poprednými výskumníkmi umelej inteligencie a bezpečnostnými tímami
- Možnosť ovplyvniť, ako systémy umelej inteligencie zvládajú zložité bezpečnostné výzvy zo skutočného sveta
- Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok
- Odmeny za odporúčanie až do výšky 340 USD za každé úspešné odporúčanie, s určitými obmedzeniami