51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Bezpečnostný red teamer pre AI – vzdialený kontrakt (Spojené štáty)
Spoločnosť Mercor hľadá odborníka na bezpečnostné red teamingové testovanie AI, ktorý bude odhaľovať zraniteľnosti špičkových modelov pomocou adversariálneho testovania. Náplňou práce je navrhovanie promptov a posudzovanie vysokorizikového správania modelov v spolupráci s výskumníkmi v oblasti bezpečnosti AI.
Popis
- Vytvárať adversariálne prompty na testovanie špičkových AI modelov
- Odhaľovať jailbreaky, nebezpečné správanie, halucinácie a porušenia pravidiel
- Posudzovať odolnosť modelov v oblastiach dezinformácií, kybernetickej bezpečnosti, biologickej bezpečnosti, podvodov, politického obsahu a ďalších citlivých tém
- Zaznamenávať zraniteľnosti a podporovať bezpečnostné benchmarky a správy z red teamingu
- Spolupracovať s výskumníkmi AI na posilňovaní zosúladenia, odolnosti a bezpečnosti modelov
- Prispievať k projektom na trénovanie a zlepšovanie systémov AI
Požiadavky
- Bakalárske alebo vyššie vzdelanie v odbore počítačové vedy, kybernetická bezpečnosť, žurnalistika, komunikácia, psychológia, biológia, chémia, verejná politika alebo v príbuznom odbore
- Aspoň päť rokov profesionálnych skúseností v oblasti bezpečnosti AI, red teamingu AI, dôvery a bezpečnosti, kybernetickej bezpečnosti, investigatívnej žurnalistiky, prírodných vied alebo v príbuznej oblasti
- Silné analytické myslenie, schopnosť navrhovať prompty a písomná komunikačná zdatnosť
- Skúsenosti s tvorbou adversariálnych promptov alebo posudzovaním špičkových AI systémov
- Výhodou sú skúsenosti s red teamingom AI, RLHF, SFT, zosúlaďovaním AI alebo dôverou a bezpečnosťou
- Výhodou je znalosť testovania jailbreakov, prompt engineeringu alebo metód adversariálneho hodnotenia
- Výhodou je odbornosť v jednej alebo viacerých oblastiach s nejasnými hranicami, napríklad kybernetická bezpečnosť, biologická bezpečnosť, politický obsah, dezinformácie alebo vedecká bezpečnosť
- Schopnosť pracovať ako nezávislý kontraktor
- Kandidáti s vízami H-1B a STEM OPT nie sú podporovaní
Benefity
- Plne vzdialená práca
- Flexibilný pracovný čas
- Týždenné platby prostredníctvom Stripe alebo Wise
- Projekty môžu byť na základe obchodných potrieb a výkonu predĺžené, skrátené alebo ukončené skôr
- Adversariálne testovanie v spolupráci s poprednými výskumníkmi AI a bezpečnostnými tímami
- Príležitosť ovplyvniť, ako systémy AI zvládajú zložité bezpečnostné výzvy zo skutočného sveta
- Primerané úpravy sú k dispozícii na požiadanie
- Odmeny za odporúčania až do výšky 340 USD za každé úspešné odporúčanie, s výhradou limitov odporúčaní