51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
AI bezpečnostný red teamer – práca na diaľku v USA
Spoločnosť Mercor hľadá bezpečnostného red teamera pre AI na diaľku, ktorý bude testovať špičkové modely AI a odhaľovať zraniteľnosti v rizikových oblastiach. Táto zmluvná pozícia podporuje AI laboratóriá pri vývoji a zlepšovaní pokročilých systémov.
Popis
- Vytvárať adversariálne prompty na testovanie špičkových modelov AI
- Odhaľovať jailbreaky, nebezpečné správanie, halucinácie a porušenia pravidiel
- Posudzovať odolnosť modelov voči dezinformáciám, kybernetickým hrozbám, rizikám biologickej bezpečnosti, podvodom, politickému obsahu a ďalším citlivým témam
- Zaznamenávať odhalené zraniteľnosti a pomáhať pri tvorbe bezpečnostných benchmarkov a red-teamových správ
- Spolupracovať s výskumníkmi v oblasti AI na posilňovaní zosúladenia, odolnosti a bezpečnosti modelov
- Prispievať k projektom, ktoré trénujú a zlepšujú systémy AI
Požiadavky
- Bakalárske alebo vyššie vzdelanie v odbore počítačových vied, kybernetickej bezpečnosti, žurnalistiky, komunikácie, psychológie, biológie, chémie, verejnej politiky alebo príbuznom odbore
- Aspoň päť rokov odbornej praxe v oblasti bezpečnosti AI, red teamingu AI, dôvery a bezpečnosti, kybernetickej bezpečnosti, investigatívnej žurnalistiky, biologických vied alebo príbuznej oblasti
- Vynikajúci analytický úsudok, schopnosť navrhovať prompty a písomné komunikačné zručnosti
- Skúsenosti s tvorbou adversariálnych promptov alebo posudzovaním špičkových systémov AI
- Skúsenosti s red teamingom AI, RLHF, SFT, zosúladením AI alebo dôverou a bezpečnosťou sú výhodou
- Znalosť testovania jailbreakov, prompt engineeringu alebo metód adversariálneho hodnotenia je výhodou
- Odbornosť aspoň v jednej oblasti s nejasnými hranicami, napríklad v kybernetickej bezpečnosti, biologickej bezpečnosti, politickom obsahu, dezinformáciách alebo vedeckej bezpečnosti, je výhodou
- Schopnosť pracovať ako nezávislý kontraktor
- Uchádzači s vízami H-1B a STEM OPT nie sú podporovaní
Benefity
- Práca na diaľku odkiaľkoľvek
- Flexibilný samostatne riadený pracovný čas
- Týždenné platby prostredníctvom Stripe alebo Wise
- Projekty môžu byť predĺžené, skrátené alebo ukončené predčasne podľa obchodných potrieb a pracovného výkonu
- Konkurencieschopné odmeňovanie
- Spolupráca s poprednými výskumníkmi v oblasti AI a bezpečnostnými tímami
- Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok
- Odmeny za odporúčania až do výšky 340 USD za každé úspešné odporúčanie, s výhradou príslušných limitov