51 – 200 Angajați
Informațiile disponibile despre Mercor nu includ suficiente date verificate despre produsele, serviciile, clienții, sectorul sau direcția de recrutare a companiei pentru a permite o prezentare exactă. Sunt necesare mai multe surse înainte de a descrie activitatea companiei sau oportunitățile oferite.
Red Teamer pentru siguranța AI - Contract la distanță (Statele Unite)
Mercor caută un Red Teamer pentru siguranța AI care să descopere vulnerabilități în modelele AI de ultimă generație prin testare adversarială. Rolul presupune proiectarea de prompturi și evaluarea comportamentului cu risc ridicat al modelelor, împreună cu cercetători în siguranța AI.
Descriere
- Crearea de prompturi adversariale pentru a provoca modelele AI de ultimă generație
- Detectarea jailbreak-urilor, a comportamentului nesigur, a halucinațiilor și a încălcărilor de politici
- Evaluarea robusteții modelelor în domenii precum dezinformarea, securitatea cibernetică, biosecuritatea, frauda, conținutul politic și alte zone sensibile
- Înregistrarea vulnerabilităților și sprijinirea benchmarkurilor de siguranță și a rapoartelor de red teaming
- Colaborarea cu cercetători AI pentru consolidarea alinierii, robusteții și siguranței modelelor
- Contribuția la proiecte care antrenează și îmbunătățesc sistemele AI
Cerințe
- Diplomă de licență sau un nivel superior în informatică, securitate cibernetică, jurnalism, comunicare, psihologie, biologie, chimie, politici publice sau un domeniu conex
- Cel puțin cinci ani de experiență profesională în siguranța AI, red teaming AI, trust and safety, securitate cibernetică, jurnalism de investigație, științele vieții sau un domeniu conex
- Abilități solide de raționament analitic, proiectare de prompturi și comunicare scrisă
- Experiență în crearea de prompturi adversariale sau evaluarea sistemelor AI de ultimă generație
- Experiența în red teaming AI, RLHF, SFT, alinierea AI sau trust and safety constituie un avantaj
- Familiaritatea cu testarea jailbreak-urilor, ingineria prompturilor sau metodele de evaluare adversarială constituie un avantaj
- Expertiza într-unul sau mai multe domenii gri, precum securitatea cibernetică, biosecuritatea, conținutul politic, dezinformarea sau siguranța științifică, constituie un avantaj
- Capacitatea de a lucra ca antreprenor independent
- Candidații cu H-1B și STEM OPT nu sunt acceptați
Beneficii
- Muncă complet la distanță
- Program flexibil
- Plăți săptămânale prin Stripe sau Wise
- Proiectele pot fi prelungite, scurtate sau încheiate anticipat în funcție de nevoile companiei și de performanță
- Activitate de testare adversarială alături de cercetători AI și echipe de siguranță de top
- Oportunitatea de a influența modul în care sistemele AI gestionează provocări complexe de siguranță din lumea reală
- Sunt disponibile adaptări rezonabile la cerere
- Plăți pentru recomandări de până la 340 USD pentru fiecare recomandare reușită, sub rezerva limitelor pentru recomandări