51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetsred team-specialist
Mercor söker en AI-säkerhetsred team-specialist som ska undersöka svagheter i avancerade AI-modeller inom högriskområden. Arbetet hjälper AI-laboratorier att träna och förbättra avancerade system.
Beskrivning
- Skapa adversariella promptar för att testa avancerade AI-modeller.
- Hitta jailbreaks, osäkert beteende, hallucinationer och policyöverträdelser.
- Bedöm modellernas robusthet inom desinformation, cybersäkerhet, biosäkerhet, bedrägerier, politiskt innehåll och andra känsliga områden.
- Dokumentera sårbarheter och bidra till säkerhetsbenchmarkar och red teaming-rapporter.
- Samarbeta med AI-forskare för att stärka modellernas alignment, robusthet och säkerhet.
- Bidra till projekt som tränar och förbättrar AI-system.
Krav
- Kandidatexamen eller högre inom datavetenskap, cybersäkerhet, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller ett närliggande område.
- Minst fem års yrkeserfarenhet inom AI-säkerhet, red teaming av AI, trust and safety, cybersäkerhet, undersökande journalistik, biovetenskap eller ett närliggande område.
- Stark analytisk förmåga, förmåga att utforma promptar och god skriftlig kommunikationsförmåga.
- Erfarenhet av att skapa adversariella promptar eller bedöma avancerade AI-system.
- Måste vara bosatt i ett av de angivna länderna: Albanien, Österrike, Belgien, Bulgarien, Bosnien och Hercegovina, Schweiz, Tjeckien, Tyskland, Danmark, Spanien, Estland, Finland, Frankrike, Storbritannien, Grekland, Kroatien, Ungern, Irland, Island, Italien, Liechtenstein, Litauen, Luxemburg, Lettland, Monaco, Moldavien, Nordmakedonien, Malta, Nederländerna, Norge, Polen, Portugal, Rumänien, San Marino, Serbien, Slovakien, Slovenien, Sverige, USA eller Kosovo.
- Kandidater med H-1B eller STEM OPT kan för närvarande inte få stöd.
Förmåner
- Helt distansbaserat arbete med flexibla arbetstider.
- Veckovisa utbetalningar via Stripe eller Wise för utfört arbete.
- Projektets längd kan förlängas, förkortas eller avslutas i förtid beroende på projektbehov och prestation.
- Konkurrenskraftig ersättning.
- Möjlighet att arbeta med ledande AI-forskare och säkerhetsteam.
- Skäliga anpassningar erbjuds på begäran.
- Rekommendationsprogram med upp till 340 USD per lyckad rekommendation, med förbehåll för begränsningar.