51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
Red Teamer voor AI-veiligheid
Mercor zoekt een Red Teamer voor AI-veiligheid die geavanceerde AI-modellen op kwetsbaarheden test in domeinen met een hoog risico. Het werk ondersteunt AI-labs bij het trainen en verbeteren van geavanceerde systemen.
Beschrijving
- Maak adversariële prompts om geavanceerde AI-modellen te testen.
- Spoor jailbreaks, onveilig gedrag, hallucinaties en beleidsschendingen op.
- Beoordeel de robuustheid van modellen op het gebied van desinformatie, cyberbeveiliging, bioveiligheid, fraude, politieke inhoud en andere gevoelige onderwerpen.
- Leg kwetsbaarheden vast en help veiligheidsbenchmarks en red-teamingrapporten op te stellen.
- Werk samen met AI-onderzoekers om de afstemming, robuustheid en veiligheid van modellen te versterken.
- Draag bij aan projecten die AI-systemen trainen en verbeteren.
Vereisten
- Bacheloropleiding of hoger in informatica, cyberbeveiliging, journalistiek, communicatie, psychologie, biologie, scheikunde, openbaar beleid of een verwant vakgebied.
- Minimaal vijf jaar professionele ervaring in AI-veiligheid, AI-red teaming, trust and safety, cyberbeveiliging, onderzoeksjournalistiek, levenswetenschappen of een verwant vakgebied.
- Sterke analytische vaardigheden en ervaring met promptontwerp en schriftelijke communicatie.
- Ervaring met het maken van adversariële prompts of het beoordelen van geavanceerde AI-systemen.
- Woonachtig zijn in een van de vermelde landen waar deelname is toegestaan: Albanië, Oostenrijk, België, Bulgarije, Bosnië en Herzegovina, Zwitserland, Tsjechië, Duitsland, Denemarken, Spanje, Estland, Finland, Frankrijk, het Verenigd Koninkrijk, Griekenland, Kroatië, Hongarije, Ierland, IJsland, Italië, Liechtenstein, Litouwen, Luxemburg, Letland, Monaco, Moldavië, Noord-Macedonië, Malta, Nederland, Noorwegen, Polen, Portugal, Roemenië, San Marino, Servië, Slowakije, Slovenië, Zweden, de Verenigde Staten of Kosovo.
- Ondersteuning voor H-1B- en STEM OPT-kandidaten is momenteel niet mogelijk.
Voordelen
- Volledig op afstand werken met een flexibel rooster.
- Wekelijkse betalingen via Stripe of Wise voor geleverde diensten.
- De projectduur kan op basis van de projectbehoeften en prestaties worden verlengd, verkort of voortijdig beëindigd.
- Een concurrerende vergoeding.
- De kans om samen te werken met vooraanstaande AI-onderzoekers en veiligheidsteams.
- Redelijke aanpassingen zijn op verzoek beschikbaar.
- Een aanbevelingsprogramma met maximaal 340 dollar per succesvolle aanbeveling, onder voorbehoud van beperkingen.