51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
Red Teamer voor AI-veiligheid – Op afstand in de Verenigde Staten
Mercor zoekt een AI Safety Red Teamer die op afstand werkt, geavanceerde AI-modellen uitdaagt en kwetsbaarheden in risicovolle domeinen opspoort. Deze contractfunctie ondersteunt AI-labs bij het ontwikkelen en verbeteren van geavanceerde systemen.
Beschrijving
- Maak adversariële prompts om geavanceerde AI-modellen te testen
- Detecteer jailbreaks, onveilig gedrag, hallucinaties en beleidsovertredingen
- Beoordeel de weerbaarheid van modellen tegen desinformatie, cyberdreigingen, biosecurityrisico's, fraude, politieke inhoud en andere gevoelige onderwerpen
- Leg ontdekte kwetsbaarheden vast en help bij het opstellen van veiligheidsbenchmarks en red-teamrapporten
- Werk samen met AI-onderzoekers om modelalignment, robuustheid en veiligheid te versterken
- Draag bij aan projecten die AI-systemen trainen en verbeteren
Vereisten
- Bacheloropleiding of hoger in computerwetenschappen, cybersecurity, journalistiek, communicatie, psychologie, biologie, scheikunde, openbaar bestuur of een verwant vakgebied
- Minimaal vijf jaar professionele ervaring in AI-veiligheid, AI-red-teaming, trust and safety, cybersecurity, onderzoeksjournalistiek, levenswetenschappen of een verwant gebied
- Sterk analytisch beoordelingsvermogen en vaardigheden in promptontwerp en schriftelijke communicatie
- Ervaring met het maken van adversariële prompts of het beoordelen van geavanceerde AI-systemen
- Ervaring met AI-red-teaming, RLHF, SFT, AI-alignment of trust and safety is een pré
- Kennis van jailbreaktesten, prompt engineering of methoden voor adversariële evaluatie is een pré
- Expertise in ten minste één grijs gebied, zoals cybersecurity, biosecurity, politieke inhoud, desinformatie of wetenschappelijke veiligheid, is een pré
- Vermogen om als zelfstandig opdrachtnemer te werken
- Kandidaten met een H-1B- of STEM-OPT-status worden niet ondersteund
Voordelen
- Volledig op afstand werken
- Flexibele, zelfgestuurde werktijden
- Wekelijkse betalingen via Stripe of Wise
- Projecten kunnen afhankelijk van zakelijke behoeften en prestaties worden verlengd, verkort of voortijdig beëindigd
- Concurrerende vergoeding
- Samenwerking met toonaangevende AI-onderzoekers en veiligheidsteams
- Redelijke aanpassingen zijn op verzoek beschikbaar
- Doorverwijsvergoedingen tot 340 dollar per succesvolle doorverwijzing, onder voorbehoud van toepasselijke limieten