51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
Red-teamer voor AI-veiligheid – Contract op afstand (Verenigde Staten)
Mercor zoekt een red-teamer voor AI-veiligheid die kwetsbaarheden in geavanceerde AI-modellen opspoort met behulp van adversarial testing. De functie omvat het ontwerpen van prompts en het beoordelen van risicovol modelgedrag samen met onderzoekers op het gebied van AI-veiligheid.
Beschrijving
- Adversarial prompts ontwikkelen om geavanceerde AI-modellen uit te dagen
- Jailbreaks, onveilig gedrag, hallucinaties en beleidsschendingen detecteren
- De robuustheid van modellen beoordelen op het gebied van desinformatie, cybersecurity, biosecurity, fraude, politieke inhoud en andere gevoelige onderwerpen
- Kwetsbaarheden vastleggen en bijdragen aan veiligheidsbenchmarks en red-teamrapporten
- Samenwerken met AI-onderzoekers om de uitlijning, robuustheid en veiligheid van modellen te versterken
- Bijdragen aan projecten voor het trainen en verbeteren van AI-systemen
Vereisten
- Bacheloropleiding of hoger in informatica, cybersecurity, journalistiek, communicatie, psychologie, biologie, scheikunde, openbaar beleid of een verwante studierichting
- Minimaal vijf jaar professionele ervaring in AI-veiligheid, AI-red-teaming, trust and safety, cybersecurity, onderzoeksjournalistiek, levenswetenschappen of een verwant gebied
- Sterke analytische vaardigheden en goede vaardigheden in promptontwerp en schriftelijke communicatie
- Ervaring met het maken van adversarial prompts of het beoordelen van geavanceerde AI-systemen
- Ervaring met AI-red-teaming, RLHF, SFT, AI-alignment of trust and safety is een pluspunt
- Vertrouwdheid met jailbreaktests, prompt engineering of methoden voor adversarial evaluatie is een pluspunt
- Expertise in een of meer grijze gebieden, zoals cybersecurity, biosecurity, politieke inhoud, desinformatie of wetenschappelijke veiligheid, is een pluspunt
- In staat om als zelfstandig opdrachtnemer te werken
- Kandidaten met een H-1B- of STEM-OPT-status worden niet ondersteund
Voordelen
- Volledig op afstand werken
- Flexibele werktijden
- Wekelijkse betalingen via Stripe of Wise
- Projecten kunnen afhankelijk van zakelijke behoeften en prestaties worden verlengd, verkort of voortijdig beëindigd
- Adversarial testing uitvoeren met toonaangevende AI-onderzoekers en veiligheidsteams
- De mogelijkheid om mee vorm te geven aan de manier waarop AI-systemen omgaan met complexe veiligheidsuitdagingen in de praktijk
- Redelijke aanpassingen zijn op verzoek beschikbaar
- Vergoedingen tot 340 Amerikaanse dollar per succesvolle doorverwijzing, onder voorbehoud van doorverwijzingslimieten