51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
Red teamer voor de veiligheid van AI-modellen
Test de geavanceerde AI-modellen van Mercor met adversariële tests op veiligheidsrisico’s. Ontdek kwetsbaarheden en help de afstemming van modellen te verbeteren.
Beschrijving
- Ontwikkel adversariële prompts om geavanceerde AI-modellen te testen.
- Ontdek jailbreaks, onveilig gedrag, hallucinaties en beleidsschendingen.
- Test de weerbaarheid van modellen op het gebied van desinformatie, cyberveiligheid, biosecurity, fraude, politieke content en andere gevoelige onderwerpen.
- Leg kwetsbaarheden vast en help veiligheidsbenchmarks en red-teamrapporten op te stellen.
- Werk samen met AI-onderzoekers om de afstemming, weerbaarheid en veiligheid van modellen te versterken.
- Help de volgende generatie geavanceerde AI-modellen te beschermen en te verbeteren.
- Draag bij aan projecten voor het trainen en verbeteren van AI-systemen.
Vereisten
- Bacheloropleiding of hoger in informatica, cyberveiligheid, journalistiek, communicatie, psychologie, biologie, scheikunde, overheidsbeleid of een verwant vakgebied
- Minimaal vijf jaar professionele ervaring in AI-veiligheid, AI-red teaming, trust and safety, cyberveiligheid, onderzoeksjournalistiek, levenswetenschappen of een verwant vakgebied
- Sterke analytische vaardigheden, vaardigheid in het ontwerpen van prompts en goede schrijfvaardigheid
- Ervaring met het opstellen van adversariële prompts of het evalueren van geavanceerde AI-systemen
- Ervaring met AI-red teaming, RLHF, supervised fine-tuning, AI-afstemming of trust and safety is een plus
- Bekendheid met jailbreaktests, prompt engineering of adversariële evaluatiemethoden is een plus
- Expertise in ten minste één gevoelig domein, zoals cyberveiligheid, biosecurity, politieke content, desinformatie of wetenschappelijke veiligheid, is een plus
- Je mag geen H-1B- of STEM-OPT-sponsoring nodig hebben; Mercor kan geen kandidaten ondersteunen die een van deze vormen van sponsoring nodig hebben
Voordelen
- Volledig op afstand werken met een flexibel rooster
- Wekelijkse betalingen via Stripe of Wise voor geleverde diensten
- De projectduur kan veranderen of eerder eindigen op basis van de projectbehoeften en prestaties
- Samenwerken met vooraanstaande AI-onderzoekers en veiligheidsteams
- Helpen vormgeven aan de manier waarop AI-systemen omgaan met complexe veiligheidsuitdagingen uit de praktijk
- Redelijke aanpassingen zijn op verzoek beschikbaar
- Vergoedingen van maximaal 340 dollar per succesvolle doorverwijzing, met inachtneming van de limieten