51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
Red teamer voor AI-veiligheid
Mercor zoekt een red teamer voor AI-veiligheid die geavanceerde modellen test op jailbreaks, hallucinaties en beleidsschendingen. Het bedrijf werkt samen met AI-labs om AI-systemen te trainen en te verbeteren.
Beschrijving
- Ontwikkel adversariële prompts om geavanceerde AI-modellen te testen.
- Spoor jailbreaks, onveilig gedrag, hallucinaties en beleidsschendingen op.
- Beoordeel de robuustheid van modellen op gebieden als desinformatie, cyberveiligheid, bioveiligheid, fraude, politieke inhoud en andere gevoelige onderwerpen.
- Leg kwetsbaarheden vast en help veiligheidsbenchmarks en red-teamrapporten op te stellen.
- Werk samen met AI-onderzoekers aan het versterken van de afstemming, robuustheid en veiligheid van modellen.
- Voer projecten uit als zelfstandig opdrachtnemer, afhankelijk van de projectbehoefte en prestaties.
Vereisten
- Bachelordiploma of hoger in informatica, cyberveiligheid, journalistiek, communicatie, psychologie, biologie, scheikunde, overheidsbeleid of een verwant vakgebied.
- Minimaal vijf jaar professionele ervaring in AI-veiligheid, AI-red teaming, trust and safety, cyberveiligheid, onderzoeksjournalistiek, biowetenschappen of een verwant vakgebied.
- Sterke analytische vaardigheden en goede vaardigheden in promptontwerp en schrijven.
- Ervaring met het maken van adversariële prompts of het beoordelen van geavanceerde AI-systemen.
- Pré: ervaring met AI-red teaming, RLHF, SFT, AI-afstemming of trust and safety.
- Pré: bekendheid met jailbreaktests, prompt engineering of adversariële evaluatiemethoden.
- Pré: expertise op een of meer gevoelige gebieden, waaronder cyberveiligheid, bioveiligheid, politieke inhoud, desinformatie of wetenschappelijke veiligheid.
- Je moet als zelfstandig opdrachtnemer kunnen werken.
- H-1B- en STEM OPT-kandidaten worden niet ondersteund.
Voordelen
- Volledig op afstand.
- Bepaal je eigen werktijden.
- Wekelijkse betalingen via Stripe of Wise voor verrichte diensten.
- Werk samen met toonaangevende AI-onderzoekers en veiligheidsteams.
- Draag bij aan de veiligheid en afstemming van geavanceerde AI.
- Vergoedingen tot 340 dollar per succesvolle doorverwijzing, onder voorbehoud van limieten.
- Redelijke aanpassingen zijn op verzoek beschikbaar.