Mercor
Mercor
51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.

Red Teaming voor AI-veiligheid

Mercor zoekt een specialist in red teaming voor AI-veiligheid die geavanceerde AI-systemen test met adversariële prompts. De functie omvat het documenteren van risico’s en samenwerken met onderzoekers om de veiligheid en afstemming van modellen te versterken.

Beschrijving

  • Adversariële prompts maken om geavanceerde AI-modellen te testen
  • Jailbreaks, onveilige uitvoer, hallucinaties en hiaten in beleidsregels opsporen
  • De weerbaarheid van modellen beoordelen in gevoelige domeinen zoals desinformatie, cyberbeveiliging, bioveiligheid, fraude en politieke inhoud
  • Kwetsbaarheden vastleggen en bijdragen aan veiligheidsbenchmarks en red-teamingrapporten
  • Samenwerken met AI-onderzoekers om de afstemming, weerbaarheid en veiligheid van modellen te versterken
  • Bijdragen aan projecten die AI-systemen trainen en verbeteren

Vereisten

  • Bacheloropleiding of hoger in informatica, cyberbeveiliging, journalistiek, communicatie, psychologie, biologie, scheikunde, publiek beleid of een verwant vakgebied
  • Minimaal vijf jaar werkervaring in AI-veiligheid, AI-red teaming, trust and safety, cyberbeveiliging, onderzoeksjournalistiek, levenswetenschappen of een verwant domein
  • Sterk analytisch denkvermogen, vaardigheden in promptontwerp en goede schrijfvaardigheid
  • Ervaring met het maken van adversariële prompts of het beoordelen van geavanceerde AI-systemen
  • Gewenst: Achtergrond in AI-red teaming, RLHF, supervised fine-tuning, AI-alignment of trust and safety
  • Gewenst: Bekendheid met jailbreaktests, prompt engineering of adversariële evaluatiemethoden
  • Gewenst: Expertise in genuanceerde domeinen zoals cyberbeveiliging, bioveiligheid, politieke inhoud, desinformatie of wetenschappelijke veiligheid
  • Moet als zelfstandig opdrachtnemer kunnen werken
  • H-1B- en STEM-OPT-kandidaten worden niet ondersteund

Voordelen

  • Volledig op afstand werken met een flexibel schema
  • Wekelijkse betalingen voor geleverde diensten via Stripe of Wise
  • De projectduur kan op basis van behoeften en prestaties worden verlengd, verkort of voortijdig beëindigd
  • Competitieve vergoeding
  • Mogelijkheid om samen te werken met toonaangevende onderzoekers en veiligheidsteams
  • Redelijke aanpassingen zijn op verzoek beschikbaar
  • Verwijsbonus van maximaal 340 dollar per succesvolle verwijzing, onder voorbehoud van limieten

Gerelateerde vacatures

Knowtion Health

Remote manager talentwerving

Knowtion Health

Verantwoordelijk voor recruitmentsystemen, vacatures, analyses en het beheer van externe arbeidskrachten bij Knowtion Health. Helpt schaalbare wervingsprocessen ondersteunen voor een groeiend zorgbedrijf.

Openen
Napco National

Inkoopcoördinator, Saoedi-Arabië (remote)

Napco National

Coördineer de inkoopprocessen voor een productiebedrijf in Saoedi-Arabië, van inkooporders en leveranciersleveringen tot douanedocumenten en materiaaltransfers. Ondersteun bij het vrijmaken van zendingen, factuurverwerking, leveranciersclaims en het verlengen van productcertificaten.

Openen
4M Analytics

Senior engineer computer vision-algoritmen

4M Analytics

Ontwikkel computer vision- en machinelearningsystemen voor het platform van 4M Analytics voor het in kaart brengen van ondergrondse nutsvoorzieningen. Draag verantwoordelijkheid voor algoritmen van onderzoek tot productie en werk samen met data-engineering- en productteams.

Openen
Terumo Medical Corporation

Regionaal verkoopmanager Terumo Interventional Systems

Terumo Medical Corporation

Geef leiding aan de verkoop van medische hulpmiddelen in een regio in Noord-Centraal-New Jersey en stuur buitendienstteams en ziekenhuisrelaties aan. Vergroot de regionale omzet en verkoopprestaties en zorg voor promotie van Terumo Interventional Systems-producten volgens de voorschriften.

Openen