Mercor
Mercor
51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.

AI Safety Red Teamer - Remotecontract in de Verenigde Staten

Mercor zoekt een AI Safety Red Teamer op contractbasis om geavanceerde AI-modellen uit te dagen en kwetsbaarheden bloot te leggen. De functie richt zich op risicovolle domeinen en draagt bij aan de ontwikkeling van veiligere, betrouwbaardere AI-systemen.

Beschrijving

  • Creëer adversarial prompts die geavanceerde AI-modellen grondig op de proef stellen
  • Detecteer jailbreaks, onveilig gedrag, hallucinaties en het niet naleven van veiligheidsbeleid
  • Beoordeel de weerbaarheid van modellen op het gebied van desinformatie, cybersecurity, biosecurity, fraude, politieke inhoud en andere gevoelige onderwerpen
  • Leg ontdekte zwakke punten vast en ondersteun veiligheidsbenchmarks en red-teamingrapporten
  • Werk samen met AI-onderzoekers aan de verdere ontwikkeling van modeluitlijning, robuustheid en veiligheid
  • Help opkomende geavanceerde AI-systemen te beschermen en te verbeteren
  • Geef mede vorm aan de manier waarop AI-modellen in realistische contexten omgaan met moeilijke veiligheidsscenario's

Vereisten

  • Bacheloropleiding of hoger in computerwetenschappen, cybersecurity, journalistiek, communicatie, psychologie, biologie, chemie, openbaar beleid of een verwant vakgebied
  • Minimaal vijf jaar professionele ervaring in AI-veiligheid, AI-red-teaming, trust and safety, cybersecurity, onderzoeksjournalistiek, levenswetenschappen of een verwant vakgebied
  • Sterk analytisch beoordelingsvermogen, vaardigheid in promptontwikkeling en goede schriftelijke communicatieve vaardigheden
  • Praktische ervaring met het creëren van adversarial prompts of het beoordelen van geavanceerde AI-systemen
  • Pré: achtergrond in AI-red-teaming, RLHF, SFT, AI-uitlijning of trust and safety
  • Pré: vertrouwdheid met jailbreakbeoordelingen, prompt engineering of methoden voor adversarial evaluatie
  • Pré: expertise in genuanceerde onderwerpen zoals cybersecurity, biosecurity, politieke inhoud, desinformatie of wetenschappelijke veiligheid
  • Beschikbaarheid om als zelfstandig opdrachtnemer te werken
  • Kandidaten met een H-1B- of STEM OPT-status worden niet ondersteund

Voordelen

  • Volledig op afstand werken
  • Je eigen werktijden bepalen en opdrachten volgens een flexibel schema uitvoeren
  • Wekelijkse betalingen ontvangen via Stripe of Wise
  • De projectduur kan op basis van zakelijke behoeften en prestaties veranderen of eerder eindigen
  • Een concurrerende vergoeding
  • Samenwerken met vooraanstaande AI-onderzoekers en veiligheidsteams
  • Redelijke aanpassingen zijn op verzoek beschikbaar
  • Referralprogramma met maximaal $340 voor elke succesvolle verwijzing, onder voorbehoud van verwijzingslimieten

Gerelateerde vacatures

PayJoy

Staff Software Engineer Betalingen

PayJoy

Geef leiding aan de ontwikkeling van schaalbare betaalinfrastructuur bij PayJoy, een fintech-kredietverstrekker voor klanten in opkomende markten. Begeleid engineers en stuur belangrijke technische initiatieven voor backend en samenwerking tussen teams aan.

Openen
Vantage Data Centers

Senior engineer automatiseringssystemen, oplevering van datacenters

Vantage Data Centers

Leveren en in bedrijf stellen van SCADA-, BMS-, PLC- en besturingssystemen voor de Noord-Amerikaanse vestigingen van Vantage Data Centers. Hybride functie vanuit in aanmerking komende locaties in de VS.

Openen
Tech Holding

Software-engineer, specificatiegestuurde AI-ontwikkeling (Mexico, remote)

Tech Holding

Bouw AI-software voor risico-informatie waarmee bedrijven online bedreigingen kunnen opsporen.\nLeid AI-ondersteunde functieontwikkeling van backend-implementatie tot productie.

Openen
Medtronic

Software Systems Engineer II voor MBSE en SysML

Medtronic

Ontwikkel SysML-gebaseerde systeem- en softwarearchitecturen voor Medtronics systemen voor hartermapping en ablatie. Ondersteun traceerbaarheid van vereisten, interfacedefinitie, risicoanalyse en softwareontwikkeling voor gereguleerde medische hulpmiddelen.

Openen