Mercor
Mercor
51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.

Red teamer AI-veiligheid

Test geavanceerde AI-systemen voor partnerlaboratoria van Mercor door kwetsbaarheden bloot te leggen en risicovol modelgedrag te beoordelen. Ontwerp adversariële prompts en help veiligheidsbevindingen vast te leggen.

Beschrijving

  • Ontwerp adversariële prompts om geavanceerde AI-modellen onder druk te testen.
  • Spoor jailbreaks, onveilige uitvoer, hallucinaties en het niet naleven van beleid op.
  • Beoordeel de weerbaarheid van modellen op gebieden als desinformatie, cyberveiligheid, biosecurity, fraude, politieke inhoud en andere gevoelige onderwerpen.
  • Leg kwetsbaarheden vast en help veiligheidsbenchmarks en red-teamrapporten op te stellen.
  • Werk samen met AI-onderzoekers aan een betere afstemming, weerbaarheid en veiligheid van modellen.
  • Voer projecten uit voor partnerlaboratoria van Mercor en bedrijven die AI-systemen trainen en verbeteren.

Vereisten

  • Bachelordiploma of hoger in informatica, cyberveiligheid, journalistiek, communicatie, psychologie, biologie, scheikunde, openbaar bestuur of een verwant vakgebied.
  • Minimaal vijf jaar professionele ervaring in AI-veiligheid, AI-red teaming, trust & safety, cyberveiligheid, onderzoeksjournalistiek, levenswetenschappen of een verwant vakgebied.
  • Sterk analytisch vermogen en goede vaardigheden in promptontwerp en schriftelijke communicatie.
  • Ervaring met het maken van adversariële prompts of het evalueren van geavanceerde AI-systemen.
  • Ervaring met AI-red teaming, RLHF, supervised fine-tuning, AI-alignment of trust & safety is een plus.
  • Bekendheid met jailbreaktests, prompt engineering of adversariële evaluatiemethoden is een plus.
  • Expertise in complexe onderwerpen zoals cyberveiligheid, biosecurity, politieke inhoud, desinformatie of wetenschappelijke veiligheid is een plus.
  • Je moet gerechtigd zijn om op een van de vermelde locaties te werken.
  • Mercor kan op dit moment geen H-1B- of STEM-OPT-kandidaten ondersteunen.

Voordelen

  • Werk volledig op afstand.
  • Stel een flexibel rooster samen en deel je werk zelf in.
  • Ontvang wekelijkse betalingen via Stripe of Wise.
  • Projecten kunnen op basis van de projectbehoeften en prestaties worden verlengd, verkort of voortijdig beëindigd.
  • Een concurrerende vergoeding.
  • Werk samen met vooraanstaande AI-onderzoekers en veiligheidsteams.
  • Draag bij aan de veiligheid en ontwikkeling van geavanceerde AI.
  • Verdien tot 340 dollar voor elke succesvolle doorverwijzing, binnen de geldende doorverwijsgrenzen.
  • Redelijke aanpassingen zijn op verzoek beschikbaar.

Gerelateerde vacatures

Delegate CX

Executive assistent boekhouding (op afstand, Filipijnen)

Delegate CX
11 – 50 Medewerkers
AdviesOndernemingWerving

Ondersteun leidinggevenden en verzorg de boekhoudkundige en administratieve werkzaamheden voor kleine Amerikaanse bedrijven vanuit huis. Coördineer agenda’s, communicatie, uitgaven, administratie en rapportages via de BPO-diensten van DCX.

Openen
AT&T

AT&T Business Sales Representative voor regioklanten – Memphis

AT&T

Vergroot het klantenbestand van AT&T bij kleine bedrijven en middelgrote ondernemingen in Memphis door glasvezelbreedband en andere communicatieoplossingen te verkopen. De functie combineert acquisitie, accountontwikkeling en adviserend verkopen om de omzet in het rayon te laten groeien.

Openen