LogoFresh Jobs Ahead
Mercor
Mercor
51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
LinkedIn
Vacatures bij het bedrijf

Red teamer AI-veiligheid

Test de AI-systemen van Mercors vooraanstaande partnerlabs op kwetsbaarheden in domeinen met een hoog risico. Draag bij aan veiligheidsbenchmarks en help onderzoekers de robuustheid en afstemming van modellen te verbeteren.

USVerenigde Staten
$ 70 – $ 84 / uur
Op afstandContractMediorSeniorVereiste Taal: EngelsKunstmatige intelligentie
Cyberbeveiliging

Beschrijving

  • Maak adversariële prompts om geavanceerde AI-modellen te testen.
  • Spoor jailbreaks, onveilig gedrag, hallucinaties en beleidsschendingen op.
  • Beoordeel de robuustheid van modellen op gevoelige gebieden zoals desinformatie, cybersecurity, biosecurity, fraude en politieke content.
  • Leg kwetsbaarheden vast en draag bij aan veiligheidsbenchmarks en red-teamrapporten.
  • Werk samen met AI-onderzoekers om de afstemming, robuustheid en veiligheid van modellen te versterken.
  • Ondersteun projecten die AI-systemen trainen en verbeteren.
  • Bepaal je eigen werktijden; de projectduur kan veranderen of eerder eindigen op basis van bedrijfsbehoeften en prestaties.

Vereisten

  • Een bacheloropleiding of hoger in informatica, cybersecurity, journalistiek, communicatie, psychologie, biologie, scheikunde, overheidsbeleid of een verwant vakgebied.
  • Minimaal vijf jaar professionele ervaring in AI-veiligheid, AI-red teaming, trust and safety, cybersecurity, onderzoeksjournalistiek, levenswetenschappen of een verwant vakgebied.
  • Sterk analytisch denkvermogen en goede vaardigheden in promptontwerp en schrijven.
  • Ervaring met het maken van adversariële prompts of het evalueren van geavanceerde AI-systemen.
  • Een pre: ervaring met AI-red teaming, RLHF, SFT, AI-afstemming of trust and safety.
  • Een pre: bekendheid met jailbreaktests, prompt engineering of adversariële evaluatiemethoden.
  • Een pre: expertise in een of meer gevoelige gebieden, waaronder cybersecurity, biosecurity, politieke content, desinformatie of wetenschappelijke veiligheid.
  • De opdracht wordt uitgevoerd als zelfstandig opdrachtnemer.
  • Je moet zonder ondersteuning voor een H-1B-visum of STEM OPT kunnen werken.

Voordelen

  • Volledig op afstand werken met een flexibel rooster.
  • Wekelijkse betalingen voor geleverde diensten via Stripe of Wise.
  • Samenwerken met toonaangevende AI-onderzoekers en veiligheidsteams.
  • Mee vormgeven aan de manier waarop AI-systemen reageren op complexe veiligheidsuitdagingen uit de praktijk.
  • Concurrerende vergoeding.
  • Redelijke aanpassingen zijn op verzoek beschikbaar.
  • Vergoedingen tot 340 dollar voor elke succesvolle doorverwijzing, onder voorbehoud van limieten.

Gerelateerde vacatures

Senticorp

B2B-salesmedewerker kredietbeoordelingsdiensten – Senticorp

Senticorp
11 – 50 Medewerkers
B2BFinanciën
PEPeru
PEN 1.500 – PEN 5.000 / maand
Op afstandVoltijdMediorSeniorVereiste Taal: SpaansExecutive

Werf B2B-klanten en verkoop de kredietbeoordelingsdiensten van SENTICORP via online prospectie, koude acquisitie en virtuele afspraken. Werk het hele jaar door op afstand vanuit Peru.

Openen