51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
Remote AI-veiligheidsexpert – Engels en Assamees (contract)
Mercor zoekt een AI-veiligheidsexpert op contractbasis die op afstand werkt en vloeiend Engels en Assamees spreekt, om geavanceerde modellen aan red teaming te onderwerpen, kwetsbaarheden te beoordelen en hoogwaardige menselijke data voor AI-veiligheidsprojecten te creëren.
Beschrijving
- Onderwerp conversationele AI-modellen en -agents aan red teaming met jailbreaks, promptinjecties, misbruikscenario’s, het uitbuiten van vooroordelen en manipulatie in meerdere gespreksrondes
- Creëer door mensen gelabelde data door fouten te annoteren, kwetsbaarheden te categoriseren en systemische risico’s te identificeren
- Gebruik taxonomieën, benchmarks en playbooks om consistente evaluaties te waarborgen
- Ontwikkel reproduceerbare rapporten, datasets en aanvalsscenario’s voor klanten
- Beoordeel AI-uitvoer over gevoelige onderwerpen, waaronder vooroordelen, desinformatie en schadelijk gedrag
- Identificeer kwetsbaarheden die geautomatiseerde tests niet detecteren
- Vergroot de evaluatiedekking om onverwachte problemen in productie te helpen beperken
- Draag bij aan projecten die geavanceerde AI-systemen trainen en verbeteren
Vereisten
- Vloeiendheid op moedertaalniveau in zowel Engels als Assamees
- Goed beoordelingsvermogen bij het evalueren van taal- en inhoudskwaliteit
- Vermogen om te bepalen of AI-antwoorden accuraat, volledig en passend zijn
- Vermogen om redeneringen duidelijk te communiceren aan zowel technische als niet-technische doelgroepen
- Uitmuntende aandacht voor subtiele fouten, inconsistenties en omissies
- Vermogen om richtlijnen, taxonomieën, benchmarks, playbooks en kwaliteitsnormen consequent toe te passen
- Flexibiliteit om aan verschillende projecten, taakindelingen en klantbehoeften te werken
- Je moet als zelfstandig opdrachtnemer werken
- H-1B- en STEM-OPT-kandidaten kunnen momenteel niet worden ondersteund
- Voorkeursgebieden van expertise zijn adversarial machine learning, cybersecurity, sociotechnisch risico, evaluatie van conversationele AI, psychologie, acteren en schrijven
Voordelen
- Volledig op afstand werken
- Een schema kiezen dat bij je past
- Wekelijkse betalingen ontvangen via Stripe of Wise
- Praktische ervaring opdoen met human-data-gedreven red teaming van AI
- Helpen om AI-systemen robuuster, veiliger en betrouwbaarder te maken
- Samenwerken met toonaangevende AI-onderzoekers
- Redelijke aanpassingen zijn op verzoek beschikbaar
- Tot 90 dollar aan doorverwijzingsbetalingen ontvangen per succesvolle doorverwijzing, onder voorbehoud van toepasselijke limieten