51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetsexpert – engelska och assamesiska (distansuppdrag)
Testa konversationsbaserade AI-system för jailbreaks, partiskhet, promptinjektionsrisker och andra sårbarheter. Skapa tydliga och reproducerbara dataartefakter från mänsklig granskning som bidrar till att göra avancerad AI säkrare och mer tillförlitlig.
Beskrivning
- Testa konversationsbaserade AI-modeller och agenter för jailbreaks, promptinjektioner, missbruksscenarier, utnyttjande av partiskhet och manipulation över flera turer
- Skapa annoteringar av mänskliga data genom att dokumentera fel, kategorisera sårbarheter och identifiera systemrisker
- Använd etablerade taxonomier, benchmarktester och arbetsinstruktioner för att upprätthålla konsekventa utvärderingar
- Leverera reproducerbara rapporter, dataset och angreppsscenarier till kunder
- Identifiera svagheter som automatiserade tester kan missa
- Bredda utvärderingstäckningen för att bidra till att minimera oväntade problem i produktion
- Bedöm AI-utdata om känsliga ämnen enligt angivna riktlinjer
Krav
- Modersmålsnivå i både engelska och assamesiska
- Gott omdöme vid bedömning av språk och innehåll, inklusive huruvida AI-svar är korrekta, fullständiga och lämpliga
- Mycket god uppmärksamhet på subtila fel, inkonsekvenser och utelämnanden
- Konsekvent följsamhet till riktlinjer och kvalitetsstandarder
- Förmåga att tydligt kommunicera resonemang för tekniska och icke-tekniska målgrupper
- Flexibilitet att arbeta med olika projekt, uppgiftsformat och kunder
- Status som oberoende uppdragstagare
- Bekväm med att arbeta med känsliga ämnen som partiskhet, desinformation och skadligt beteende; deltagande i projekt med högre känslighetsnivå är valfritt
- H-1B- och STEM OPT-kandidater stöds inte
Förmåner
- Helt distansbaserat arbete med ett flexibelt schema som du själv bestämmer
- Veckovisa betalningar via Stripe eller Wise
- Möjlighet att utveckla erfarenhet av AI-red teaming baserat på mänskliga data
- Praktiskt bidrag till mer robusta, säkra och tillförlitliga AI-system
- Möjligheter att samarbeta med ledande forskare
- Skäliga anpassningar erbjuds på begäran
- Hänvisningsersättning på upp till 90 USD för varje framgångsrik hänvisning