51 – 200 Mitarbeitende
Das verfügbare Profil von Mercor enthält nicht genügend verifizierte Informationen über seine Produkte, Dienstleistungen, Kunden, Branche oder seinen Schwerpunkt bei der Personalgewinnung, um eine genaue Unternehmensübersicht zu erstellen. Für eine Beschreibung des Unternehmens oder seiner Möglichkeiten werden weitere Quellen benötigt.
KI-Sicherheitsexpert:in – Englisch und Telugu (Remote-Vertrag)
Durchführung von Red-Team-Evaluierungen für dialogorientierte KI-Modelle und -Agenten für Mercor, um durch adversariales Testen Schwachstellen zu identifizieren. Erstellung hochwertiger Datensätze, Angriffsfälle und klarer Berichte mit Schwerpunkt auf der Leistung in englischer und telugischer Sprache.
Beschreibung
- Dialogorientierte KI-Modelle und -Agenten auf Jailbreaks, Prompt-Injection, Missbrauchsszenarien, Ausnutzung von Verzerrungen und mehrstufige Manipulation testen
- Von Menschen erstellte Daten durch Kennzeichnung von Fehlern, Kategorisierung von Schwachstellen und Identifizierung systemischer Risiken erstellen
- Etablierte Taxonomien, Benchmarks und Playbooks verwenden, um konsistente Evaluierungen sicherzustellen
- Reproduzierbare Berichte, Datensätze und adversariale Angriffsfälle entwickeln
- KI-Antworten zu Verzerrungen, Fehlinformationen, schädlichem Verhalten und anderen sensiblen Themen bewerten
- Schwachstellen identifizieren, die automatisierte Evaluierungsmethoden möglicherweise übersehen
- Die Evaluierungsabdeckung erweitern, um unerwartete Probleme in Produktionsumgebungen zu vermeiden
- Kunden-KI-Systeme durch strukturierte adversariale Tests verbessern
Anforderungen
- Fließende Beherrschung von Englisch und Telugu auf muttersprachlichem Niveau
- Urteilsvermögen bei der Bewertung von Sprache und Inhalten
- Fähigkeit zu beurteilen, ob KI-Antworten korrekt, vollständig und angemessen sind, und die eigene Einschätzung zu begründen
- Hervorragende Aufmerksamkeit für subtile Fehler, Inkonsistenzen und Auslassungen
- Konsequente Einhaltung von Richtlinien und Qualitätsstandards
- Fähigkeit, Überlegungen für technische und nichttechnische Zielgruppen klar zu vermitteln
- Flexibilität bei der Arbeit an verschiedenen Projekten, Aufgabenformaten und für unterschiedliche Kunden
- Fähigkeit, als unabhängige:r Auftragnehmer:in zu arbeiten
- Darf keine H-1B- oder STEM-OPT-Sponsorship benötigen
- Erfahrung in adversarialem maschinellem Lernen, Cybersicherheit, soziotechnischem Risiko oder kreativem Sondieren ist von Vorteil
Zusatzleistungen
- Vollständig remote arbeiten
- Einen flexiblen Zeitplan wählen, der zur eigenen Verfügbarkeit passt
- Wöchentliche Zahlungen über Stripe oder Wise erhalten
- Die Projektdauer kann sich je nach geschäftlichen Anforderungen und Leistung ändern oder vorzeitig enden
- Zugang zu Wellness-Ressourcen und klaren Anleitungen für Aufgaben mit erhöhter Sensibilität erhalten
- Erfahrung im KI-Red-Teaming auf Basis von durch Menschen erstellten Daten sammeln
- Dazu beitragen, KI-Systeme robuster, sicherer und vertrauenswürdiger zu machen
- Eine wettbewerbsfähige Vergütung erhalten
- Mit führenden Forschenden zusammenarbeiten
- Angemessene Vorkehrungen sind auf Anfrage verfügbar