51 – 200 Mitarbeitende
Das verfügbare Profil von Mercor enthält nicht genügend verifizierte Informationen über seine Produkte, Dienstleistungen, Kunden, Branche oder seinen Schwerpunkt bei der Personalgewinnung, um eine genaue Unternehmensübersicht zu erstellen. Für eine Beschreibung des Unternehmens oder seiner Möglichkeiten werden weitere Quellen benötigt.
AI-Safety-Red-Team-Experte – Englisch und Finnisch, Remote in den USA
Führe adversariale Tests von dialogorientierten KI-Modellen und -Agenten für Mercors KI-Projekte mit menschlichen Daten durch. Erstelle reproduzierbare Daten zu Schwachstellen, um hochmoderne KI-Systeme robuster zu machen.
Beschreibung
- Teste dialogorientierte KI-Modelle und -Agenten mit Jailbreaks, Prompt-Injection, Missbrauchsszenarien, der Ausnutzung von Verzerrungen und mehrstufiger Manipulation
- Dokumentiere Fehler, kategorisiere Schwachstellen und identifiziere systemische Risiken
- Wende etablierte Taxonomien, Benchmarks und Playbooks für konsistente Bewertungen an
- Erstelle reproduzierbare Berichte, Datensätze und Angriffsfälle für Kunden
- Identifiziere Schwachstellen, die automatisierte Tests möglicherweise übersehen
- Erweitere die Evaluierungsabdeckung und trage dazu bei, unerwartete Probleme in der Produktion zu reduzieren
- Arbeite mit führenden Forschenden an Projekten zur Entwicklung und Verbesserung von KI-Systemen
Anforderungen
- Fließende oder muttersprachliche Englisch- und Finnischkenntnisse
- Erfahrung im Red Teaming in den Bereichen adversariale KI, Cybersicherheit oder soziotechnische Untersuchungen
- Fähigkeit, KI-Systeme adversarial zu testen und gezielt an ihre Fehlergrenzen zu bringen
- Erfahrung mit der Anwendung von Frameworks oder Benchmarks für strukturierte Tests
- Fähigkeit, Risiken für technische und nichttechnische Zielgruppen klar zu kommunizieren
- Anpassungsfähigkeit an unterschiedliche Projekte und Kundenanforderungen
- Verfügbarkeit für eine Tätigkeit als unabhängiger Auftragnehmer
- Bewerber dürfen weder H-1B- noch STEM-OPT-Kandidaten sein
- Von Vorteil: Erfahrung mit adversarialem maschinellem Lernen, einschließlich Jailbreak-Datensätzen, Prompt-Injection, RLHF-/DPO-Angriffen oder Model Extraction
- Von Vorteil: Erfahrung in der Cybersicherheit, etwa mit Penetrationstests, Exploit-Entwicklung oder Reverse Engineering
- Von Vorteil: Erfahrung mit soziotechnischen Risiken, etwa mit der Untersuchung von Belästigung oder Desinformation, Missbrauchsanalyse oder Tests dialogorientierter KI
- Von Vorteil: Erfahrung in Psychologie, Schauspiel oder Schreiben zur Unterstützung unkonventionellen adversarialen Denkens
Zusatzleistungen
- Vollständig remote
- Flexible Arbeitszeiten
- Wöchentliche Zahlungen über Stripe oder Wise
- Wellness-Angebote und klare Richtlinien für Projekte mit erhöhter Sensibilität
- Möglichkeit, Erfahrung im Red Teaming von KI mit menschlichen Daten zu sammeln
- Direkte Möglichkeit, KI-Systeme robuster, sicherer und vertrauenswürdiger zu machen
- Wettbewerbsfähige Vergütung
- Empfehlungsbonus von bis zu 250 $ für jede erfolgreiche Empfehlung