51 – 200 Mitarbeitende
Das verfügbare Profil von Mercor enthält nicht genügend verifizierte Informationen über seine Produkte, Dienstleistungen, Kunden, Branche oder seinen Schwerpunkt bei der Personalgewinnung, um eine genaue Unternehmensübersicht zu erstellen. Für eine Beschreibung des Unternehmens oder seiner Möglichkeiten werden weitere Quellen benötigt.
KI-Sicherheitsexperte – Englisch und Marathi (Remote)
Mercor sucht KI-Sicherheitsexperten mit Englisch- und Marathi-Kenntnissen, die dialogbasierte Modelle und Agenten mittels Red-Teaming prüfen. Die Tätigkeit umfasst das Erkennen von Schwachstellen, die Bewertung sensibler Ausgaben und die Erstellung reproduzierbarer Sicherheitsdaten für KI-Labore und Kunden.
Beschreibung
- Führen Sie Red-Teaming-Tests dialogbasierter KI-Modelle und Agenten mit Jailbreaks, Prompt-Injection, Missbrauchsszenarien, der Ausnutzung von Verzerrungen und mehrstufiger Manipulation durch
- Erstellen Sie Daten für menschliche Bewertungen, indem Sie Fehler annotieren, Schwachstellen kategorisieren und systemische Risiken identifizieren
- Verwenden Sie etablierte Taxonomien, Benchmarks und Playbooks, um konsistente Bewertungen zu unterstützen
- Erstellen Sie reproduzierbare Berichte, Datensätze und Angriffsfälle für Kunden
- Bewerten Sie KI-Ausgaben zu Verzerrungen, Fehlinformationen, schädlichem Verhalten und anderen sensiblen Themen
- Identifizieren Sie Schwachstellen, die automatisierte Tests möglicherweise übersehen
- Erweitern Sie die Bewertungspunkte, um unerwartete Probleme im Produktionseinsatz zu minimieren
- Unterstützen Sie Kunden dabei, die Sicherheit, Robustheit und Vertrauenswürdigkeit ihrer KI-Systeme zu verbessern
Anforderungen
- Muttersprachliche Beherrschung von Englisch und Marathi
- Ausgeprägtes Urteilsvermögen bei der Bewertung von Sprache und Inhalten, einschließlich der Frage, ob KI-Antworten korrekt, vollständig und angemessen sind
- Fähigkeit, subtile Fehler, Widersprüche und Auslassungen zu erkennen
- Fähigkeit, Richtlinien und Qualitätsstandards konsequent einzuhalten
- Fähigkeit, Überlegungen für technische und nicht technische Zielgruppen klar zu erläutern
- Anpassungsfähigkeit an unterschiedliche Projekte, Aufgabentypen und Kunden
- Fähigkeit, als unabhängiger Auftragnehmer zu arbeiten
- Keine Unterstützung durch H-1B oder STEM OPT erforderlich
- Bevorzugt: Erfahrung mit adversarialem maschinellem Lernen, einschließlich Jailbreak-Datensätzen, Prompt-Injection-, RLHF- oder DPO-Angriffen oder Modell-Extraktion
- Bevorzugt: Erfahrung im Bereich Cybersicherheit, etwa mit Penetrationstests, Exploit-Entwicklung oder Reverse Engineering
- Bevorzugt: Erfahrung mit soziotechnischen Risiken, etwa durch Untersuchungen zu Belästigung oder Desinformation, Missbrauchsanalyse oder Tests dialogbasierter KI
- Bevorzugt: Erfahrung in Psychologie, Schauspiel oder Schreiben, die unkonventionelles adversariales Denken unterstützt
Zusatzleistungen
- Vollständig remote ausübbare Tätigkeit mit freier Zeiteinteilung
- Wöchentliche Zahlungen über Stripe oder Wise
- Optionale Teilnahme an Projekten mit höherer Sensibilität
- Klare Richtlinien und Angebote zur Unterstützung des Wohlbefindens bei der Arbeit mit sensiblen Inhalten
- Wettbewerbsfähige Bezahlung
- Möglichkeit zur Zusammenarbeit mit führenden Forschern
- Empfehlungszahlungen von bis zu 90 US-Dollar pro erfolgreicher Empfehlung, vorbehaltlich von Einschränkungen