51 – 200 Mitarbeitende
Das verfügbare Profil von Mercor enthält nicht genügend verifizierte Informationen über seine Produkte, Dienstleistungen, Kunden, Branche oder seinen Schwerpunkt bei der Personalgewinnung, um eine genaue Unternehmensübersicht zu erstellen. Für eine Beschreibung des Unternehmens oder seiner Möglichkeiten werden weitere Quellen benötigt.
Remote-KI-Sicherheitsexperte (Englisch und Odia) – Vertrag
Mercor sucht eine KI-Sicherheitsexpertin oder einen KI-Sicherheitsexperten mit fließenden Englisch- und Odia-Kenntnissen, um dialogorientierte KI-Modelle für das Training von Frontier-Modellen Red-Team-Tests zu unterziehen. Die Arbeit umfasst das Erstellen von Schwachstellenannotationen, Angriffsfällen, Datensätzen und reproduzierbaren Sicherheitsberichten.
Beschreibung
- Testen Sie dialogorientierte KI-Modelle und -Agenten mithilfe von Jailbreaks, Prompt-Injection, Missbrauchsszenarien, der Ausnutzung von Verzerrungen und Manipulation über mehrere Gesprächsrunden.
- Dokumentieren Sie Fehler, kategorisieren Sie Schwachstellen und identifizieren Sie systemische Risiken.
- Verwenden Sie etablierte Taxonomien, Benchmarks und Playbooks, um die Evaluierungen konsistent zu halten.
- Erstellen Sie reproduzierbare Sicherheitsberichte, Datensätze und Angriffsfälle.
- Untersuchen Sie Modellantworten auf Verzerrungen, Fehlinformationen und schädliches Verhalten.
- Unterstützen Sie das Training und die Verbesserung von Frontier-KI-Systemen für Mercors KI-Labor und Unternehmenskunden.
Anforderungen
- Muttersprachliche oder muttersprachähnliche Beherrschung von Englisch und Odia.
- Urteilsvermögen bei der Bewertung von Sprache und Inhalten.
- Fähigkeit festzustellen, ob KI-Antworten korrekt, vollständig und angemessen sind, und die Begründung dafür zu erklären.
- Ausgeprägte Aufmerksamkeit für subtile Fehler, Inkonsistenzen und Auslassungen.
- Fähigkeit, Richtlinien und Qualitätsstandards zuverlässig einzuhalten.
- Fähigkeit, Überlegungen sowohl technischen als auch nichttechnischen Zielgruppen klar zu vermitteln.
- Flexibilität, an verschiedenen Projekten, Aufgabenformaten und mit unterschiedlichen Kunden zu arbeiten.
- Bereitschaft, als unabhängige Auftragnehmerin oder unabhängiger Auftragnehmer tätig zu sein.
- Bewerberinnen und Bewerber dürfen keine H-1B- oder STEM-OPT-Kandidaten sein.
- Erfahrung oder Spezialisierung in adversarialem maschinellem Lernen, Cybersicherheit, sozio-technischem Risiko oder kreativem Probing ist wünschenswert.
Zusatzleistungen
- Vollständig ortsunabhängige Arbeit.
- Flexible Arbeitszeiten.
- Optionale Teilnahme an Projekten mit höherer Sensibilität.
- Richtlinien und Ressourcen für das Wohlbefinden bei Projekten mit sensiblen Inhalten.
- Wöchentliche Zahlungen über Stripe oder Wise.
- Wettbewerbsfähige Vergütung.
- Möglichkeit zur Zusammenarbeit mit führenden Forschenden.
- Empfehlungszahlungen von bis zu 90 US-Dollar für jede erfolgreiche Empfehlung.