51 – 200 Mitarbeitende
Das verfügbare Profil von Mercor enthält nicht genügend verifizierte Informationen über seine Produkte, Dienstleistungen, Kunden, Branche oder seinen Schwerpunkt bei der Personalgewinnung, um eine genaue Unternehmensübersicht zu erstellen. Für eine Beschreibung des Unternehmens oder seiner Möglichkeiten werden weitere Quellen benötigt.
KI-Sicherheitsexperte (Englisch und Kannada) – Remote-Vertrag in den Vereinigten Staaten
Mercor sucht eine auf KI-Red-Teaming spezialisierte Person mit fließenden Englisch- und Kannada-Kenntnissen, um moderne Modelle auf Schwachstellen zu testen. Die Arbeit umfasst das Erstellen reproduzierbarer Angriffsfälle, Bewertungsdatensätze und Risikoberichte für KI-Trainingsprojekte mit menschlichen Daten.
Beschreibung
- Testen Sie dialogorientierte KI-Modelle und -Agenten mit Jailbreaks, Prompt-Injections, Missbrauchsszenarien, der Ausnutzung von Verzerrungen und mehrstufiger Manipulation
- Erstellen Sie Annotationen zu menschlichen Daten, indem Sie Fehler dokumentieren, Schwachstellen kategorisieren und systemische Risiken identifizieren
- Verwenden Sie etablierte Taxonomien, Benchmarks und Playbooks, um konsistente Bewertungen sicherzustellen
- Erstellen Sie reproduzierbare kundenorientierte Berichte, Datensätze und Angriffsfälle
- Bewerten Sie KI-Antworten zu sensiblen Themen, darunter Verzerrungen, Fehlinformationen und schädliches Verhalten
- Untersuchen Sie KI-Systeme auf Schwachstellen, die automatisierte Tests möglicherweise übersehen
- Erweitern Sie die Bewertungsabdeckung, um unerwartete Probleme im Produktivbetrieb zu begrenzen
- Unterstützen Sie das Training und die Weiterentwicklung moderner Modelle für Mercors KI-Labor und Unternehmenskunden
Anforderungen
- Muttersprachliche oder nahezu muttersprachliche Kenntnisse in Englisch und Kannada
- Sicheres Urteilsvermögen bei der Bewertung, ob KI-Antworten korrekt, vollständig und angemessen sind
- Klare Kommunikationsfähigkeiten, um Überlegungen technischen und nichttechnischen Zielgruppen zu erklären
- Äußerste Sorgfalt beim Erkennen subtiler Fehler, Widersprüche und Auslassungen
- Konsistenz bei der Anwendung von Taxonomien, Benchmarks, Playbooks, Richtlinien und Qualitätsstandards
- Flexibilität bei der Arbeit an verschiedenen Projekten, Aufgabenformaten und Kunden
- Fähigkeit, als unabhängige Auftragnehmerin oder unabhängiger Auftragnehmer zu arbeiten
- Es darf keine H-1B- oder STEM-OPT-Unterstützung erforderlich sein; diese Unterstützungswege werden nicht angeboten
- Relevante Erfahrung in adversativem maschinellem Lernen, Cybersicherheit, soziotechnischem Risiko, dem Testen dialogorientierter KI, Psychologie, Schauspiel oder unkonventionellem adversativem Schreiben ist von Vorteil
Zusatzleistungen
- Arbeiten Sie vollständig remote und legen Sie Ihren Zeitplan flexibel selbst fest
- Erhalten Sie wöchentliche Zahlungen über Stripe oder Wise für erbrachte Leistungen
- Entscheiden Sie selbst, ob Sie an Projekten mit Inhalten höherer Sensibilität teilnehmen möchten
- Erhalten Sie klare Anleitungen und Wellness-Ressourcen für Aufgaben mit sensiblen Inhalten
- Erhalten Sie eine wettbewerbsfähige Vergütung
- Sammeln Sie praktische Erfahrung im Red-Teaming von KI auf Basis menschlicher Daten
- Arbeiten Sie mit führenden Forschenden zusammen
- Beantragen Sie bei Bedarf angemessene Vorkehrungen
- Erhalten Sie Empfehlungszahlungen von bis zu 90 US-Dollar für jede erfolgreiche Empfehlung