51 – 200 Mitarbeitende
Das verfügbare Profil von Mercor enthält nicht genügend verifizierte Informationen über seine Produkte, Dienstleistungen, Kunden, Branche oder seinen Schwerpunkt bei der Personalgewinnung, um eine genaue Unternehmensübersicht zu erstellen. Für eine Beschreibung des Unternehmens oder seiner Möglichkeiten werden weitere Quellen benötigt.
Mercor KI-Sicherheitsexperte – Englisch und Gujarati, US-Remote-Vertrag
Führe für Mercor von Menschen geleitete Red-Team-Evaluierungen von dialogorientierten KI-Modellen und -Agenten durch. Erstelle auf Englisch und Gujarati Vulnerabilitätsdaten, Angriffsszenarien und reproduzierbare Sicherheitsbewertungen.
Beschreibung
- Teste dialogorientierte KI-Modelle und -Agenten mit Jailbreaks, Prompt-Injections, Missbrauchsszenarien, der Ausnutzung von Verzerrungen und mehrstufiger Manipulation
- Annote Fehler, kategorisiere Schwachstellen und eskaliere systemische Risiken
- Verwende etablierte Taxonomien, Benchmarks und Playbooks, um konsistente Evaluierungen sicherzustellen
- Erstelle reproduzierbare Berichte, Datensätze und Angriffsszenarien
- Bewerte KI-Ausgaben zu Verzerrungen, Fehlinformationen, schädlichem Verhalten und anderen sensiblen Themen
- Erkenne Schwachstellen, die automatisierte Tests möglicherweise übersehen
- Erweitere die Evaluierungsabdeckung und trage dazu bei, unerwartete Probleme in der Produktion zu begrenzen
- Verbessere die KI-Systeme von Kunden durch von Menschen erstelltes, datenbasiertes Red Teaming
Anforderungen
- Muttersprachliche oder muttersprachähnliche Beherrschung von Englisch und Gujarati
- Urteilsvermögen bei der Bewertung von Sprache und Inhalten
- Fähigkeit zu beurteilen, ob KI-Antworten korrekt, vollständig und angemessen sind, sowie die Bewertung zu erläutern
- Ausgeprägte Aufmerksamkeit für subtile Fehler, Inkonsistenzen und Auslassungen
- Konsequente Einhaltung von Richtlinien und Qualitätsstandards
- Klare Vermittlung von Schlussfolgerungen an technische und nichttechnische Zielgruppen
- Flexibilität bei verschiedenen Projekten, Aufgabenformaten und Kunden
- Bereitschaft, als unabhängiger Auftragnehmer zu arbeiten
- Darf kein H-1B- oder STEM-OPT-Kandidat sein
- Bevorzugte Kenntnisse in adversarialem maschinellem Lernen, Cybersicherheit, sozio-technischen Risiken oder kreativem Sondieren
Zusatzleistungen
- Vollständig remote ausgeführte Vertragsarbeit
- Flexible Arbeitszeiten
- Wöchentliche Zahlungen über Stripe oder Wise
- Möglichkeit zur Teilnahme an Projekten mit höherer Sensibilität
- Anleitung und Wellness-Ressourcen für die Arbeit mit sensiblen Inhalten
- Wettbewerbsfähige Vergütung
- Möglichkeit zur Zusammenarbeit mit führenden Forschenden
- Angemessene Vorkehrungen sind auf Anfrage verfügbar
- Empfehlungsprogramm mit bis zu 90 US-Dollar für jede erfolgreiche Empfehlung