51 – 200 Mitarbeitende
Das verfügbare Profil von Mercor enthält nicht genügend verifizierte Informationen über seine Produkte, Dienstleistungen, Kunden, Branche oder seinen Schwerpunkt bei der Personalgewinnung, um eine genaue Unternehmensübersicht zu erstellen. Für eine Beschreibung des Unternehmens oder seiner Möglichkeiten werden weitere Quellen benötigt.
Remote-KI-Sicherheitsexperte (Englisch und Tamil)
Mercor sucht eine KI-Sicherheitsfachkraft mit fließenden Englisch- und Tamilkenntnissen, um dialogbasierte Modelle und Agenten Red-Team-Tests zu unterziehen. Der Schwerpunkt liegt auf Jailbreak-Tests, Schwachstellenanalysen, der Prüfung schädlichen Verhaltens und der strukturierten Erstellung von Humandaten für die Entwicklung fortschrittlicher KI.
Beschreibung
- Dialogbasierte KI-Modelle und Agenten mithilfe von Jailbreaks, Prompt-Injection, Missbrauchsszenarien, der Ausnutzung von Verzerrungen und mehrstufiger Manipulation testen
- Von Menschen erstellte Datensätze durch die Annotation von Fehlern, die Kategorisierung von Schwachstellen und die Identifizierung systemischer Risiken erstellen
- Etablierte Taxonomien, Benchmarks und Playbooks nutzen, um konsistente Bewertungen sicherzustellen
- Reproduzierbare Berichte, Datensätze und Angriffsfälle entwickeln
- KI-Ausgaben zu sensiblen Themen wie Verzerrungen, Fehlinformationen und schädlichem Verhalten bewerten
- Die Evaluierungsabdeckung erweitern, um Schwachstellen zu erkennen, die automatisierte Tests möglicherweise übersehen
- Mercors KI-Labor- und Unternehmenskunden beim Training und bei der Verbesserung fortschrittlicher KI-Systeme unterstützen
Anforderungen
- Muttersprachliche oder fließende Englisch- und Tamilkenntnisse
- Gutes Urteilsvermögen bei der Bewertung von Sprache und Inhalten, einschließlich der Frage, ob KI-Antworten korrekt, vollständig und angemessen sind
- Fähigkeit, subtile Fehler, Widersprüche und Auslassungen zu erkennen
- Konsequente Einhaltung von Richtlinien, Taxonomien, Benchmarks, Playbooks und Qualitätsstandards
- Klare Kommunikation der eigenen Überlegungen gegenüber technischen und nichttechnischen Zielgruppen
- Flexibilität bei verschiedenen Projekten, Aufgabenformaten und Kunden
- Fähigkeit, als unabhängige Auftragnehmerin oder unabhängiger Auftragnehmer zu arbeiten
- H-1B- und STEM-OPT-Kandidatinnen und -Kandidaten können derzeit nicht unterstützt werden
- Erfahrung mit adversarialem maschinellem Lernen, Cybersicherheit, sozio-technischen Risiken oder kreativem Sondieren ist von Vorteil
Zusatzleistungen
- Vollständig remote arbeiten
- Einen flexiblen Zeitplan wählen und zu für dich passenden Zeiten arbeiten
- Wöchentliche Zahlungen über Stripe oder Wise erhalten
- Wettbewerbsfähige Vergütung
- Zugang zu Wellness-Ressourcen und klaren Leitlinien für Projekte mit höherer Sensibilität
- Die Projektdauer kann sich je nach geschäftlichem Bedarf und Leistung ändern oder vorzeitig enden
- Referral-Zahlungen von bis zu 90 US-Dollar für jede erfolgreiche Empfehlung erhalten