51 – 200 Mitarbeitende
Das verfügbare Profil von Mercor enthält nicht genügend verifizierte Informationen über seine Produkte, Dienstleistungen, Kunden, Branche oder seinen Schwerpunkt bei der Personalgewinnung, um eine genaue Unternehmensübersicht zu erstellen. Für eine Beschreibung des Unternehmens oder seiner Möglichkeiten werden weitere Quellen benötigt.
KI-Sicherheitsexperte (Englisch und Gujarati) – Remote-Vertrag
Führe Red-Team-Evaluierungen dialogbasierter KI-Modelle und Agenten für Mercor durch, einen KI-Laborpartner mit Fokus auf dem Training von Spitzensystemen. Erstelle Schwachstellendaten, Angriffsszenarien und reproduzierbare Sicherheitsberichte.
Beschreibung
- Teste dialogbasierte KI-Modelle und Agenten mit Jailbreaks, Prompt-Injection, Missbrauchsszenarien, der Ausnutzung von Verzerrungen und mehrstufiger Manipulation
- Erstelle von Menschen gekennzeichnete Daten durch die Annotation von Fehlern, die Kategorisierung von Schwachstellen und die Identifizierung systemischer Risiken
- Verwende etablierte Taxonomien, Benchmarks und Playbooks, um konsistente Evaluierungen sicherzustellen
- Erstelle reproduzierbare Berichte, Datensätze und Angriffsszenarien
- Bewerte KI-Antworten zu Verzerrungen, Fehlinformationen, schädlichem Verhalten und anderen sensiblen Themen
- Identifiziere Schwachstellen, die automatisierte Tests möglicherweise übersehen
- Erweitere die Evaluierungsabdeckung, um unerwartete Probleme in der Produktion zu begrenzen
- Verbessere KI-Systeme von Kunden mit klaren, reproduzierbaren Evaluierungsartefakten
Anforderungen
- Muttersprachliche oder fließende Englisch- und Gujarati-Kenntnisse
- Gutes Urteilsvermögen bei der Bewertung von Sprache und Inhalten
- Fähigkeit zu beurteilen, ob KI-Antworten korrekt, vollständig und angemessen sind, und die Bewertung zu erläutern
- Sorgfältige Aufmerksamkeit für subtile Fehler, Inkonsistenzen und Auslassungen
- Konsequente Einhaltung von Richtlinien und Qualitätsanforderungen
- Fähigkeit, die eigene Argumentation gegenüber technischen und nicht technischen Zielgruppen klar zu vermitteln
- Flexibilität bei verschiedenen Projekten, Aufgabenformaten und Kunden
- Bevorzugte Kenntnisse in adversarialem maschinellem Lernen, Cybersicherheit, sozio-technischen Risiken oder kreativem Sondieren
- Bereitschaft, als unabhängiger Auftragnehmer zu arbeiten
- Bewerber mit H-1B- oder STEM-OPT-Status werden nicht unterstützt
Zusatzleistungen
- Vollständig remote arbeiten
- Arbeitszeiten selbst bestimmen
- Wöchentliche Zahlungen über Stripe oder Wise erhalten
- Wettbewerbsfähige Stundenvergütung
- Möglichkeit zur Teilnahme an Projekten mit Inhalten höherer Sensibilität
- Zugang zu klaren Anleitungen und Wellness-Ressourcen für die Arbeit mit sensiblen Inhalten
- Angemessene Vorkehrungen auf Anfrage verfügbar
- Referral-Zahlungen von bis zu 90 US-Dollar für jede erfolgreiche Empfehlung verdienen