51 – 200 Mitarbeitende
Das verfügbare Profil von Mercor enthält nicht genügend verifizierte Informationen über seine Produkte, Dienstleistungen, Kunden, Branche oder seinen Schwerpunkt bei der Personalgewinnung, um eine genaue Unternehmensübersicht zu erstellen. Für eine Beschreibung des Unternehmens oder seiner Möglichkeiten werden weitere Quellen benötigt.
KI-Sicherheitsexperte – Englisch und Finnisch (Remote)
Mercor sucht englisch- und finnischsprachige Experten für KI-Sicherheit, die dialogbasierte KI-Modelle und Agenten Red-Team-Tests unterziehen. Die Arbeit umfasst die Erstellung reproduzierbarer Schwachstellendaten und Angriffsfälle für Trainingsprojekte mit hochmodernen KI-Systemen.
Beschreibung
- Führe adversariale Tests an dialogbasierten KI-Modellen und Agenten mit Jailbreaks, Prompt-Injection, Missbrauchsszenarien, der Ausnutzung von Verzerrungen und mehrstufiger Manipulation durch
- Dokumentiere Fehler, kategorisiere Schwachstellen und identifiziere systemische Risiken
- Wende etablierte Taxonomien, Benchmarks und Playbooks an, um konsistente Bewertungen sicherzustellen
- Erstelle reproduzierbare Berichte, Datensätze und Angriffsfälle
- Untersuche Modellausgaben mit Verzerrungen, Fehlinformationen und schädlichem Verhalten
- Erweitere die Evaluierungsabdeckung, um Schwachstellen zu identifizieren, die automatisierte Tests möglicherweise übersehen
- Arbeite mit Projektteams zusammen, die das Training und die Verbesserung hochmoderner KI-Systeme unterstützen
Anforderungen
- Fließende oder muttersprachliche Kenntnisse in Englisch und Finnisch
- Erfahrung mit Red-Teaming in den Bereichen adversariales KI-Testing, Cybersicherheit oder soziotechnische Untersuchungen
- Nachgewiesene Fähigkeit, KI-Systeme adversarial zu testen
- Fähigkeit, mit Frameworks, Taxonomien, Benchmarks und Playbooks zu arbeiten
- Fähigkeit, Risiken gegenüber technischen und nichttechnischen Zielgruppen klar zu kommunizieren
- Anpassungsfähigkeit an verschiedene Projekte und Kunden
- Die Tätigkeit muss als unabhängiger Auftragnehmer ausgeübt werden
- Die Arbeit muss ohne vertrauliche oder geschützte Informationen eines anderen Arbeitgebers, Kunden oder einer anderen Institution ausgeführt werden können
- Bewerber mit H-1B- oder STEM-OPT-Status werden nicht unterstützt
Zusatzleistungen
- Vollständig remote ausgeübte Vertragstätigkeit
- Flexible Zeiteinteilung mit Kontrolle über die Arbeitszeiten
- Möglichkeit zur Teilnahme an Projekten mit höheren Sensibilitätsanforderungen
- Klare Anleitungen und Angebote zur Förderung des Wohlbefindens
- Wöchentliche Zahlungen über Stripe oder Wise
- Wettbewerbsfähige Vergütung
- Empfehlungsmöglichkeit mit bis zu 250 US-Dollar pro erfolgreicher Empfehlung
- Angemessene Vorkehrungen sind auf Anfrage verfügbar