51 – 200 Mitarbeitende
Das verfügbare Profil von Mercor enthält nicht genügend verifizierte Informationen über seine Produkte, Dienstleistungen, Kunden, Branche oder seinen Schwerpunkt bei der Personalgewinnung, um eine genaue Unternehmensübersicht zu erstellen. Für eine Beschreibung des Unternehmens oder seiner Möglichkeiten werden weitere Quellen benötigt.
KI-Sicherheitsexperte, Englisch und Niederländisch (Remote-Vertrag)
Mercor sucht englisch- und niederländischsprachige KI-Sicherheitsexperten, die dialogbasierte Modelle und Agenten durch Red-Teaming testen. Die Arbeit umfasst die Erstellung von Schwachstellendaten und Angriffsszenarien sowie reproduzierbarer Sicherheitsberichte für die Entwicklung modernster KI-Systeme.
Beschreibung
- Testen Sie dialogbasierte KI-Modelle und Agenten mit Jailbreaks, Prompt-Injection, Missbrauchsszenarien, der Ausnutzung von Verzerrungen und mehrstufiger Manipulation
- Erstellen Sie von Menschen generierte Daten, indem Sie Fehler annotieren, Schwachstellen klassifizieren und systemische Risiken identifizieren
- Verwenden Sie Taxonomien, Benchmarks und Playbooks, um konsistente Sicherheitstests zu unterstützen
- Entwickeln Sie reproduzierbare Berichte, Datensätze und Angriffsfälle für Kunden
- Finden Sie Schwachstellen, die automatisierte Tests möglicherweise übersehen
- Erweitern Sie die Evaluierungsabdeckung, um unerwartete Risiken in der Produktion zu reduzieren
- Arbeiten Sie mit führenden Forschenden zusammen, um modernste KI-Systeme zu trainieren und zu verbessern
Anforderungen
- Muttersprachliche Beherrschung von Englisch und Niederländisch
- Erfahrung mit KI-Red-Teaming, offensiver Cybersicherheit oder soziotechnischer Untersuchung
- Fähigkeit, KI-Systeme adversarial zu testen und gezielt in Fehlersituationen zu bringen
- Erfahrung mit der Anwendung von Frameworks oder Benchmarks für strukturierte Tests
- Fähigkeit, Risiken klar gegenüber technischen und nichttechnischen Zielgruppen zu kommunizieren
- Fähigkeit, sich auf verschiedene Projekte und Kunden einzustellen
- Erfahrung mit adversarialem maschinellem Lernen, einschließlich Jailbreak-Datensätzen, Prompt-Injection, RLHF-/DPO-Angriffen oder Model-Extraction, ist wünschenswert
- Erfahrung in der Cybersicherheit, etwa mit Penetrationstests, Exploit-Entwicklung oder Reverse Engineering, ist wünschenswert
- Erfahrung mit soziotechnischen Risiken, etwa der Untersuchung von Belästigung oder Desinformation, Missbrauchsanalyse oder dem Testen dialogbasierter KI, ist wünschenswert
- Erfahrung mit kreativem Probing in Psychologie, Schauspiel oder Schreiben ist wünschenswert
- Sie müssen als unabhängige Auftragnehmerin oder unabhängiger Auftragnehmer arbeiten können
- Kandidatinnen und Kandidaten mit H-1B- oder STEM-OPT-Status werden nicht unterstützt
Zusatzleistungen
- Vollständig ortsunabhängige Arbeit
- Flexible Arbeitszeiten mit der Möglichkeit, die eigenen Arbeitsstunden festzulegen
- Wöchentliche Zahlungen über Stripe oder Wise auf Grundlage der erbrachten Leistungen
- Projekte können je nach geschäftlichem Bedarf und Leistung verlängert, verkürzt oder vorzeitig beendet werden
- Die Teilnahme an Projekten mit höherer Sensibilität ist optional
- Richtlinien für Inhalte und Angebote zur Unterstützung des Wohlbefindens werden bereitgestellt
- Angemessene Vorkehrungen sind auf Anfrage verfügbar
- Wettbewerbsfähige Stundenvergütung
- Empfehlungsmöglichkeit von bis zu 250 US-Dollar pro erfolgreicher Empfehlung, vorbehaltlich geltender Begrenzungen