51 – 200 Mitarbeitende
Das verfügbare Profil von Mercor enthält nicht genügend verifizierte Informationen über seine Produkte, Dienstleistungen, Kunden, Branche oder seinen Schwerpunkt bei der Personalgewinnung, um eine genaue Unternehmensübersicht zu erstellen. Für eine Beschreibung des Unternehmens oder seiner Möglichkeiten werden weitere Quellen benötigt.
KI-Sicherheit Red Teamer
Mercor sucht eine Fachkraft für Red Teaming im Bereich KI-Sicherheit, die fortschrittliche KI-Modelle in Hochrisikobereichen auf Schwachstellen prüft. Die Arbeit unterstützt KI-Labore dabei, fortgeschrittene Systeme zu trainieren und zu verbessern.
Beschreibung
- Erstelle adversariale Prompts, um fortschrittliche KI-Modelle zu testen.
- Finde Jailbreaks, unsicheres Verhalten, Halluzinationen und Richtlinienverstöße.
- Bewerte die Robustheit von Modellen in Bereichen wie Desinformation, Cybersicherheit, Biosicherheit, Betrug, politischen Inhalten und anderen sensiblen Themen.
- Dokumentiere Schwachstellen und unterstütze die Erstellung von Sicherheitsbenchmarks und Red-Teaming-Berichten.
- Arbeite mit KI-Forschenden zusammen, um die Ausrichtung, Robustheit und Sicherheit von Modellen zu stärken.
- Trage zu Projekten bei, die KI-Systeme trainieren und verbessern.
Anforderungen
- Bachelorabschluss oder höher in Informatik, Cybersicherheit, Journalismus, Kommunikation, Psychologie, Biologie, Chemie, Public Policy oder einem verwandten Fachgebiet.
- Mindestens fünf Jahre Berufserfahrung in KI-Sicherheit, KI-Red-Teaming, Trust and Safety, Cybersicherheit, investigativem Journalismus, Biowissenschaften oder einem verwandten Bereich.
- Ausgeprägte analytische Fähigkeiten sowie Kompetenz in Promptgestaltung und schriftlicher Kommunikation.
- Erfahrung mit der Erstellung adversarialer Prompts oder der Bewertung fortschrittlicher KI-Systeme.
- Wohnsitz in einem der aufgeführten teilnahmeberechtigten Länder: Albanien, Österreich, Belgien, Bulgarien, Bosnien und Herzegowina, Schweiz, Tschechien, Deutschland, Dänemark, Spanien, Estland, Finnland, Frankreich, Vereinigtes Königreich, Griechenland, Kroatien, Ungarn, Irland, Island, Italien, Liechtenstein, Litauen, Luxemburg, Lettland, Monaco, Moldau, Nordmazedonien, Malta, Niederlande, Norwegen, Polen, Portugal, Rumänien, San Marino, Serbien, Slowakei, Slowenien, Schweden, Vereinigte Staaten oder Kosovo.
- Eine Unterstützung von H-1B- oder STEM-OPT-Kandidatinnen und -Kandidaten ist derzeit nicht möglich.
Zusatzleistungen
- Vollständig remote mit flexibler Zeiteinteilung.
- Wöchentliche Zahlungen für erbrachte Leistungen über Stripe oder Wise.
- Die Projektlaufzeit kann je nach Projektbedarf und Leistung verlängert, verkürzt oder vorzeitig beendet werden.
- Wettbewerbsfähige Vergütung.
- Möglichkeit, mit führenden KI-Forschenden und Sicherheitsteams zusammenzuarbeiten.
- Angemessene Vorkehrungen sind auf Anfrage verfügbar.
- Empfehlungsprogramm mit bis zu 340 US-Dollar pro erfolgreicher Empfehlung, vorbehaltlich bestimmter Beschränkungen.