51 – 200 Mitarbeitende
Das verfügbare Profil von Mercor enthält nicht genügend verifizierte Informationen über seine Produkte, Dienstleistungen, Kunden, Branche oder seinen Schwerpunkt bei der Personalgewinnung, um eine genaue Unternehmensübersicht zu erstellen. Für eine Beschreibung des Unternehmens oder seiner Möglichkeiten werden weitere Quellen benötigt.
Red Teamer für KI-Modellsicherheit
Prüfe die Frontier-KI-Modelle von Mercor mit adversarialen Tests auf Sicherheitslücken. Finde Schwachstellen und hilf, die Ausrichtung der Modelle zu verbessern.
Beschreibung
- Erstelle adversariale Prompts, um Frontier-KI-Modelle zu prüfen.
- Finde Jailbreaks, unsicheres Verhalten, Halluzinationen und Verstöße gegen Richtlinien.
- Prüfe die Widerstandsfähigkeit der Modelle in Bereichen wie Desinformation, Cybersicherheit, Biosicherheit, Betrug, politischen Inhalten und anderen sensiblen Themen.
- Dokumentiere Schwachstellen und unterstütze die Erstellung von Sicherheitsbenchmarks und Red-Team-Berichten.
- Arbeite mit KI-Forschenden zusammen, um die Ausrichtung, Widerstandsfähigkeit und Sicherheit der Modelle zu stärken.
- Hilf dabei, die nächste Generation von Frontier-KI-Modellen zu schützen und zu verbessern.
- Trage zu Projekten bei, die KI-Systeme trainieren und verbessern.
Anforderungen
- Bachelorabschluss oder höher in Informatik, Cybersicherheit, Journalismus, Kommunikation, Psychologie, Biologie, Chemie, Public Policy oder einem verwandten Fachgebiet
- Mindestens fünf Jahre Berufserfahrung in KI-Sicherheit, KI-Red-Teaming, Trust and Safety, Cybersicherheit, investigativem Journalismus, Lebenswissenschaften oder einem verwandten Bereich
- Ausgeprägte analytische Fähigkeiten sowie gute Kenntnisse in Prompt-Entwicklung und schriftlicher Kommunikation
- Erfahrung mit der Erstellung adversarialer Prompts oder der Bewertung von Frontier-KI-Systemen
- Erfahrung in KI-Red-Teaming, RLHF, überwachtem Fine-Tuning, KI-Ausrichtung oder Trust and Safety ist von Vorteil
- Kenntnisse in Jailbreak-Tests, Prompt Engineering oder adversarialen Bewertungsmethoden sind von Vorteil
- Fachkenntnisse in mindestens einem sensiblen Bereich, etwa Cybersicherheit, Biosicherheit, politische Inhalte, Desinformation oder wissenschaftliche Sicherheit, sind von Vorteil
- Du darfst keine H-1B- oder STEM-OPT-Sponsoring benötigen; Mercor kann keine Kandidatinnen und Kandidaten unterstützen, die eine dieser Sponsoringformen benötigen
Zusatzleistungen
- Vollständig ortsunabhängige Arbeit mit flexibler Zeiteinteilung
- Wöchentliche Zahlungen für erbrachte Leistungen über Stripe oder Wise
- Die Projektdauer kann sich je nach Projektbedarf und Leistung ändern oder vorzeitig enden
- Zusammenarbeit mit führenden KI-Forschenden und Sicherheitsteams
- Mitgestaltung des Umgangs von KI-Systemen mit komplexen Sicherheitsherausforderungen aus der Praxis
- Angemessene Vorkehrungen sind auf Anfrage verfügbar
- Empfehlungsprämien von bis zu 340 US-Dollar pro erfolgreicher Empfehlung, vorbehaltlich geltender Beschränkungen