51 – 200 Mitarbeitende
Das verfügbare Profil von Mercor enthält nicht genügend verifizierte Informationen über seine Produkte, Dienstleistungen, Kunden, Branche oder seinen Schwerpunkt bei der Personalgewinnung, um eine genaue Unternehmensübersicht zu erstellen. Für eine Beschreibung des Unternehmens oder seiner Möglichkeiten werden weitere Quellen benötigt.
Red Teamer für KI-Sicherheit – Remote in den Vereinigten Staaten
Mercor sucht eine remote arbeitende Person für KI-Sicherheits-Red-Teaming, die hochmoderne KI-Modelle herausfordert und Schwachstellen in risikoreichen Bereichen aufdeckt. Die Vertragsposition unterstützt KI-Labore bei der Entwicklung und Verbesserung fortschrittlicher Systeme.
Beschreibung
- Entwickle adversariale Prompts, um hochmoderne KI-Modelle zu testen
- Erkenne Jailbreaks, unsicheres Verhalten, Halluzinationen und Richtlinienverstöße
- Bewerte die Widerstandsfähigkeit von Modellen gegenüber Fehlinformationen, Cyberbedrohungen, biosecuritybezogenen Risiken, Betrug, politischen Inhalten und anderen sensiblen Themen
- Dokumentiere entdeckte Schwachstellen und unterstütze die Erstellung von Sicherheitsbenchmarks und Red-Team-Berichten
- Arbeite mit KI-Forschenden zusammen, um Modell-Alignment, Robustheit und Sicherheit zu stärken
- Trage zu Projekten bei, die KI-Systeme trainieren und verbessern
Anforderungen
- Bachelorabschluss oder höher in Informatik, Cybersicherheit, Journalismus, Kommunikation, Psychologie, Biologie, Chemie, Public Policy oder einem verwandten Fachgebiet
- Mindestens fünf Jahre Berufserfahrung in KI-Sicherheit, KI-Red-Teaming, Trust and Safety, Cybersicherheit, investigativem Journalismus, Biowissenschaften oder einem verwandten Bereich
- Ausgeprägtes analytisches Urteilsvermögen sowie Fähigkeiten in Prompt-Design und schriftlicher Kommunikation
- Erfahrung mit der Erstellung adversarialer Prompts oder der Bewertung hochmoderner KI-Systeme
- Erfahrung in KI-Red-Teaming, RLHF, SFT, KI-Alignment oder Trust and Safety ist wünschenswert
- Vertrautheit mit Jailbreak-Tests, Prompt Engineering oder Methoden zur adversarialen Bewertung ist wünschenswert
- Fachkenntnisse in mindestens einem Graubereich, etwa Cybersicherheit, Biosecurity, politische Inhalte, Fehlinformationen oder wissenschaftliche Sicherheit, sind wünschenswert
- Fähigkeit, als unabhängige Auftragnehmerin oder unabhängiger Auftragnehmer zu arbeiten
- Kandidatinnen und Kandidaten mit H-1B- oder STEM-OPT-Status werden nicht unterstützt
Zusatzleistungen
- Vollständig remote mögliche Tätigkeit
- Flexible, selbstbestimmte Arbeitszeiten
- Wöchentliche Zahlungen über Stripe oder Wise
- Projekte können abhängig von geschäftlichen Erfordernissen und Leistung verlängert, verkürzt oder vorzeitig beendet werden
- Wettbewerbsfähige Vergütung
- Zusammenarbeit mit führenden KI-Forschenden und Sicherheitsteams
- Angemessene Vorkehrungen sind auf Anfrage verfügbar
- Empfehlungszahlungen von bis zu 340 US-Dollar pro erfolgreicher Empfehlung, vorbehaltlich geltender Begrenzungen