LogoFresh Jobs Ahead
Mercor
Mercor
51 – 200 Mitarbeitende
Das verfügbare Profil von Mercor enthält nicht genügend verifizierte Informationen über seine Produkte, Dienstleistungen, Kunden, Branche oder seinen Schwerpunkt bei der Personalgewinnung, um eine genaue Unternehmensübersicht zu erstellen. Für eine Beschreibung des Unternehmens oder seiner Möglichkeiten werden weitere Quellen benötigt.
LinkedIn
Stellen im Unternehmen

Red Teamer für KI-Sicherheit

Belastungstests für die KI-Systeme führender Partnerlabore von Mercor: Schwachstellen in Hochrisikobereichen aufdecken. Erkenntnisse zu Sicherheitsbenchmarks beitragen und Forschenden helfen, Robustheit und Ausrichtung der Modelle zu verbessern.

USVereinigte Staaten
70 $ – 84 $ / Stunde
RemoteVertragMittlere StufeSeniorErforderliche Sprache: EnglischKünstliche Intelligenz
Cybersicherheit

Beschreibung

  • Erstelle adversariale Prompts, um fortschrittliche KI-Modelle zu testen.
  • Finde Jailbreaks, unsicheres Verhalten, Halluzinationen und Verstöße gegen Richtlinien.
  • Bewerte die Robustheit von Modellen in sensiblen Bereichen wie Desinformation, Cybersicherheit, Biosicherheit, Betrug und politischen Inhalten.
  • Dokumentiere Schwachstellen und trage zu Sicherheitsbenchmarks und Red-Team-Berichten bei.
  • Arbeite mit KI-Forschenden daran, die Ausrichtung, Robustheit und Sicherheit von Modellen zu stärken.
  • Unterstütze Projekte, die KI-Systeme trainieren und verbessern.
  • Gestalte deinen Zeitplan selbst; die Projektdauer kann sich je nach Geschäftsbedarf und Leistung ändern oder vorzeitig enden.

Anforderungen

  • Bachelorabschluss oder höher in Informatik, Cybersicherheit, Journalismus, Kommunikation, Psychologie, Biologie, Chemie, Public Policy oder einem verwandten Fachgebiet.
  • Mindestens fünf Jahre Berufserfahrung in KI-Sicherheit, KI-Red-Teaming, Trust and Safety, Cybersicherheit, investigativem Journalismus, Biowissenschaften oder einem verwandten Bereich.
  • Ausgeprägtes analytisches Denkvermögen sowie starke Fähigkeiten in Prompt-Design und schriftlicher Kommunikation.
  • Erfahrung mit der Erstellung adversarialer Prompts oder der Bewertung fortschrittlicher KI-Systeme.
  • Bevorzugt: Erfahrung mit KI-Red-Teaming, RLHF, SFT, KI-Ausrichtung oder Trust and Safety.
  • Bevorzugt: Kenntnisse in Jailbreak-Tests, Prompt Engineering oder adversarialen Evaluierungsmethoden.
  • Bevorzugt: Fachwissen in einem oder mehreren sensiblen Bereichen, darunter Cybersicherheit, Biosicherheit, politische Inhalte, Desinformation oder wissenschaftliche Sicherheit.
  • Die Tätigkeit erfolgt als unabhängige Auftragnehmerin bzw. unabhängiger Auftragnehmer.
  • Arbeit ohne Unterstützung durch ein H-1B-Visum oder STEM OPT muss möglich sein.

Zusatzleistungen

  • Vollständig ortsunabhängige Arbeit mit flexiblem Zeitplan.
  • Wöchentliche Zahlungen für erbrachte Leistungen über Stripe oder Wise.
  • Zusammenarbeit mit führenden KI-Forschenden und Sicherheitsteams.
  • Mitgestaltung der Reaktion von KI-Systemen auf komplexe Sicherheitsherausforderungen aus der Praxis.
  • Wettbewerbsfähige Vergütung.
  • Angemessene Vorkehrungen sind auf Anfrage verfügbar.
  • Prämien von bis zu 340 US-Dollar für jede erfolgreiche Empfehlung, vorbehaltlich geltender Begrenzungen.

Ähnliche Stellen

Fortify Companies

Koordinator für Kundenservice, Auftragsannahme und Einsatzplanung

Fortify Companies
201 – 500 Mitarbeitende
B2BBauwesenVersicherungen
USVereinigte Staaten
17 $ – 19 $ / Stunde
RemoteVollzeitJuniorKein Abschluss erforderlichErforderliche Sprache: EnglischKundenbetreuungKundenservice-Mitarbeiter

Koordiniere remote Kundenanrufe, Techniker-Einsätze und die Auftragsverfolgung für Rytech Restoration. Unterstütze Arbeiten zur Wasserschadensanierung, Schimmelbeseitigung und Wiederherstellung von Immobilien.

Öffnen