Mercor
Mercor
51 – 200 Mitarbeitende
Das verfügbare Profil von Mercor enthält nicht genügend verifizierte Informationen über seine Produkte, Dienstleistungen, Kunden, Branche oder seinen Schwerpunkt bei der Personalgewinnung, um eine genaue Unternehmensübersicht zu erstellen. Für eine Beschreibung des Unternehmens oder seiner Möglichkeiten werden weitere Quellen benötigt.

KI-Sicherheitsexperte – Englisch und Assamesisch | Mercor Remote-Vertrag

Führe adversariales Testing modernster KI-Modelle auf Jailbreaks, Verzerrungen, Missbrauch und andere Sicherheitsrisiken durch. Erstelle Annotationen zu von Menschen erstellten Daten, Schwachstellenklassifizierungen und reproduzierbare Angriffsnachweise für Mercor-Kunden.

Beschreibung

  • Führe adversariales Testing von dialogorientierten KI-Modellen und Agenten auf Jailbreaks, Prompt-Injection, Missbrauch, Ausnutzung von Verzerrungen und mehrstufige Manipulationen durch
  • Erstelle Annotationen zu von Menschen erstellten Daten, klassifiziere Fehler und identifiziere systemische Risiken
  • Nutze etablierte Taxonomien, Benchmarks und Playbooks, um Bewertungen zu standardisieren
  • Liefere reproduzierbare Berichte, Datensätze und Angriffsfälle für Kunden
  • Bewerte KI-Antworten zu Verzerrungen, Fehlinformationen, schädlichem Verhalten und anderen sensiblen Themen
  • Finde Schwachstellen, die automatisierte Tests nicht erkennen
  • Erweitere die Bewertungsabdeckung, um unerwartete Probleme in Produktivsystemen zu vermeiden
  • Verbessere KI-Systeme von Kunden durch strukturiertes adversariales Testing

Anforderungen

  • Muttersprachliche Beherrschung von Englisch und Assamesisch
  • Sicheres Urteilsvermögen bei der Bewertung von Sprache und Inhalten hinsichtlich Genauigkeit, Vollständigkeit und Angemessenheit
  • Fähigkeit, subtile Fehler, Inkonsistenzen und Auslassungen zu erkennen
  • Konsequente Einhaltung von Richtlinien und Qualitätsstandards
  • Klare Kommunikation der eigenen Überlegungen für technische und nicht technische Zielgruppen
  • Flexibilität bei Projekten, Aufgabenformaten und Kundenanforderungen
  • Von Vorteil: Erfahrung mit adversarialem maschinellem Lernen, einschließlich Jailbreak-Datensätzen, Prompt-Injection-, RLHF- oder DPO-Angriffen oder Model Extraction
  • Von Vorteil: Erfahrung in Cybersicherheit, einschließlich Penetrationstests, Exploit-Entwicklung oder Reverse Engineering
  • Von Vorteil: Erfahrung mit soziotechnischen Risiken, einschließlich der Untersuchung von Belästigung oder Desinformation, Missbrauchsanalyse oder Tests dialogorientierter KI
  • Von Vorteil: Erfahrung in Psychologie, Schauspiel oder Schreiben, die unkonventionelles adversariales Denken unterstützt
  • Die Tätigkeit muss als selbstständiger Auftragnehmer ausgeübt werden
  • Bewerber mit H-1B- und STEM-OPT-Status werden nicht unterstützt

Zusatzleistungen

  • Vollständig remote arbeiten
  • Arbeitszeit selbst bestimmen
  • Wöchentliche Zahlungen über Stripe oder Wise erhalten
  • Praktische Erfahrung im KI-Red-Teaming auf Basis von durch Menschen erstellten Daten sammeln
  • Dazu beitragen, KI-Systeme robuster, sicherer und vertrauenswürdiger zu machen
  • Mit führenden Forschern zusammenarbeiten
  • Angemessene Vorkehrungen sind auf Anfrage verfügbar
  • Empfehlungszahlungen von bis zu 90 US-Dollar für erfolgreiche Empfehlungen erhalten

Ähnliche Stellen

Evolent

Leitende:r Softwareentwickler:in für React und Next.js

Evolent

Verantworte die Frontend-Architektur und -Entwicklung für Eволvents KI-gestützte Gesundheitsplattform und gestalte die Zusammenarbeit zwischen Agenten und Menschen mit React und Next.js. Steuere die Umsetzung mit Blick auf Barrierefreiheit, Sicherheit und den gesamten Frontend-Lebenszyklus.

Öffnen
Capital One

Senior Director Softwareentwicklung

Capital One

Leitung von Engineering-Teams bei Capital One, die skalierbare Cloud-Banking-Plattformen entwickeln. Verantwortung für Architektur und Talentstrategie sowie für KI-Systeme und die Umsetzung unternehmensweiter Technologievorhaben.

Öffnen