Mercor
Mercor
51 – 200 Mitarbeitende
Das verfügbare Profil von Mercor enthält nicht genügend verifizierte Informationen über seine Produkte, Dienstleistungen, Kunden, Branche oder seinen Schwerpunkt bei der Personalgewinnung, um eine genaue Unternehmensübersicht zu erstellen. Für eine Beschreibung des Unternehmens oder seiner Möglichkeiten werden weitere Quellen benötigt.

KI-Sicherheits-Red-Team-Experte (Englisch und Punjabi)

Mercor sucht eine englisch- und punjabisprachige Fachkraft für KI-Sicherheit, um dialogorientierte Modelle und Agenten einem Red-Team-Test zu unterziehen. Die Vertragsrolle konzentriert sich darauf, Schwachstellen aufzudecken, Angriffsfälle zu erstellen und reproduzierbare Sicherheitsberichte für Kunden aus der KI-Forschung zu verfassen.

Beschreibung

  • Dialogorientierte KI-Modelle und Agenten mit Jailbreaks, Prompt-Injection, Missbrauchsszenarien, der Ausnutzung von Verzerrungen und mehrstufiger Manipulation testen
  • Modellausgaben zu sensiblen Themen bewerten, darunter Verzerrungen, Fehlinformationen und schädliches Verhalten
  • Fehler dokumentieren, Schwachstellen kategorisieren und systemische Risiken identifizieren
  • Etablierte Taxonomien, Benchmarks und Playbooks verwenden, um konsistente Bewertungen sicherzustellen
  • Reproduzierbare Berichte, Datensätze und Angriffsfälle für Kunden erstellen
  • KI-Systeme auf Schwachstellen untersuchen, die automatisierte Tests möglicherweise übersehen
  • Die Bewertungstiefe erweitern, um unerwartete Probleme in der Produktion zu begrenzen
  • Kundensysteme durch menschengestütztes, datengestütztes Red Teaming verbessern

Anforderungen

  • Muttersprachliche oder fließende Englisch- und Punjabi-Kenntnisse
  • Ausgeprägtes Urteilsvermögen bei der Bewertung von Sprache und Inhalten
  • Fähigkeit zu beurteilen, ob KI-Antworten korrekt, vollständig und angemessen sind, und diese Einschätzung zu begründen
  • Äußerste Sorgfalt bei subtilen Fehlern, Inkonsistenzen und Auslassungen
  • Konsequente Einhaltung von Testleitlinien und Qualitätsstandards
  • Fähigkeit, Überlegungen sowohl technischen als auch nicht technischen Zielgruppen klar zu vermitteln
  • Flexibilität bei der Arbeit an unterschiedlichen Projekten, Aufgabenformaten und für verschiedene Kunden
  • Verfügbarkeit für eine Tätigkeit als unabhängige Vertragskraft
  • Kein Bedarf an Unterstützung für H-1B oder STEM OPT
  • Von Vorteil sind Kenntnisse in Bereichen wie adversariales maschinelles Lernen, Jailbreak-Datensätze, Prompt-Injection, RLHF-/DPO-Angriffe, Modellext­raktion, Penetrationstests, Exploit-Entwicklung, Reverse Engineering, die Untersuchung von Belästigung oder Desinformation, Missbrauchsanalyse, Tests dialogorientierter KI, Psychologie, Schauspiel oder Schreiben

Zusatzleistungen

  • Remote-Arbeit von jedem für die Rolle zulässigen Ort aus
  • Arbeitszeit selbst festlegen
  • Wöchentliche Zahlungen über Stripe oder Wise für erbrachte Leistungen erhalten
  • Projekte können je nach Geschäftsbedarf und Leistung verlängert, reduziert oder vorzeitig beendet werden
  • Zugang zu Wellness-Ressourcen und klaren Anleitungen für Projekte mit erhöhter Sensibilität
  • Erfahrung im menschendatenbasierten Red Teaming von KI sammeln
  • Dazu beitragen, KI-Systeme robuster, sicherer und vertrauenswürdiger zu machen
  • Wettbewerbsfähige Vergütung
  • Mit führenden KI-Forschern zusammenarbeiten

Ähnliche Stellen

My Hero VA

Zweisprachige Person für Terminvereinbarung (remote, Kolumbien)

My Hero VA
1 – 10 Mitarbeitende
BeratungLogistikMarketing

Führen Sie ausgehende Anrufe auf Englisch und Spanisch, um Besuche an einer Schule eines Barbier-Ausbildungsunternehmens in Florida zu vereinbaren. Die Remote-Stelle in Kolumbien umfasst auch die Nachverfolgung von Interessenten und tägliche Verwaltungsaufgaben.

Öffnen