51 – 200 Mitarbeitende
Das verfügbare Profil von Mercor enthält nicht genügend verifizierte Informationen über seine Produkte, Dienstleistungen, Kunden, Branche oder seinen Schwerpunkt bei der Personalgewinnung, um eine genaue Unternehmensübersicht zu erstellen. Für eine Beschreibung des Unternehmens oder seiner Möglichkeiten werden weitere Quellen benötigt.
KI-Sicherheitsexperte für Englisch und Finnisch
Untersuche führende KI-Systeme mit Jailbreaks, Prompt-Injections und Missbrauchsszenarien auf Schwachstellen. Erstelle strukturierte Ergebnisse und reproduzierbare Angriffsbeispiele zur Unterstützung der KI-Sicherheitsbewertung.
Beschreibung
- Teste dialogbasierte KI-Modelle und Agenten mit Jailbreaks, Prompt-Injections, Missbrauchsszenarien, der Ausnutzung von Verzerrungen und mehrstufiger Manipulation.
- Erstelle von Menschen annotierte Daten, indem du Fehler dokumentierst, Schwachstellen klassifizierst und systemische Risiken identifizierst.
- Nutze Taxonomien, Benchmarks und Leitfäden, um Tests einheitlich durchzuführen.
- Liefere Kunden reproduzierbare Berichte, Datensätze und Angriffsbeispiele.
- Bewerte KI-Ausgaben zu sensiblen Themen, darunter Verzerrungen, Fehlinformationen und schädliches Verhalten.
- Finde Schwachstellen, die automatisierte Tests möglicherweise übersehen.
- Erweitere die Testabdeckung, um unerwartete Probleme im Produktivbetrieb zu vermeiden.
- Arbeite an Projekten mit, die führende KI-Systeme trainieren und verbessern.
Anforderungen
- Fließende oder muttersprachliche Englisch- und Finnischkenntnisse.
- Erfahrung mit Red Teaming im Bereich KI-Adversarial-Tests, Cybersicherheit oder sozio-technischer Analyse.
- Fähigkeit, KI-Systeme adversarial zu testen und an ihre Grenzen zu bringen.
- Erfahrung mit Frameworks oder Benchmarks für strukturierte Tests.
- Fähigkeit, Risiken für technische und nicht technische Zielgruppen verständlich zu erklären.
- Fähigkeit, sich auf unterschiedliche Projekte und Kunden einzustellen.
- Spezialisierungen in adversarialem maschinellem Lernen, Cybersicherheit, sozio-technischen Risiken oder kreativem Testen sind von Vorteil.
- Tätigkeit als unabhängige Auftragnehmerin oder unabhängiger Auftragnehmer.
- Eine H-1B- oder STEM-OPT-Sponsorship darf nicht erforderlich sein.
Zusatzleistungen
- Vollständig ortsunabhängige Arbeit.
- Flexible Arbeitszeiten, die du selbst festlegen kannst.
- Wöchentliche Zahlungen über Stripe oder Wise.
- Projekte können je nach Bedarf und Leistung verlängert, verkürzt oder vorzeitig beendet werden.
- Angebote zur Förderung des Wohlbefindens und klare Hinweise für Projekte zu besonders sensiblen Themen.
- Angemessene Vorkehrungen sind auf Anfrage verfügbar.
- Möglichkeit, Erfahrung mit menschlich datengestütztem KI-Red Teaming zu sammeln.
- Zusammenarbeit mit führenden Forschenden.
- Prämien von bis zu 250 US-Dollar für jede erfolgreiche Empfehlung; es gelten Einschränkungen.