51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Ekspert ds. bezpieczeństwa AI, język angielski i niderlandzki (zdalny kontrakt)
Mercor poszukuje ekspertów ds. bezpieczeństwa AI posługujących się językiem angielskim i niderlandzkim do testów red teamowych modeli konwersacyjnych i agentów. Praca obejmuje tworzenie danych o podatnościach, scenariuszy ataków i odtwarzalnych raportów dotyczących bezpieczeństwa na potrzeby rozwoju zaawansowanych systemów AI.
Opis
- Testowanie konwersacyjnych modeli i agentów AI za pomocą jailbreaków, wstrzykiwania promptów, scenariuszy niewłaściwego użycia, wykorzystywania uprzedzeń i manipulacji wieloetapowej
- Tworzenie danych generowanych przez ludzi poprzez adnotowanie błędów, klasyfikowanie podatności i identyfikowanie ryzyk systemowych
- Stosowanie taksonomii, benchmarków i instrukcji operacyjnych w celu zapewnienia spójnego testowania bezpieczeństwa
- Opracowywanie odtwarzalnych raportów, zbiorów danych i przypadków ataków dla klientów
- Wykrywanie podatności, które mogą zostać pominięte przez testy automatyczne
- Poszerzanie zakresu ewaluacji, aby ograniczać nieoczekiwane ryzyka produkcyjne
- Współpraca z wiodącymi badaczami nad trenowaniem i ulepszaniem zaawansowanych systemów AI
Wymagania
- Biegła znajomość języka angielskiego i niderlandzkiego na poziomie rodzimego użytkownika
- Wcześniejsze doświadczenie w testach red teamowych AI, ofensywnych działaniach z zakresu cyberbezpieczeństwa lub badaniu ryzyk socjotechnicznych
- Umiejętność adversarialnego testowania systemów AI i doprowadzania ich do warunków awarii
- Doświadczenie w stosowaniu frameworków lub benchmarków do ustrukturyzowanego testowania
- Umiejętność jasnego komunikowania ryzyk odbiorcom technicznym i nietechnicznym
- Umiejętność dostosowania się do różnych projektów i klientów
- Doświadczenie w adversarial machine learning, obejmujące zbiory danych jailbreaków, wstrzykiwanie promptów, ataki RLHF/DPO lub ekstrakcję modeli, będzie dodatkowym atutem
- Doświadczenie w cyberbezpieczeństwie, w tym w testach penetracyjnych, tworzeniu exploitów lub inżynierii wstecznej, będzie dodatkowym atutem
- Doświadczenie w zakresie ryzyka socjotechnicznego, obejmujące badanie nękania lub dezinformacji, analizę nadużyć albo testowanie konwersacyjnej AI, będzie dodatkowym atutem
- Doświadczenie w kreatywnym badaniu, np. w psychologii, aktorstwie lub pisaniu, będzie dodatkowym atutem
- Konieczna jest możliwość pracy jako niezależny wykonawca
- Kandydaci z wizą H-1B i STEM OPT nie są obsługiwani
Benefity
- W pełni zdalna praca
- Elastyczny harmonogram z możliwością samodzielnego ustalania godzin pracy
- Cotygodniowe płatności za pośrednictwem Stripe lub Wise, zależne od zakresu świadczonych usług
- Projekty mogą zostać przedłużone, skrócone lub zakończone wcześniej w zależności od potrzeb biznesowych i wyników pracy
- Udział w projektach o podwyższonej wrażliwości jest opcjonalny
- Zapewniane są wytyczne dotyczące treści i zasoby wspierające dobrostan
- Na życzenie dostępne są racjonalne usprawnienia
- Konkurencyjne wynagrodzenie godzinowe
- Możliwość uzyskania do 250 USD za każde skuteczne polecenie, z zastrzeżeniem limitów