51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Ekspert ds. bezpieczeństwa AI — język angielski i fiński (zdalnie)
Mercor poszukuje ekspertów ds. bezpieczeństwa AI posługujących się językiem angielskim i fińskim do przeprowadzania testów red team konwersacyjnych modeli i agentów AI. Praca obejmuje tworzenie odtwarzalnych danych o podatnościach oraz przypadków ataków na potrzeby projektów szkolenia zaawansowanych systemów AI.
Opis
- Prowadzić testy adwersarialne konwersacyjnych modeli i agentów AI z wykorzystaniem jailbreaków, wstrzykiwania promptów, scenariuszy niewłaściwego użycia, wykorzystywania uprzedzeń i manipulacji wieloturowych
- Dokumentować awarie, kategoryzować podatności i identyfikować ryzyka systemowe
- Stosować ustalone taksonomie, benchmarki i playbooki w celu zapewnienia spójnych ocen
- Tworzyć odtwarzalne raporty, zbiory danych i przypadki ataków
- Analizować wyniki modeli dotyczące uprzedzeń, dezinformacji i szkodliwego zachowania
- Poszerzać zakres ocen, aby identyfikować podatności, które mogą zostać pominięte przez testy automatyczne
- Współpracować z zespołami projektowymi wspierającymi szkolenie i doskonalenie zaawansowanych systemów AI
Wymagania
- Biegła znajomość języka angielskiego i fińskiego lub poziom zbliżony do rodzimego
- Wcześniejsze doświadczenie w testach red team w zakresie testowania adwersarialnego AI, cyberbezpieczeństwa lub sondowania socjotechnicznego
- Udokumentowana umiejętność przeprowadzania adwersarialnych testów systemów AI
- Umiejętność pracy z frameworkami, taksonomiami, benchmarkami i playbookami
- Umiejętność jasnego komunikowania ryzyka odbiorcom technicznym i nietechnicznym
- Elastyczność w pracy nad różnymi projektami i dla różnych klientów
- Wymagana jest praca jako niezależny wykonawca
- Wymagana jest możliwość pracy bez poufnych lub zastrzeżonych informacji należących do innego pracodawcy, klienta lub instytucji
- Kandydaci z wizami H-1B i STEM OPT nie są objęci wsparciem
Benefity
- W pełni zdalna praca kontraktowa
- Elastyczny harmonogram z możliwością samodzielnego ustalania godzin pracy
- Możliwość udziału w projektach o podwyższonym poziomie wrażliwości
- Jasne wytyczne i zasoby wspierające dobrostan
- Cotygodniowe płatności za pośrednictwem Stripe lub Wise
- Konkurencyjne wynagrodzenie
- Program poleceń oferujący do 250 dolarów amerykańskich za każde skuteczne polecenie
- Racjonalne usprawnienia dostępne na życzenie