51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Ekspert ds. red teamingu bezpieczeństwa AI – język angielski i fiński, praca zdalna w Stanach Zjednoczonych
Prowadź testy ofensywne modeli konwersacyjnej AI i agentów AI na potrzeby projektów Mercor związanych z danymi tworzonymi przez ludzi. Twórz odtwarzalne dane o lukach w zabezpieczeniach, pomagając wzmacniać zaawansowane systemy AI.
Opis
- Testować modele konwersacyjnej AI i agentów AI za pomocą jailbreaków, prompt injection, scenariuszy niewłaściwego użycia, wykorzystywania uprzedzeń i wieloetapowych manipulacji
- Adnotować błędy, kategoryzować luki w zabezpieczeniach i identyfikować ryzyka systemowe
- Stosować uznane taksonomie, benchmarki i procedury w celu spójnego przeprowadzania ocen
- Tworzyć odtwarzalne raporty, zbiory danych i przypadki ataków dla klientów
- Identyfikować luki, które mogą zostać pominięte przez automatyczne testowanie
- Poszerzać zakres ocen i pomagać ograniczać nieoczekiwane problemy w środowisku produkcyjnym
- Współpracować z czołowymi badaczami nad projektami służącymi do trenowania i ulepszania systemów AI
Wymagania
- Biegła lub ojczysta znajomość języka angielskiego i fińskiego
- Wcześniejsze doświadczenie w red teamingu AI, cyberbezpieczeństwie lub badaniu zagrożeń socjotechnicznych
- Umiejętność ofensywnego testowania systemów AI i doprowadzania ich do punktów awarii
- Doświadczenie w stosowaniu frameworków lub benchmarków do ustrukturyzowanego testowania
- Umiejętność jasnego komunikowania ryzyk odbiorcom technicznym i nietechnicznym
- Elastyczność w pracy nad różnymi projektami i zgodnie z wymaganiami klientów
- Dostępność do współpracy jako niezależny wykonawca
- Kandydat nie może ubiegać się o status H-1B ani STEM OPT
- Mile widziane: doświadczenie w adversarial machine learning, w tym w zakresie zbiorów danych jailbreaków, prompt injection, ataków RLHF/DPO lub ekstrakcji modeli
- Mile widziane: doświadczenie w cyberbezpieczeństwie, w tym w testach penetracyjnych, tworzeniu exploitów lub inżynierii wstecznej
- Mile widziane: doświadczenie w ocenie ryzyka socjotechnicznego, w tym w badaniu nękania lub dezinformacji, analizie nadużyć albo testowaniu konwersacyjnej AI
- Mile widziane: doświadczenie w psychologii, aktorstwie lub pisaniu, wspierające niekonwencjonalne myślenie ofensywne
Benefity
- W pełni zdalna praca
- Elastyczne godziny pracy
- Cotygodniowe płatności za pośrednictwem Stripe lub Wise
- Zasoby wspierające dobrostan oraz jasne wytyczne dotyczące projektów o podwyższonej wrażliwości
- Możliwość zdobycia doświadczenia w red teamingu AI opartego na danych tworzonych przez ludzi
- Bezpośrednia możliwość pomagania w tworzeniu bardziej odpornych, bezpiecznych i godnych zaufania systemów AI
- Konkurencyjne wynagrodzenie
- Premia za polecenie w wysokości do 250 USD za każde skuteczne polecenie