51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Ekspert ds. bezpieczeństwa AI — język angielski i bengalski (zdalny kontrakt)
Mercor poszukuje osoby testującej bezpieczeństwo AI, posługującej się językiem angielskim i bengalskim, do wykrywania podatności w konwersacyjnych systemach AI. Rola obejmuje tworzenie odtwarzalnych przypadków ataków oraz danych generowanych przez ludzi dla laboratoriów AI trenujących zaawansowane modele.
Opis
- Testowanie konwersacyjnych modeli i agentów AI za pomocą jailbreaków, wstrzykiwania promptów, scenariuszy niewłaściwego użycia, wykorzystywania uprzedzeń i manipulacji wieloetapowej
- Tworzenie danych generowanych przez ludzi poprzez adnotowanie błędów, kategoryzowanie podatności i identyfikowanie ryzyk systemowych
- Korzystanie z uznanych taksonomii, benchmarków i instrukcji w celu zachowania spójności ocen
- Dostarczanie klientom odtwarzalnych raportów, zbiorów danych i przypadków ataków
- Ocenianie odpowiedzi AI dotyczących uprzedzeń, dezinformacji, szkodliwego zachowania i innych wrażliwych tematów
- Poszerzanie zakresu ocen i przyczynianie się do tworzenia bezpieczniejszych systemów AI dla klientów
Wymagania
- Biegła lub ojczysta znajomość języka angielskiego i bengalskiego
- Trafna ocena języka i treści, w tym umiejętność określania, czy odpowiedzi AI są dokładne, kompletne i odpowiednie, oraz wyjaśniania tej oceny
- Duża dbałość o subtelne błędy, niespójności i pominięcia
- Rzetelne przestrzeganie wytycznych dotyczących testowania i standardów jakości
- Jasne komunikowanie toku rozumowania odbiorcom technicznym i nietechnicznym
- Gotowość do pracy przy różnych projektach, formatach zadań i klientach
- Możliwość pracy jako niezależny wykonawca
- Brak potrzeby sponsorowania wiz H-1B lub STEM OPT
- Mile widziane: doświadczenie w konfrontacyjnym uczeniu maszynowym, w tym w pracy ze zbiorami danych jailbreaków, wstrzykiwaniem promptów, atakami RLHF/DPO lub ekstrakcją modeli
- Mile widziane: doświadczenie w cyberbezpieczeństwie, w tym w testach penetracyjnych, tworzeniu exploitów lub inżynierii wstecznej
- Mile widziane: doświadczenie w ryzyku socjotechnicznym, w tym w badaniu nękania lub dezinformacji, analizie nadużyć albo testowaniu konwersacyjnej AI
- Mile widziane: doświadczenie w psychologii, aktorstwie lub pisaniu wspierające niekonwencjonalne myślenie konfrontacyjne
Benefity
- Praca w pełni zdalna
- Elastyczny grafik zgodny z własną dostępnością
- Cotygodniowe płatności za pośrednictwem Stripe lub Wise
- Możliwość wyboru udziału w projektach o podwyższonej wrażliwości
- Dostęp do jasnych wytycznych i zasobów wspierających dobrostan przy zadaniach związanych z wrażliwymi treściami
- Konkurencyjne wynagrodzenie
- Zdobywanie doświadczenia w testowaniu bezpieczeństwa AI opartym na danych tworzonych przez ludzi
- Współpraca z czołowymi badaczami AI
- Płatności za polecenia w wysokości do 90 USD za każde skuteczne polecenie