51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Ekspert ds. red teamingu bezpieczeństwa AI (angielski i pendżabski)
Prowadź testy adwersarialne konwersacyjnych modeli i agentów AI w języku angielskim i pendżabskim. Twórz adnotacje podatności, przypadki ataków, zbiory danych i odtwarzalne raporty dotyczące bezpieczeństwa dla projektów Mercor z zakresu bezpieczeństwa AI opartych na danych ludzkich.
Opis
- Testować konwersacyjne modele i agentów AI za pomocą jailbreaków, prompt injection, scenariuszy niewłaściwego użycia, wykorzystywania uprzedzeń i manipulacji wieloturowych
- Tworzyć adnotacje na podstawie danych ludzkich, dokumentując błędy, kategoryzując podatności i identyfikując ryzyka systemowe
- Korzystać z uznanych taksonomii, benchmarków i playbooków, aby zapewnić spójność ocen
- Dostarczać klientom odtwarzalne raporty, zbiory danych i przypadki ataków
- Oceniać wyniki AI dotyczące uprzedzeń, dezinformacji, szkodliwych zachowań i innych wrażliwych tematów
- Poszerzać zakres ocen, aby identyfikować podatności, które mogą zostać pominięte przez testy automatyczne
- Pomagać zwiększać bezpieczeństwo, odporność i wiarygodność systemów AI klientów
Wymagania
- Biegła lub ojczysta znajomość języka angielskiego i pendżabskiego
- Dobra ocena sytuacji podczas oceniania dokładności, kompletności i stosowności treści generowanych przez AI
- Umiejętność wykrywania subtelnych błędów, niespójności i pominięć
- Konsekwentne przestrzeganie wytycznych, taksonomii, benchmarków, playbooków i standardów jakości
- Umiejętność jasnego komunikowania toku rozumowania odbiorcom technicznym i nietechnicznym
- Elastyczność w pracy nad różnymi projektami, formatami zadań i wymaganiami klientów
- Możliwość pracy jako niezależny wykonawca
- Kandydaci z wizami H1-B i STEM OPT nie są obsługiwani
- Przydatne będzie doświadczenie w adwersarialnym uczeniu maszynowym, zbiorach danych jailbreaków, atakach prompt injection lub RLHF/DPO, ekstrakcji modeli, testach penetracyjnych, tworzeniu exploitów, inżynierii wstecznej, badaniu nękania lub dezinformacji, analizie nadużyć, testowaniu konwersacyjnej AI, psychologii, aktorstwie lub niestandardowym piśmie adwersarialnym
Benefity
- W pełni zdalna praca z elastycznym, samodzielnie ustalanym harmonogramem
- Cotygodniowe płatności za pośrednictwem Stripe lub Wise
- Konkurencyjne wynagrodzenie
- Zasoby wspierające dobrostan i jasne wytyczne dotyczące projektów o podwyższonej wrażliwości
- Na życzenie dostępne są racjonalne usprawnienia
- Wypłaty za polecenia do 90 USD za każde skuteczne polecenie
- Możliwości współpracy z czołowymi badaczami
- Praktyczne doświadczenie w red teamingu AI opartego na danych ludzkich na pograniczu bezpieczeństwa AI