51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Ekspert ds. bezpieczeństwa AI — język angielski i asamski (umowa zdalna)
Testuj konwersacyjne systemy AI pod kątem jailbreaków, stronniczości, ryzyka wstrzykiwania promptów i innych podatności. Twórz jasne, powtarzalne materiały oparte na danych ludzkich, które pomagają zwiększać bezpieczeństwo i niezawodność zaawansowanej AI.
Opis
- Testuj konwersacyjne modele i agentów AI pod kątem jailbreaków, wstrzykiwania promptów, scenariuszy niewłaściwego użycia, wykorzystywania stronniczości i manipulacji wieloetapowych
- Twórz adnotacje na podstawie danych ludzkich, dokumentując błędy, kategoryzując podatności i identyfikując ryzyka systemowe
- Korzystaj z ustalonych taksonomii, benchmarków i procedur, aby zachować spójność ocen
- Dostarczaj klientom powtarzalne raporty, zbiory danych i scenariusze ataków
- Wykrywaj słabe punkty, które mogą umknąć testom automatycznym
- Poszerzaj zakres ocen, aby ograniczać nieoczekiwane problemy na produkcji
- Oceniaj odpowiedzi AI dotyczące wrażliwych tematów zgodnie z przekazanymi wytycznymi
Wymagania
- Biegła znajomość języka angielskiego i asamskiego na poziomie native speakera
- Trafna ocena języka i treści, w tym dokładności, kompletności i stosowności odpowiedzi AI
- Duża dbałość o subtelne błędy, niespójności i pominięcia
- Konsekwentne przestrzeganie wytycznych i standardów jakości
- Umiejętność jasnego komunikowania toku rozumowania odbiorcom technicznym i nietechnicznym
- Elastyczność i gotowość do pracy przy różnych projektach, formatach zadań i klientach
- Status niezależnego wykonawcy
- Gotowość do pracy z wrażliwymi tematami, takimi jak stronniczość, dezinformacja i szkodliwe zachowania; udział w projektach o podwyższonej wrażliwości jest opcjonalny
- Kandydaci z wizami H-1B i STEM OPT nie są obsługiwani
Benefity
- W pełni zdalna praca z elastycznym harmonogramem ustalanym samodzielnie
- Cotygodniowe płatności za pośrednictwem Stripe lub Wise
- Możliwość zdobycia doświadczenia w red teamingu AI opartym na danych ludzkich
- Praktyczny wkład w tworzenie bardziej odpornych, bezpiecznych i godnych zaufania systemów AI
- Możliwości współpracy z czołowymi badaczami
- Racjonalne usprawnienia dostępne na żądanie
- Premia za polecenie do 90 USD za każde skuteczne polecenie