51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Ekspert ds. bezpieczeństwa AI (angielski i bengalski) — kontrakt zdalny
Mercor poszukuje kontraktowego eksperta ds. bezpieczeństwa AI, biegle posługującego się językiem angielskim i bengalskim, do testów red teamowych modeli konwersacyjnych i agentów. Praca obejmuje badanie podatności, ocenę wrażliwych odpowiedzi oraz tworzenie odtwarzalnych danych dotyczących bezpieczeństwa dla klientów prowadzących badania nad AI.
Opis
- Testować modele konwersacyjne i agentów za pomocą jailbreaków, wstrzykiwania promptów, scenariuszy nadużyć, wykorzystywania uprzedzeń i wieloetapowej manipulacji
- Tworzyć dane oznaczone przez ludzi, dokumentując błędy, kategoryzując podatności i identyfikując ryzyka systemowe
- Korzystać z ustalonych taksonomii, benchmarków i procedur, aby zapewnić spójność ocen
- Opracowywać odtwarzalne raporty, zbiory danych i scenariusze ataków dla klientów
- Oceniać odpowiedzi modeli dotyczące uprzedzeń, dezinformacji, szkodliwych zachowań i innych wrażliwych tematów
- Poszerzać zakres ocen poprzez znajdowanie słabych punktów, które mogą umknąć testom automatycznym
Wymagania
- Biegła znajomość języka angielskiego i bengalskiego na poziomie native speakera
- Trafna ocena języka i treści pod kątem dokładności, kompletności i adekwatności
- Umiejętność wykrywania subtelnych błędów, niespójności i brakujących informacji
- Rzetelne przestrzeganie ustalonych wytycznych i wymagań jakościowych
- Umiejętność jasnego komunikowania toku rozumowania odbiorcom technicznym i nietechnicznym
- Elastyczność w pracy nad różnymi projektami, formatami zadań i z różnymi klientami
- Wymagana jest praca jako niezależny wykonawca
- Nie może być konieczne sponsorowanie wizy H-1B ani STEM OPT; mile widziane doświadczenie w adwersarialnym uczeniu maszynowym, cyberbezpieczeństwie, ryzyku socjotechnicznym lub kreatywnym badaniu podatności.
- Korzyści
Benefity
- W pełni zdalna praca kontraktowa
- Elastyczność w samodzielnym ustalaniu grafiku pracy
- Cotygodniowe płatności za pośrednictwem Stripe lub Wise
- Projekty mogą zostać przedłużone, ograniczone lub zakończone wcześniej, zależnie od potrzeb biznesowych i wyników pracy
- Opcjonalny udział w projektach o podwyższonej wrażliwości
- Jasne procedury i zasoby wspierające dobrostan podczas pracy z wrażliwymi treściami
- Na życzenie dostępne są racjonalne usprawnienia
- Wypłaty za polecenia w wysokości do 90 USD za każde skuteczne polecenie