51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Ekspert ds. bezpieczeństwa AI (angielski i gudżarati) – kontrakt zdalny
Przeprowadzaj ewaluacje bezpieczeństwa metodą red team dla modeli konwersacyjnych i agentów AI w Mercor, partnerze laboratoriów AI skupionym na trenowaniu zaawansowanych systemów. Twórz dane o podatnościach, scenariusze ataków i odtwarzalne raporty dotyczące bezpieczeństwa.
Opis
- Testuj konwersacyjne modele i agentów AI za pomocą jailbreaków, prompt injection, scenariuszy niewłaściwego użycia, wykorzystywania uprzedzeń i wieloturowych manipulacji
- Twórz dane z adnotacjami wykonanymi przez ludzi, opisując awarie, kategoryzując podatności i identyfikując ryzyka systemowe
- Korzystaj z uznanych taksonomii, benchmarków i playbooków, aby zapewnić spójność ewaluacji
- Opracowuj odtwarzalne raporty, zbiory danych i scenariusze ataków
- Oceniaj odpowiedzi AI dotyczące uprzedzeń, dezinformacji, szkodliwego zachowania i innych wrażliwych tematów
- Identyfikuj słabe punkty, które mogą zostać pominięte przez automatyczne testowanie
- Poszerzaj zakres ewaluacji, aby pomagać ograniczać nieoczekiwane problemy na produkcji
- Ulepszaj systemy AI klientów za pomocą jasnych i odtwarzalnych materiałów ewaluacyjnych
Wymagania
- Biegła znajomość języka angielskiego i gudżarati na poziomie ojczystym lub zbliżonym
- Trafna ocena języka i treści
- Umiejętność określania, czy odpowiedzi AI są dokładne, kompletne i odpowiednie, oraz wyjaśniania swojej oceny
- Dbałość o subtelne błędy, niespójności i pominięcia
- Konsekwentne przestrzeganie wytycznych i wymagań jakościowych
- Umiejętność jasnego komunikowania sposobu rozumowania odbiorcom technicznym i nietechnicznym
- Elastyczność w pracy nad różnymi projektami, formatami zadań i dla różnych klientów
- Mile widziana wiedza z zakresu uczenia maszynowego opartego na atakach, cyberbezpieczeństwa, ryzyka socjotechnicznego lub kreatywnego badania podatności
- Gotowość do pracy jako niezależny wykonawca
- Kandydaci z wizą H-1B i statusem STEM OPT nie są obsługiwani
Benefity
- W pełni zdalna praca
- Samodzielny wybór godzin pracy
- Cotygodniowe płatności za pośrednictwem Stripe lub Wise
- Konkurencyjne wynagrodzenie godzinowe
- Możliwość udziału w projektach obejmujących treści o podwyższonej wrażliwości
- Dostęp do jasnych wytycznych i zasobów wspierających dobrostan podczas pracy z wrażliwymi treściami
- Na życzenie dostępne są racjonalne usprawnienia
- Wypłaty za polecenia w wysokości do 90 USD za każde skuteczne polecenie