51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Zdalny ekspert ds. bezpieczeństwa AI — język angielski i gudżarati
Przeprowadzaj testy adwersarialne modeli i agentów AI partnerów, aby wykrywać luki w zabezpieczeniach, stronniczość i szkodliwe zachowania. Twórz adnotowane zbiory danych, przypadki ataków i odtwarzalne raporty, które usprawniają ocenę zaawansowanych systemów AI.
Opis
- Testować konwersacyjne modele i agentów AI za pomocą jailbreaków, wstrzyknięć promptów, scenariuszy niewłaściwego użycia, wykorzystywania stronniczości i manipulacji wieloturowych
- Tworzyć dane generowane przez ludzi poprzez adnotowanie błędów, kategoryzowanie luk w zabezpieczeniach i identyfikowanie ryzyk systemowych
- Stosować uznane taksonomie, benchmarki i procedury, aby zapewniać spójność ocen
- Opracowywać odtwarzalne raporty, zbiory danych i przypadki ataków dla klientów
- Oceniać odpowiedzi AI dotyczące stronniczości, dezinformacji, szkodliwych zachowań i innych wrażliwych tematów
- Wykrywać słabe punkty, których nie znajduje automatyczne testowanie
- Poszerzać zakres ocen, aby pomagać ograniczać nieoczekiwane problemy w środowisku produkcyjnym
- Usprawniać systemy AI klientów dzięki ustrukturyzowanym testom adwersarialnym
Wymagania
- Wymagana jest biegła, rodzima znajomość języka angielskiego i gudżarati
- Udokumentowana umiejętność oceny języka i treści, w tym określania, czy odpowiedzi AI są dokładne, kompletne i odpowiednie, oraz wyjaśniania swojej oceny
- Duża dbałość o subtelne błędy, niespójności i pominięcia
- Umiejętność konsekwentnego stosowania wytycznych i standardów jakości
- Umiejętność jasnego komunikowania toku rozumowania odbiorcom technicznym i nietechnicznym
- Elastyczność w pracy nad różnymi projektami, typami zadań i dla różnych klientów
- Współpraca odbywa się w ramach umowy z niezależnym wykonawcą
- Kandydaci nie mogą być uczestnikami programów H-1B ani STEM OPT
- Preferowane doświadczenie w adwersarialnym uczeniu maszynowym, cyberbezpieczeństwie, ryzyku socjotechnicznym lub kreatywnym wyszukiwaniu luk
Benefity
- W pełni zdalna praca w samodzielnie ustalanym harmonogramie
- Cotygodniowe płatności przez Stripe lub Wise za wykonane usługi
- Możliwość wyboru udziału w projektach o podwyższonej wrażliwości
- Dostęp do jasnych wytycznych i zasobów wspierających dobrostan podczas pracy z wrażliwymi treściami
- Konkurencyjne wynagrodzenie
- Współpraca z czołowymi badaczami
- Wypłaty za polecenia w wysokości do 90 USD za każde skuteczne polecenie, z zastrzeżeniem obowiązujących limitów