51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Ekspert ds. red teamingu bezpieczeństwa AI (angielski i telugu) — kontrakt zdalny
Testuj konwersacyjne modele AI pod kątem jailbreaków, prompt injection, niewłaściwego użycia, stronniczości i innych zagrożeń bezpieczeństwa. Dokumentuj odtwarzalne luki oraz dane z ewaluacji dla klientów prowadzących badania nad AI.
Opis
- Przeprowadzać atakujące testy konwersacyjnych modeli i agentów AI pod kątem jailbreaków, prompt injection, niewłaściwego użycia, wykorzystywania stronniczości i manipulacji wieloturowej
- Adnotować wyniki testów, kategoryzować luki i identyfikować ryzyka systemowe
- Stosować uznane taksonomie, benchmarki i playbooki, aby zapewnić spójność ewaluacji
- Tworzyć odtwarzalne raporty, zbiory danych i scenariusze ataków dla klientów
- Oceniać odpowiedzi AI dotyczące wrażliwych tematów, w tym stronniczości, dezinformacji i szkodliwych zachowań
- Znajdować słabości, których nie wykrywają automatyczne metody ewaluacji
- Poszerzać zakres ewaluacji, aby pomagać zapobiegać nieoczekiwanym problemom na produkcji
- Ulepszać systemy AI klientów dzięki powtarzalnym testom atakującym
Wymagania
- Biegła znajomość języka angielskiego i telugu na poziomie rodzimego użytkownika
- Umiejętność rozsądnej oceny języka i treści pod kątem dokładności, kompletności i stosowności
- Umiejętność jasnego komunikowania toku rozumowania odbiorcom technicznym i nietechnicznym
- Duża dbałość o subtelne błędy, niespójności i pominięcia
- Umiejętność konsekwentnego przestrzegania wytycznych i standardów jakości
- Elastyczność w pracy nad różnymi projektami, formatami zadań i dla różnych klientów
- Współpraca w charakterze niezależnego wykonawcy
- Umiejętność pracy bez wykorzystywania poufnych lub zastrzeżonych informacji pochodzących od jakiegokolwiek pracodawcy, klienta lub instytucji
- Kandydaci z wizą H-1B i uczestnicy STEM OPT nie są obsługiwani
Benefity
- W pełni zdalna praca z samodzielnie ustalanym harmonogramem
- Cotygodniowe płatności za wykonane usługi przez Stripe lub Wise
- Opcjonalny udział w projektach dotyczących bardziej wrażliwych tematów
- Wytyczne i zasoby wspierające dobrostan podczas pracy z wrażliwymi treściami
- Doświadczenie w rozwijaniu kompetencji w zakresie red teamingu AI opartego na danych tworzonych przez ludzi
- Możliwość pomagania w tworzeniu bezpieczniejszych, solidniejszych i bardziej godnych zaufania systemów AI
- Możliwości współpracy z czołowymi badaczami
- Wypłaty za polecenia do 90 USD za każde skuteczne polecenie, z zastrzeżeniem obowiązujących limitów