51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Ekspert ds. bezpieczeństwa AI Mercor — angielski i gudżarati, zdalny kontrakt w USA
Przeprowadzaj z udziałem człowieka testy red-team konwersacyjnych modeli i agentów AI dla Mercor. Twórz dane o podatnościach, scenariusze ataków i powtarzalne oceny bezpieczeństwa w języku angielskim i gudżarati.
Opis
- Przeprowadzać testy red-team konwersacyjnych modeli i agentów AI z użyciem jailbreaków, prompt injection, scenariuszy niewłaściwego użycia, wykorzystywania uprzedzeń i manipulacji wieloturowej
- Opisywać błędy, kategoryzować podatności i eskalować ryzyka systemowe
- Korzystać z ustalonych taksonomii, benchmarków i playbooków, aby zapewnić spójność ocen
- Tworzyć powtarzalne raporty, zbiory danych i scenariusze ataków
- Oceniać wyniki AI dotyczące uprzedzeń, dezinformacji, szkodliwych zachowań i innych wrażliwych tematów
- Wykrywać słabości, które mogą zostać pominięte przez testy automatyczne
- Poszerzać zakres ocen i pomagać ograniczać nieoczekiwane problemy w środowisku produkcyjnym
- Ulepszać systemy AI klientów dzięki opartym na danych testom red-team tworzonym przez ludzi
Wymagania
- Biegła znajomość języka angielskiego i gudżarati na poziomie native speakera
- Trafna ocena języka i treści
- Umiejętność określania, czy odpowiedzi AI są dokładne, kompletne i odpowiednie, oraz wyjaśniania oceny
- Duża dbałość o subtelne błędy, niespójności i pominięcia
- Konsekwentne przestrzeganie wytycznych i standardów jakości
- Jasne przekazywanie uzasadnienia zarówno odbiorcom technicznym, jak i nietechnicznym
- Elastyczność w pracy nad różnymi projektami, formatami zadań i klientami
- Gotowość do pracy jako niezależny wykonawca
- Kandydat nie może posiadać statusu H-1B ani STEM OPT
- Preferowane doświadczenie w dziedzinie adversarial machine learning, cyberbezpieczeństwa, ryzyka socjotechnicznego lub kreatywnego badania podatności
Benefity
- W pełni zdalna praca kontraktowa
- Elastyczny grafik
- Cotygodniowe płatności przez Stripe lub Wise
- Możliwość udziału w projektach o podwyższonej wrażliwości
- Wskazówki i zasoby dotyczące dobrostanu podczas pracy z wrażliwymi treściami
- Konkurencyjne wynagrodzenie
- Możliwość współpracy z czołowymi badaczami
- Racjonalne usprawnienia dostępne na życzenie
- Program poleceń oferujący do 90 USD za każde skuteczne polecenie