51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Ekspert ds. bezpieczeństwa AI — angielski i gudżarati (zdalny kontrakt)
Testuj przełomowe modele i agentów AI pod kątem podatności związanych z bezpieczeństwem za pomocą konwersacji adwersarialnych, w tym jailbreaków, prompt injection, nadużyć, uprzedzeń i manipulacji. Twórz adnotowane zbiory danych, scenariusze ataków i odtwarzalne raporty dotyczące bezpieczeństwa w języku angielskim i gudżarati.
Opis
- Przeprowadzać adwersarialne testy konwersacyjnych modeli i agentów AI pod kątem jailbreaków, prompt injection, nadużyć, wykorzystywania uprzedzeń i wieloetapowej manipulacji
- Tworzyć dane generowane przez ludzi poprzez adnotowanie błędów, kategoryzowanie podatności i identyfikowanie ryzyk systemowych
- Korzystać z uznanych taksonomii, benchmarków i playbooków, aby zapewnić spójność ocen
- Opracowywać odtwarzalne raporty, zbiory danych i scenariusze ataków
- Oceniać odpowiedzi AI dotyczące wrażliwych tematów, w tym uprzedzeń, dezinformacji i szkodliwych zachowań
- Identyfikować słabości, których nie wykrywają zautomatyzowane metody oceny
- Poszerzać zakres ocen, aby pomagać ograniczać nieprzewidziane problemy w środowisku produkcyjnym
- Ulepszać systemy AI klientów dzięki ustrukturyzowanym testom adwersarialnym
Wymagania
- Biegła znajomość języka angielskiego i gudżarati na poziomie native speakera
- Trafna ocena języka i treści
- Umiejętność określenia, czy odpowiedzi AI są dokładne, kompletne i odpowiednie, oraz wyjaśnienia swojej oceny
- Dbałość o subtelne błędy, niespójności i pominięcia
- Konsekwentne stosowanie taksonomii, benchmarków, playbooków, wytycznych i standardów jakości
- Umiejętność jasnego przekazywania toku rozumowania odbiorcom technicznym i nietechnicznym
- Elastyczność w pracy nad różnymi projektami, formatami zadań i dla różnych klientów
- Mile widziane doświadczenie w adwersarialnym uczeniu maszynowym, cyberbezpieczeństwie, ryzyku socjotechnicznym lub kreatywnym testowaniu AI
- Wymagana praca w charakterze niezależnego wykonawcy
- Kandydaci z wizami H-1B i STEM OPT nie są obsługiwani
Benefity
- Praca w pełni zdalna
- Elastyczny harmonogram z możliwością wyboru własnych godzin pracy
- Cotygodniowe płatności za pośrednictwem Stripe lub Wise
- Projekty mogą być przedłużane, skracane lub kończone wcześniej w zależności od potrzeb biznesowych i wyników pracy
- Opcjonalny udział w projektach obejmujących treści o podwyższonej wrażliwości
- Jasne wytyczne i zasoby wspierające dobrostan przy zadaniach z wrażliwymi treściami
- Racjonalne usprawnienia dostępne na żądanie
- Możliwość zdobycia doświadczenia w dziedzinie red teamingu AI opartego na danych tworzonych przez ludzi
- Praca z czołowymi badaczami
- Wypłaty za polecenia w wysokości do 90 USD za każde skuteczne polecenie, z uwzględnieniem obowiązujących limitów