51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Zdalny ekspert ds. bezpieczeństwa AI (język angielski i marathi) w Mercor
Testuj konwersacyjne modele AI pod kątem podatności za pomocą testów red team w języku angielskim i marathi. Twórz powtarzalne zestawy danych, przypadki ataków i raporty dla projektów bezpieczeństwa AI opartych na danych tworzonych przez ludzi.
Opis
- Przeprowadzać testy red team konwersacyjnych modeli i agentów AI z wykorzystaniem jailbreaków, wstrzykiwania promptów, scenariuszy niewłaściwego użycia, wykorzystywania stronniczości i manipulacji wieloturowej
- Tworzyć dane generowane przez ludzi poprzez adnotowanie błędów, kategoryzowanie podatności i identyfikowanie ryzyk systemowych
- Korzystać z taksonomii, benchmarków i podręczników, aby zapewnić spójność ocen
- Opracowywać powtarzalne raporty, zestawy danych i przypadki ataków dla klientów
- Oceniać wyniki AI dotyczące wrażliwych tematów, w tym stronniczości, dezinformacji i szkodliwych zachowań
- Identyfikować słabości, które mogą zostać pominięte przez testy automatyczne
- Poszerzać zakres ocen, aby pomagać zapobiegać nieoczekiwanym problemom w środowisku produkcyjnym
- Wspierać klientów w zwiększaniu bezpieczeństwa, odporności i wiarygodności ich systemów AI
Wymagania
- Wymagana jest biegła lub ojczysta znajomość języka angielskiego i marathi
- Trafna ocena języka i treści, w tym umiejętność oceniania, czy odpowiedzi AI są dokładne, kompletne i odpowiednie, oraz wyjaśniania swojego rozumowania
- Wyjątkowa dbałość o subtelne błędy, niespójności i pominięcia
- Konsekwentne przestrzeganie ustalonych wytycznych i standardów jakości
- Jasne komunikowanie toku rozumowania odbiorcom technicznym i nietechnicznym
- Umiejętność dostosowania się do różnych projektów, formatów zadań i klientów
- Wymagana jest praca jako niezależny wykonawca
- Kandydaci z wizą H1-B i statusem STEM OPT nie są obsługiwani
- Mile widziane: doświadczenie w adversarial machine learning, w tym z zestawami danych jailbreak, wstrzykiwaniem promptów, atakami RLHF lub DPO albo ekstrakcją modeli
- Mile widziane: doświadczenie w cyberbezpieczeństwie, w tym testach penetracyjnych, tworzeniu exploitów lub inżynierii wstecznej
- Mile widziane: doświadczenie w zakresie ryzyka socjotechnicznego, obejmujące testowanie odporności na nękanie lub dezinformację, analizę nadużyć albo testowanie konwersacyjnej AI
- Mile widziane: doświadczenie w psychologii, aktorstwie lub pisaniu, wspierające niekonwencjonalne myślenie adwersarialne
Benefity
- W pełni zdalna praca
- Elastyczny harmonogram z możliwością wyboru godzin pracy
- Cotygodniowe płatności za pośrednictwem Stripe lub Wise na podstawie zrealizowanych usług
- Czas trwania projektu może zostać wydłużony, skrócony lub zakończony wcześniej zgodnie z potrzebami biznesowymi i wynikami pracy
- Materiały wspierające dobrostan oraz jasne wytyczne dotyczące projektów obejmujących treści o podwyższonej wrażliwości
- Na życzenie dostępne są racjonalne usprawnienia
- Program poleceń oferujący do 90 USD za każde skuteczne polecenie, bez limitu liczby poleceń
- Możliwość współpracy z czołowymi badaczami
- Doświadczenie w prowadzeniu opartego na danych tworzonych przez ludzi testowania red team AI na czele prac nad bezpieczeństwem AI