51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Ekspert ds. bezpieczeństwa AI (angielski i telugu) — zdalny kontrakt
Przeprowadzaj oceny red-teamowe konwersacyjnych modeli i agentów AI dla Mercor, koncentrując się na bezpieczeństwie języka angielskiego i telugu. Twórz dane o podatnościach, przypadki ataków i odtwarzalne raporty wspierające bezpieczniejszy rozwój AI.
Opis
- Testowanie konwersacyjnych modeli i agentów AI za pomocą jailbreaków, prompt injection, scenariuszy niewłaściwego użycia, wykorzystywania uprzedzeń i wieloetapowej manipulacji
- Adnotowanie awarii, kategoryzowanie podatności i identyfikowanie ryzyk systemowych
- Korzystanie z taksonomii, benchmarków i podręczników operacyjnych w celu zachowania spójności ocen
- Tworzenie odtwarzalnych raportów, zbiorów danych i przypadków ataków dla klientów
- Ocenianie wyników AI dotyczących uprzedzeń, dezinformacji, szkodliwych zachowań i innych wrażliwych tematów
- Współpraca przy projektach służących trenowaniu i ulepszaniu systemów AI
- Identyfikowanie podatności, których nie wykrywa automatyczne testowanie
- Poszerzanie zakresu ocen, aby pomagać ograniczać nieoczekiwane problemy w środowisku produkcyjnym
Wymagania
- Biegła znajomość języka angielskiego i telugu na poziomie rodzimego użytkownika
- Trafna ocena tego, czy odpowiedzi AI są dokładne, kompletne i właściwe
- Umiejętność jasnego przedstawiania toku rozumowania odbiorcom technicznym i nietechnicznym
- Skrupulatna dbałość o subtelne błędy, niespójności i pominięcia
- Konsekwentne przestrzeganie wytycznych i standardów jakości
- Elastyczność w pracy nad różnymi projektami, formatami zadań i dla różnych klientów
- Gotowość do pracy jako niezależny wykonawca
- Brak statusu kandydata do wizy H-1B lub STEM OPT; odpowiednie specjalizacje mogą obejmować konfrontacyjne uczenie maszynowe, zbiory danych jailbreaków, prompt injection, ataki RLHF/DPO, ekstrakcję modeli, testy penetracyjne, tworzenie exploitów, inżynierię wsteczną, badanie nękania lub dezinformacji, analizę nadużyć, testowanie konwersacyjnej AI, psychologię, aktorstwo lub pisanie.
- benefity
Benefity
- W pełni zdalna praca w ustalonym przez siebie harmonogramie
- Cotygodniowe płatności przez Stripe lub Wise za wykonane usługi
- Zdobycie doświadczenia w red-teamingu AI opartym na danych tworzonych przez ludzi i skoncentrowanym na bezpieczeństwie najnowocześniejszych systemów
- Pomoc w tworzeniu bardziej odpornych, bezpiecznych i godnych zaufania systemów AI
- Możliwość wyboru udziału w projektach o podwyższonej wrażliwości
- Dostęp do jasnych wskazówek i zasobów wspierających dobrostan w projektach o podwyższonej wrażliwości
- Możliwość wystąpienia o racjonalne udogodnienia
- Do 90 USD za każde skuteczne polecenie bez określonego limitu liczby poleceń