51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Zdalny ekspert ds. bezpieczeństwa AI (angielski i odia) — kontrakt
Mercor poszukuje eksperta ds. bezpieczeństwa AI, biegle posługującego się językiem angielskim i odia, do testowania konwersacyjnych modeli AI metodą red teamingu na potrzeby trenowania modeli najnowszej generacji. Praca obejmuje tworzenie adnotacji dotyczących podatności, przypadków ataków, zbiorów danych i odtwarzalnych raportów bezpieczeństwa.
Opis
- Testowanie konwersacyjnych modeli i agentów AI za pomocą jailbreaków, prompt injection, scenariuszy niewłaściwego użycia, wykorzystywania uprzedzeń i wieloetapowej manipulacji.
- Dokumentowanie błędów, klasyfikowanie podatności i identyfikowanie ryzyk systemowych.
- Korzystanie z uznanych taksonomii, benchmarków i playbooków w celu zapewnienia spójności ocen.
- Tworzenie odtwarzalnych raportów bezpieczeństwa, zbiorów danych i przypadków ataków.
- Analizowanie odpowiedzi modeli pod kątem uprzedzeń, dezinformacji i szkodliwego zachowania.
- Wspieranie trenowania i doskonalenia systemów AI najnowszej generacji dla laboratorium AI Mercor oraz klientów korporacyjnych.
Wymagania
- Biegła znajomość języka angielskiego i odia na poziomie rodzimego użytkownika.
- Trafna ocena języka i treści.
- Umiejętność określenia, czy odpowiedzi AI są dokładne, kompletne i odpowiednie, oraz wyjaśnienia toku rozumowania.
- Duża dbałość o subtelne błędy, niespójności i pominięcia.
- Umiejętność niezawodnego przestrzegania wytycznych i standardów jakości.
- Umiejętność jasnego wyjaśniania toku rozumowania odbiorcom technicznym i nietechnicznym.
- Elastyczność w pracy nad różnymi projektami, formatami zadań i dla różnych klientów.
- Gotowość do pracy jako niezależny wykonawca.
- Kandydaci nie mogą być uczestnikami programów H-1B ani STEM OPT.
- Mile widziane doświadczenie lub specjalizacja w adversarial machine learning, cyberbezpieczeństwie, ryzyku społeczno-technicznym lub kreatywnym testowaniu.
Benefity
- Praca w pełni zdalna.
- Elastyczny grafik.
- Opcjonalny udział w projektach o podwyższonej wrażliwości.
- Wytyczne i zasoby dotyczące dobrostanu przy projektach obejmujących wrażliwe treści.
- Cotygodniowe płatności za pośrednictwem Stripe lub Wise.
- Konkurencyjne wynagrodzenie.
- Możliwość współpracy z czołowymi badaczami.
- Wypłaty za polecenia do 90 USD za każde skuteczne polecenie.