Mercor
Mercor
51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.

Ekspert ds. bezpieczeństwa AI — język angielski i marathi (praca zdalna)

Mercor poszukuje ekspertów ds. bezpieczeństwa AI znających język angielski i marathi do testów red teamowych konwersacyjnych modeli i agentów. Praca obejmuje wykrywanie luk, ocenę wrażliwych odpowiedzi oraz tworzenie powtarzalnych danych dotyczących bezpieczeństwa dla laboratoriów AI i klientów.

Opis

  • Przeprowadzać testy red teamowe konwersacyjnych modeli i agentów AI z użyciem jailbreaków, wstrzykiwania promptów, scenariuszy niewłaściwego użycia, wykorzystywania uprzedzeń i manipulacji wieloturowej
  • Tworzyć dane do oceny przez ludzi poprzez opisywanie błędów, kategoryzowanie luk i identyfikowanie ryzyk systemowych
  • Korzystać z ustalonych taksonomii, benchmarków i playbooków, aby wspierać spójne oceny
  • Opracowywać powtarzalne raporty, zbiory danych i przypadki ataków dla klientów
  • Oceniać odpowiedzi AI dotyczące uprzedzeń, dezinformacji, szkodliwych zachowań i innych wrażliwych tematów
  • Identyfikować luki, które mogą zostać pominięte przez testy automatyczne
  • Poszerzać zakres ocen, aby pomóc ograniczyć nieoczekiwane problemy w środowisku produkcyjnym
  • Wspierać klientów w zwiększaniu bezpieczeństwa, odporności i wiarygodności ich systemów AI

Wymagania

  • Biegła znajomość języka angielskiego i marathi na poziomie rodzimego użytkownika
  • Trafna ocena języka i treści, w tym tego, czy odpowiedzi AI są dokładne, kompletne i odpowiednie
  • Umiejętność wykrywania subtelnych błędów, niespójności i pominięć
  • Umiejętność konsekwentnego przestrzegania wytycznych i standardów jakości
  • Umiejętność jasnego komunikowania toku rozumowania odbiorcom technicznym i nietechnicznym
  • Elastyczność w pracy nad różnymi projektami, typami zadań i dla różnych klientów
  • Możliwość pracy jako niezależny wykonawca
  • Brak konieczności korzystania ze wsparcia H-1B lub STEM OPT
  • Mile widziane: doświadczenie w dziedzinie adwersarialnego uczenia maszynowego, w tym z zestawami danych jailbreaków, atakami polegającymi na wstrzykiwaniu promptów, atakami RLHF lub DPO albo ekstrakcją modeli
  • Mile widziane: doświadczenie w cyberbezpieczeństwie, w tym w testach penetracyjnych, tworzeniu exploitów lub inżynierii wstecznej
  • Mile widziane: doświadczenie w zakresie ryzyka socjotechnicznego, w tym w badaniu nękania lub dezinformacji, analizie nadużyć albo testowaniu konwersacyjnej AI
  • Mile widziane: doświadczenie w psychologii, aktorstwie lub pisaniu, wspierające niekonwencjonalne myślenie adwersarialne

Benefity

  • W pełni zdalna praca, którą można wykonywać według własnego harmonogramu
  • Cotygodniowe płatności za pośrednictwem Stripe lub Wise
  • Opcjonalny udział w projektach o podwyższonej wrażliwości
  • Jasne wytyczne i zasoby wspierające dobrostan podczas pracy z wrażliwymi treściami
  • Konkurencyjne wynagrodzenie
  • Możliwość współpracy z czołowymi badaczami
  • Wypłaty za polecenia do 90 USD za każde skuteczne polecenie, z zastrzeżeniem limitów

Powiązane oferty pracy

Evolent

Główny inżynier oprogramowania, React i Next.js

Evolent

Kieruj architekturą i rozwojem interfejsu platformy Evolent dla ochrony zdrowia wspieranej przez AI, kształtując współpracę agentów z ludźmi w React i Next.js. Koordynuj działania na rzecz dostępności, bezpieczeństwa i pełnego cyklu życia interfejsu.

Otwórz
Capital One

Starszy dyrektor ds. inżynierii oprogramowania

Capital One

Kieruj zespołami inżynierskimi Capital One, które tworzą skalowalne chmurowe platformy bankowe. Wyznaczaj architekturę i strategię rozwoju talentów, rozwijając systemy AI i technologie dla przedsiębiorstw.

Otwórz