51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Specjalista ds. red teamingu bezpieczeństwa AI — zdalny kontrakt w USA
Mercor poszukuje kontraktowego specjalisty ds. red teamingu bezpieczeństwa AI do testowania zaawansowanych modeli AI i wykrywania podatności. Rola koncentruje się na obszarach wysokiego ryzyka i wspiera rozwój bezpieczniejszych, bardziej niezawodnych systemów AI.
Opis
- Tworzenie adversarial prompts do rygorystycznego testowania zaawansowanych modeli AI
- Wykrywanie jailbreaków, niebezpiecznych zachowań, halucynacji i nieprzestrzegania zasad bezpieczeństwa
- Ocena odporności modeli w obszarach dezinformacji, cyberbezpieczeństwa, bioasekuracji, oszustw, treści politycznych i innych wrażliwych dziedzinach
- Dokumentowanie wykrytych słabości oraz wspieranie przygotowywania benchmarków bezpieczeństwa i raportów z red teamingu
- Współpraca z badaczami AI nad poprawą dopasowania, odporności i bezpieczeństwa modeli
- Pomoc w ochronie i udoskonalaniu nowych zaawansowanych systemów AI
- Kształtowanie sposobu, w jaki modele AI radzą sobie z trudnymi scenariuszami bezpieczeństwa w rzeczywistych warunkach
Wymagania
- Wykształcenie wyższe co najmniej na poziomie licencjackim w dziedzinie informatyki, cyberbezpieczeństwa, dziennikarstwa, komunikacji, psychologii, biologii, chemii, polityki publicznej lub dziedzinie pokrewnej
- Co najmniej pięć lat doświadczenia zawodowego w bezpieczeństwie AI, red teamingu AI, obszarze zaufania i bezpieczeństwa, cyberbezpieczeństwie, dziennikarstwie śledczym, naukach o życiu lub dziedzinie pokrewnej
- Silne umiejętności analityczne i oceny sytuacji, zdolność tworzenia promptów oraz umiejętności komunikacji pisemnej
- Praktyczne doświadczenie w tworzeniu adversarial prompts lub ocenie zaawansowanych systemów AI
- Mile widziane: doświadczenie w red teamingu AI, RLHF, SFT, alignment AI lub obszarze zaufania i bezpieczeństwa
- Mile widziana znajomość oceniania jailbreaków, inżynierii promptów lub metod adversarial evaluation
- Mile widziana specjalistyczna wiedza w takich obszarach jak cyberbezpieczeństwo, bioasekuracja, treści polityczne, dezinformacja lub bezpieczeństwo naukowe
- Gotowość do pracy jako niezależny kontraktor
- Kandydaci z wizami H-1B i STEM OPT nie są objęci wsparciem
Benefity
- W pełni zdalna praca
- Samodzielne ustalanie godzin pracy i realizowanie zadań według elastycznego harmonogramu
- Cotygodniowe płatności za pośrednictwem Stripe lub Wise
- Czas trwania projektu może ulec zmianie lub projekt może zakończyć się wcześniej w zależności od potrzeb biznesowych i wyników pracy
- Konkurencyjne wynagrodzenie
- Współpraca z czołowymi badaczami AI i zespołami ds. bezpieczeństwa
- Na życzenie dostępne są racjonalne usprawnienia
- Program poleceń oferujący do 340 USD za każde skuteczne polecenie, z zastrzeżeniem limitów programu