51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Tester bezpieczeństwa AI — zdalny kontrakt (Stany Zjednoczone)
Mercor poszukuje testera bezpieczeństwa AI, który będzie wykrywać luki w zaawansowanych modelach AI za pomocą testów adversarial. Rola obejmuje projektowanie promptów i ocenę wysokiego ryzyka zachowań modeli we współpracy z badaczami bezpieczeństwa AI.
Opis
- Tworzenie promptów adversarial do testowania zaawansowanych modeli AI
- Wykrywanie jailbreaków, niebezpiecznych zachowań, halucynacji i naruszeń zasad
- Ocena odporności modeli w obszarach takich jak dezinformacja, cyberbezpieczeństwo, bioasekuracja, oszustwa, treści polityczne i inne wrażliwe tematy
- Dokumentowanie luk oraz wspieranie benchmarków bezpieczeństwa i raportów z testów red team
- Współpraca z badaczami AI w celu zwiększania zgodności, odporności i bezpieczeństwa modeli
- Udział w projektach służących trenowaniu i ulepszaniu systemów AI
Wymagania
- Wykształcenie wyższe co najmniej na poziomie licencjackim w dziedzinie informatyki, cyberbezpieczeństwa, dziennikarstwa, komunikacji, psychologii, biologii, chemii, polityki publicznej lub pokrewnej
- Co najmniej pięć lat doświadczenia zawodowego w obszarze bezpieczeństwa AI, testów red team AI, zaufania i bezpieczeństwa, cyberbezpieczeństwa, dziennikarstwa śledczego, nauk biologicznych lub pokrewnej dziedzinie
- Silne umiejętności analitycznego rozumowania, projektowania promptów i komunikacji pisemnej
- Doświadczenie w tworzeniu promptów adversarial lub ocenie zaawansowanych systemów AI
- Mile widziane doświadczenie w testach red team AI, RLHF, SFT, alignment AI lub obszarze zaufania i bezpieczeństwa
- Mile widziana znajomość testowania jailbreaków, inżynierii promptów lub metod oceny adversarial
- Mile widziana wiedza ekspercka w co najmniej jednym obszarze granicznym, takim jak cyberbezpieczeństwo, bioasekuracja, treści polityczne, dezinformacja lub bezpieczeństwo naukowe
- Umiejętność pracy jako niezależny wykonawca
- Kandydaci z wizą H-1B oraz uczestnicy programu STEM OPT nie są obsługiwani
Benefity
- Praca w pełni zdalna
- Elastyczny grafik
- Cotygodniowe płatności za pośrednictwem Stripe lub Wise
- Projekty mogą zostać przedłużone, skrócone lub zakończone wcześniej w zależności od potrzeb biznesowych i wyników pracy
- Testy adversarial prowadzone z czołowymi badaczami AI i zespołami ds. bezpieczeństwa
- Możliwość kształtowania sposobu, w jaki systemy AI radzą sobie ze złożonymi wyzwaniami bezpieczeństwa w rzeczywistym świecie
- Racjonalne usprawnienia dostępne na życzenie
- Płatności za polecenia do 340 USD za każde skuteczne polecenie, z zastrzeżeniem limitów programu poleceń