51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Specjalista ds. testów bezpieczeństwa AI — praca zdalna ze Stanów Zjednoczonych
Mercor poszukuje zdalnego specjalisty ds. testów bezpieczeństwa AI, który będzie poddawać zaawansowane modele AI próbom i wykrywać luki w obszarach wysokiego ryzyka. Rola kontraktowa wspiera laboratoria AI rozwijające i doskonalące zaawansowane systemy.
Opis
- Tworzenie złośliwych promptów do testowania zaawansowanych modeli AI
- Wykrywanie jailbreaków, niebezpiecznych zachowań, halucynacji i naruszeń zasad
- Ocena odporności modeli na dezinformację, zagrożenia cybernetyczne, ryzyka związane z bezpieczeństwem biologicznym, oszustwa, treści polityczne i inne wrażliwe tematy
- Dokumentowanie wykrytych luk oraz pomoc w tworzeniu testów bezpieczeństwa i raportów z testów red-teamowych
- Współpraca z badaczami AI w celu zwiększania zgodności, odporności i bezpieczeństwa modeli
- Udział w projektach służących trenowaniu i doskonaleniu systemów AI
Wymagania
- Wykształcenie wyższe co najmniej na poziomie licencjackim w dziedzinie informatyki, cyberbezpieczeństwa, dziennikarstwa, komunikacji, psychologii, biologii, chemii, polityki publicznej lub dziedzinie pokrewnej
- Co najmniej pięć lat doświadczenia zawodowego w zakresie bezpieczeństwa AI, testów red-teamowych AI, zaufania i bezpieczeństwa, cyberbezpieczeństwa, dziennikarstwa śledczego, nauk o życiu lub dziedzinie pokrewnej
- Umiejętność analitycznej oceny, projektowania promptów i komunikacji pisemnej
- Doświadczenie w tworzeniu złośliwych promptów lub ocenie zaawansowanych systemów AI
- Doświadczenie w testach red-teamowych AI, RLHF, SFT, dostosowywaniu AI lub obszarze zaufania i bezpieczeństwa będzie dodatkowym atutem
- Znajomość testowania jailbreaków, inżynierii promptów lub metod oceny adwersarialnej będzie dodatkowym atutem
- Ekspercka znajomość co najmniej jednego obszaru szarej strefy, takiego jak cyberbezpieczeństwo, bezpieczeństwo biologiczne, treści polityczne, dezinformacja lub bezpieczeństwo naukowe, będzie dodatkowym atutem
- Możliwość pracy jako niezależny wykonawca
- Kandydaci z wizą H-1B i statusem STEM OPT nie są obsługiwani
Benefity
- W pełni zdalna praca
- Elastyczny, samodzielnie ustalany grafik
- Cotygodniowe płatności za pośrednictwem Stripe lub Wise
- Projekty mogą być przedłużane, skracane lub kończone wcześniej w zależności od potrzeb biznesowych i wyników pracy
- Konkurencyjne wynagrodzenie
- Współpraca z czołowymi badaczami AI i zespołami ds. bezpieczeństwa
- Na życzenie dostępne są racjonalne usprawnienia
- Płatności za polecenia do 340 USD za każde skuteczne polecenie, z uwzględnieniem obowiązujących limitów