51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Specjalista ds. red teamingu bezpieczeństwa AI
Testuj zaawansowane systemy AI laboratoriów partnerskich Mercor pod kątem podatności w obszarach wysokiego ryzyka. Wspieraj tworzenie wzorców bezpieczeństwa i pomagaj badaczom zwiększać odporność oraz zgodność modeli.
Opis
- Twórz adversarialne prompty do testowania zaawansowanych modeli AI.
- Wykrywaj jailbreaki, niebezpieczne zachowania, halucynacje i naruszenia zasad.
- Oceniaj odporność modeli w wrażliwych obszarach, takich jak dezinformacja, cyberbezpieczeństwo, bio bezpieczeństwo, oszustwa i treści polityczne.
- Dokumentuj podatności oraz wspieraj tworzenie wzorców bezpieczeństwa i raportów red team.
- Współpracuj z badaczami AI, aby zwiększać zgodność, odporność i bezpieczeństwo modeli.
- Wspieraj projekty związane z trenowaniem i ulepszaniem systemów AI.
- Samodzielnie ustalaj grafik; długość projektu może się zmienić lub projekt może zakończyć się wcześniej w zależności od potrzeb biznesowych i wyników pracy.
Wymagania
- Dyplom licencjata lub wyższy z informatyki, cyberbezpieczeństwa, dziennikarstwa, komunikacji, psychologii, biologii, chemii, polityki publicznej lub pokrewnej dziedziny.
- Co najmniej pięć lat doświadczenia zawodowego w obszarze bezpieczeństwa AI, red teamingu AI, trust and safety, cyberbezpieczeństwa, dziennikarstwa śledczego, nauk przyrodniczych lub pokrewnej dziedzinie.
- Doskonałe umiejętności analitycznego myślenia, projektowania promptów i pisania.
- Doświadczenie w tworzeniu adversarialnych promptów lub ocenie zaawansowanych systemów AI.
- Mile widziane: doświadczenie w red teamingu AI, RLHF, SFT, dostosowywaniu AI lub trust and safety.
- Mile widziana znajomość testowania jailbreaków, prompt engineeringu lub metod oceny adversarialnej.
- Mile widziana specjalistyczna wiedza w co najmniej jednym wrażliwym obszarze, takim jak cyberbezpieczeństwo, bio bezpieczeństwo, treści polityczne, dezinformacja lub bezpieczeństwo naukowe.
- Współpraca odbywa się na zasadzie niezależnego wykonawcy.
- Wymagana jest możliwość pracy bez wsparcia w ramach wizy H-1B lub programu STEM OPT.
Benefity
- W pełni zdalna praca z elastycznym grafikiem.
- Cotygodniowe płatności za wykonane usługi przez Stripe lub Wise.
- Współpraca z czołowymi badaczami AI i zespołami ds. bezpieczeństwa.
- Możliwość wpływania na reakcje systemów AI na złożone, rzeczywiste wyzwania związane z bezpieczeństwem.
- Konkurencyjne wynagrodzenie.
- Na życzenie dostępne są odpowiednie usprawnienia.
- Premie za polecenie do 340 USD za każdą skuteczną rekomendację, z zastrzeżeniem limitów.