51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Specjalista ds. testowania bezpieczeństwa modeli AI metodą red teaming
Testuj zaawansowane modele AI Mercor pod kątem luk w zabezpieczeniach za pomocą testów adversarialnych. Wykrywaj podatności i pomagaj poprawiać dostosowanie modeli.
Opis
- Twórz adversarialne prompty do testowania zaawansowanych modeli AI.
- Wykrywaj jailbreaki, niebezpieczne zachowania, halucynacje i naruszenia zasad.
- Testuj odporność modeli na dezinformację, zagrożenia cyberbezpieczeństwa i biobezpieczeństwa, oszustwa, treści polityczne i inne wrażliwe obszary.
- Dokumentuj podatności i pomagaj tworzyć benchmarki bezpieczeństwa oraz raporty red teamingowe.
- Współpracuj z badaczami AI, aby wzmacniać dostosowanie, odporność i bezpieczeństwo modeli.
- Pomagaj chronić i udoskonalać nową generację zaawansowanych modeli AI.
- Współpracuj przy projektach szkolenia i ulepszania systemów AI.
Wymagania
- Tytuł licencjata lub wyższy w dziedzinie informatyki, cyberbezpieczeństwa, dziennikarstwa, komunikacji, psychologii, biologii, chemii, polityki publicznej lub pokrewnej dziedzinie
- Co najmniej pięć lat doświadczenia zawodowego w obszarze bezpieczeństwa AI, red teamingu AI, trust and safety, cyberbezpieczeństwa, dziennikarstwa śledczego, nauk przyrodniczych lub pokrewnej dziedzinie
- Wysokie umiejętności analitycznego rozumowania, projektowania promptów i pisania
- Doświadczenie w tworzeniu adversarialnych promptów lub ocenie zaawansowanych systemów AI
- Doświadczenie w red teamingu AI, RLHF, nadzorowanym dostrajaniu, dostosowywaniu AI lub trust and safety będzie dodatkowym atutem
- Znajomość testowania jailbreaków, inżynierii promptów lub metod oceny adversarialnej będzie dodatkowym atutem
- Ekspercka wiedza w co najmniej jednym wrażliwym obszarze, takim jak cyberbezpieczeństwo, biobezpieczeństwo, treści polityczne, dezinformacja lub bezpieczeństwo naukowe, będzie dodatkowym atutem
- Osoby wymagające sponsorowania wizy H-1B lub STEM OPT nie powinny aplikować; Mercor nie może zapewnić żadnej z tych form sponsorowania
Benefity
- W pełni zdalna praca z elastycznym harmonogramem
- Cotygodniowe płatności za wykonane usługi przez Stripe lub Wise
- Długość projektu może ulec zmianie, a projekt może zakończyć się wcześniej w zależności od potrzeb projektu i wyników pracy
- Współpraca z czołowymi badaczami AI i zespołami ds. bezpieczeństwa
- Możliwość wpływania na to, jak systemy AI radzą sobie ze złożonymi, rzeczywistymi wyzwaniami w zakresie bezpieczeństwa
- Na życzenie dostępne są racjonalne usprawnienia
- Premie za polecenia do 340 USD za każde skuteczne polecenie, z uwzględnieniem limitów