51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Specjalista ds. testów bezpieczeństwa AI
Mercor poszukuje specjalisty ds. testów bezpieczeństwa AI, który będzie wykrywać słabe punkty zaawansowanych modeli w obszarach wysokiego ryzyka. Praca wspiera laboratoria AI w trenowaniu i doskonaleniu zaawansowanych systemów.
Opis
- Tworzyć adversarialne prompty do testowania zaawansowanych modeli AI.
- Wykrywać jailbreaki, niebezpieczne zachowania, halucynacje i naruszenia zasad.
- Oceniać odporność modeli na dezinformację, zagrożenia cyberbezpieczeństwa i biobezpieczeństwa, oszustwa, treści polityczne oraz inne wrażliwe obszary.
- Dokumentować podatności oraz pomagać w tworzeniu testów bezpieczeństwa i raportów z red teamingu.
- Współpracować z badaczami AI nad poprawą zgodności modeli z założonymi celami, ich odporności i bezpieczeństwa.
- Wspierać projekty służące trenowaniu i doskonaleniu systemów AI.
Wymagania
- Wykształcenie wyższe co najmniej na poziomie licencjackim w dziedzinie informatyki, cyberbezpieczeństwa, dziennikarstwa, komunikacji, psychologii, biologii, chemii, polityki publicznej lub pokrewnej.
- Co najmniej pięć lat doświadczenia zawodowego w obszarze bezpieczeństwa AI, red teamingu AI, zaufania i bezpieczeństwa, cyberbezpieczeństwa, dziennikarstwa śledczego, nauk przyrodniczych lub pokrewnej dziedzinie.
- Doskonałe umiejętności analitycznego myślenia, projektowania promptów i komunikacji pisemnej.
- Doświadczenie w tworzeniu adversarialnych promptów lub ocenie zaawansowanych systemów AI.
- Konieczne jest zamieszkanie w jednym z wymienionych krajów, w których można pracować: Albania, Austria, Belgia, Bułgaria, Bośnia i Hercegowina, Szwajcaria, Czechy, Niemcy, Dania, Hiszpania, Estonia, Finlandia, Francja, Wielka Brytania, Grecja, Chorwacja, Węgry, Irlandia, Islandia, Włochy, Liechtenstein, Litwa, Luksemburg, Łotwa, Monako, Mołdawia, Macedonia Północna, Malta, Niderlandy, Norwegia, Polska, Portugalia, Rumunia, San Marino, Serbia, Słowacja, Słowenia, Szwecja, Stany Zjednoczone lub Kosowo.
- Obecnie firma nie może wspierać kandydatów z wizą H-1B ani statusem STEM OPT.
Benefity
- W pełni zdalna praca z elastycznym harmonogramem.
- Cotygodniowe płatności za wykonane usługi za pośrednictwem Stripe lub Wise.
- Czas trwania projektu może zostać wydłużony, skrócony albo projekt może zakończyć się wcześniej, zależnie od potrzeb i wyników pracy.
- Konkurencyjne wynagrodzenie.
- Możliwość współpracy z czołowymi badaczami AI i zespołami ds. bezpieczeństwa.
- Na życzenie dostępne są racjonalne usprawnienia.
- Program poleceń oferuje do 340 USD za każde skuteczne polecenie, z uwzględnieniem limitów.