51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Ekspert ds. bezpieczeństwa AI ze znajomością angielskiego i fińskiego
Wykrywaj podatności w zaawansowanych systemach AI za pomocą jailbreaków, wstrzyknięć promptów i scenariuszy nadużyć. Przygotowuj uporządkowane ustalenia i odtwarzalne przykłady ataków wspierające ocenę bezpieczeństwa AI.
Opis
- Testuj konwersacyjne modele i agentów AI za pomocą jailbreaków, wstrzyknięć promptów, scenariuszy nadużyć, wykorzystywania stronniczości i manipulacji w wielu turach rozmowy.
- Twórz dane oznaczone przez ludzi, dokumentując błędy, klasyfikując podatności i identyfikując ryzyka systemowe.
- Korzystaj z taksonomii, benchmarków i planów testów, aby zachować spójność testowania.
- Dostarczaj klientom odtwarzalne raporty, zbiory danych i przypadki ataków.
- Oceniaj odpowiedzi AI na wrażliwe tematy, w tym stronniczość, dezinformację i szkodliwe zachowania.
- Wykrywaj podatności, które mogą umknąć testom automatycznym.
- Poszerzaj zakres ewaluacji, aby pomóc zapobiegać nieoczekiwanym problemom w środowisku produkcyjnym.
- Współpracuj przy projektach szkolenia i doskonalenia zaawansowanych systemów AI.
Wymagania
- Biegła lub rodzima znajomość języka angielskiego i fińskiego.
- Doświadczenie w red teamingu AI, cyberbezpieczeństwie lub analizie socjotechnicznej.
- Umiejętność testowania systemów AI w sposób adversarialny i sprawdzania ich granic.
- Doświadczenie z frameworkami lub benchmarkami do ustrukturyzowanego testowania.
- Umiejętność jasnego wyjaśniania ryzyka odbiorcom technicznym i nietechnicznym.
- Umiejętność dostosowania się do różnych projektów i klientów.
- Atutem będzie specjalizacja w adversarial machine learning, cyberbezpieczeństwie, ryzyku socjotechnicznym lub kreatywnym sondowaniu.
- Współpraca w charakterze niezależnego wykonawcy.
- Wymagana jest możliwość pracy bez sponsorowania wizy H-1B lub STEM OPT.
Benefity
- Praca w pełni zdalna.
- Elastyczny harmonogram z możliwością samodzielnego ustalania godzin pracy.
- Cotygodniowe płatności przez Stripe lub Wise.
- Projekty mogą zostać przedłużone, skrócone lub zakończone wcześniej w zależności od potrzeb i wyników pracy.
- Materiały wspierające dobrostan oraz jasne wytyczne dotyczące projektów obejmujących tematy o podwyższonej wrażliwości.
- Na życzenie dostępne są racjonalne udogodnienia.
- Możliwość zdobycia doświadczenia w red teamingu AI opartym na danych oznaczonych przez ludzi.
- Współpraca z czołowymi badaczami.
- Premie za polecenie do 250 USD za każde skuteczne polecenie; obowiązują limity.