51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Ekspert ds. bezpieczeństwa AI — język angielski i marathi (zdalny kontrakt)
Mercor poszukuje eksperta ds. bezpieczeństwa AI biegle posługującego się językiem angielskim i marathi do testowania konwersacyjnych systemów AI pod kątem podatności. Praca kontraktowa obejmuje testy adversarial, analizę podatności oraz jasne raportowanie na potrzeby projektów związanych z danymi tworzonymi przez ludzi i przełomowymi modelami AI.
Opis
- Testować konwersacyjne modele i agentów AI pod kątem jailbreaków, prompt injection, scenariuszy niewłaściwego użycia, wykorzystywania uprzedzeń i wieloetapowej manipulacji
- Tworzyć zasoby danych opracowywane przez ludzi poprzez opisywanie błędów, kategoryzowanie podatności i identyfikowanie ryzyk systemowych
- Korzystać z ustalonych taksonomii, benchmarków i instrukcji, aby zapewnić spójność ocen
- Dostarczać powtarzalne przypadki ataków, zbiory danych i raporty dla klientów
- Oceniać odpowiedzi AI dotyczące wrażliwych tematów, w tym uprzedzeń, dezinformacji i szkodliwych zachowań
- Wykrywać słabości, które mogą zostać pominięte przez zautomatyzowane metody oceny
- Poszerzać zakres testów, pomagając zapobiegać nieoczekiwanym problemom w środowisku produkcyjnym
- Wspierać klientów w zwiększaniu bezpieczeństwa, odporności i niezawodności ich systemów AI
- Współpracować z czołowymi badaczami nad inicjatywami szkolenia i rozwijania przełomowych modeli AI
Wymagania
- Biegła znajomość języka angielskiego i marathi lub znajomość tych języków na poziomie ojczystym
- Trafna ocena języka i treści
- Umiejętność określenia, czy odpowiedzi AI są dokładne, kompletne i odpowiednie, wraz z jasnym wyjaśnieniem
- Dbałość o niuanse, błędy, niespójności i pominięcia
- Rzetelne przestrzeganie wytycznych dotyczących testów i wymagań jakościowych
- Jasne komunikowanie toku rozumowania odbiorcom technicznym i nietechnicznym
- Elastyczność w pracy nad różnymi projektami, zadaniami i dla różnych klientów
- Umiejętność pracy jako niezależny wykonawca
- Brak potrzeby uzyskania sponsorowania H-1B lub STEM OPT
- Mile widziane: doświadczenie w adversarial machine learning, w tym w pracy ze zbiorami danych jailbreak, prompt injection, atakami RLHF/DPO lub ekstrakcją modeli
- Mile widziane: doświadczenie w cyberbezpieczeństwie, w tym w testach penetracyjnych, tworzeniu exploitów lub inżynierii wstecznej
- Mile widziane: doświadczenie w analizie ryzyka socjotechnicznego, w tym badaniu nękania lub dezinformacji, analizie nadużyć albo testowaniu konwersacyjnej AI
- Mile widziane: doświadczenie w psychologii, aktorstwie lub pisaniu, wspierające niestandardowe myślenie adversarial
Benefity
- W pełni zdalna praca kontraktowa
- Elastyczny harmonogram z możliwością samodzielnego ustalania godzin pracy
- Cotygodniowe płatności za pośrednictwem Stripe lub Wise
- Czas trwania projektu może ulec zmianie lub projekt może zakończyć się wcześniej w zależności od potrzeb biznesowych i wyników pracy
- Opcjonalny udział w projektach obejmujących treści o podwyższonej wrażliwości
- Jasne wytyczne i zasoby wspierające dobrostan przy zadaniach związanych z wrażliwymi treściami
- Na wniosek dostępne są racjonalne usprawnienia
- Wypłaty za polecenia do 90 USD za każde skuteczne polecenie