51 – 200 Pracownicy
Dostępny profil Mercor nie zawiera wystarczających, zweryfikowanych informacji o produktach, usługach, klientach, sektorze ani obszarze rekrutacji firmy, aby przygotować dokładny opis. Do przedstawienia działalności firmy lub jej możliwości potrzebne są dodatkowe materiały źródłowe.
Zdalny ekspert ds. bezpieczeństwa AI (angielski i gudżarati) — kontrakt
Mercor poszukuje kontraktowego eksperta ds. bezpieczeństwa AI, biegle władającego językiem angielskim i gudżarati, do testowania granicznych modeli AI metodami red teamingu. Praca obejmuje testowanie podatności, ocenę błędów oraz tworzenie odtwarzalnych zbiorów danych i przypadków ataków.
Opis
- Testować konwersacyjne modele i agentów AI pod kątem jailbreaków, wstrzykiwania promptów, scenariuszy niewłaściwego użycia, wykorzystywania stronniczości i manipulacji wieloetapowej
- Tworzyć dane generowane przez ludzi poprzez opisywanie błędów, kategoryzowanie podatności i identyfikowanie ryzyk systemowych
- Korzystać z ustalonych taksonomii, benchmarków i playbooków w celu prowadzenia spójnych ocen
- Opracowywać odtwarzalne raporty dla klientów, zbiory danych i przypadki ataków
- Oceniać odpowiedzi AI pod kątem problemów obejmujących stronniczość, dezinformację i szkodliwe zachowania
- Znajdować słabe punkty niewykrywane przez automatyczne testy
- Poszerzać zakres ocen, aby pomagać zapobiegać nieoczekiwanym problemom w środowisku produkcyjnym
- Współtworzyć projekty służące trenowaniu i ulepszaniu granicznych systemów AI
Wymagania
- Język angielski i gudżarati na poziomie ojczystym lub biegłym
- Trafna ocena języka i treści pod kątem dokładności, kompletności i stosowności
- Umiejętność wykrywania subtelnych błędów, niespójności i pominięć
- Konsekwentne przestrzeganie ustalonych wytycznych i standardów jakości
- Jasne komunikowanie toku rozumowania odbiorcom technicznym i nietechnicznym
- Elastyczność w pracy nad różnymi projektami, formatami zadań i potrzebami klientów
- Współpraca w charakterze niezależnego wykonawcy
- Kandydaci z wizą H-1B i statusem STEM OPT nie kwalifikują się
- Mile widziane: doświadczenie w adversarial machine learning, obejmujące zbiory danych jailbreaków, wstrzykiwanie promptów, ataki RLHF/DPO lub ekstrakcję modeli
- Mile widziane: doświadczenie w cyberbezpieczeństwie, w tym testach penetracyjnych, tworzeniu exploitów lub inżynierii wstecznej
- Mile widziane: doświadczenie w ocenie ryzyka socjotechnicznego, w tym testowaniu nękania lub dezinformacji, analizie nadużyć albo testowaniu konwersacyjnej AI
- Mile widziane: doświadczenie z psychologią, aktorstwem lub pisaniem wspierające niestandardowe myślenie adversarialne
Benefity
- Praca zdalna ze Stanów Zjednoczonych
- Elastyczny grafik dopasowany do Twojej dostępności
- Cotygodniowe płatności za pośrednictwem Stripe lub Wise
- Możliwość udziału lub rezygnacji z udziału w projektach o podwyższonej wrażliwości
- Dostęp do jasnych wytycznych i zasobów wspierających dobrostan przy zadaniach z wrażliwymi treściami
- Konkurencyjne wynagrodzenie godzinowe
- Na życzenie dostępne są racjonalne usprawnienia
- Możliwość otrzymania do 90 USD za każde skuteczne polecenie, z uwzględnieniem obowiązujących limitów