51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za red team testiranje sigurnosti umjetne inteligencije
Testirajte najnaprednije sustave umjetne inteligencije partnerskih laboratorija Mercora tražeći ranjivosti u visokorizičnim područjima. Doprinesite sigurnosnim referentnim testovima i pomozite istraživačima unaprijediti otpornost i usklađenost modela.
Opis
- Izrađujte adversarijalne upite za testiranje najnaprednijih modela umjetne inteligencije.
- Pronalazite načine zaobilaženja zaštitnih mjera, nesigurno ponašanje, halucinacije i propuste u pravilima.
- Procjenjujte otpornost modela u osjetljivim područjima kao što su dezinformacije, kibernetička sigurnost, biološka sigurnost, prijevare i politički sadržaj.
- Bilježite ranjivosti i doprinosite sigurnosnim referentnim testovima i izvješćima red team testiranja.
- Surađujte s istraživačima umjetne inteligencije na jačanju usklađenosti, otpornosti i sigurnosti modela.
- Podržavajte projekte za treniranje i unapređivanje sustava umjetne inteligencije.
- Sami određujete raspored; trajanje projekta može se promijeniti ili projekt može ranije završiti ovisno o poslovnim potrebama i učinku.
Zahtjevi
- Završen preddiplomski studij ili viši stupanj obrazovanja iz računarstva, kibernetičke sigurnosti, novinarstva, komunikacija, psihologije, biologije, kemije, javnih politika ili srodnog područja.
- Najmanje pet godina stručnog iskustva u sigurnosti umjetne inteligencije, red team testiranju umjetne inteligencije, povjerenju i sigurnosti, kibernetičkoj sigurnosti, istraživačkom novinarstvu, prirodnim znanostima ili srodnom području.
- Izražene analitičke sposobnosti, vještine osmišljavanja upita i pisanja.
- Iskustvo u izradi adversarijalnih upita ili procjeni najnaprednijih sustava umjetne inteligencije.
- Prednost je iskustvo u red team testiranju umjetne inteligencije, RLHF-u, SFT-u, usklađivanju umjetne inteligencije ili području povjerenja i sigurnosti.
- Prednost je poznavanje testiranja zaobilaženja zaštitnih mjera, prompt engineeringa ili metoda adversarijalne procjene.
- Prednost je stručnost u jednom ili više osjetljivih područja, uključujući kibernetičku sigurnost, biološku sigurnost, politički sadržaj, dezinformacije ili sigurnost u znanosti.
- Angažman je na temelju ugovora s neovisnim suradnikom.
- Morate moći raditi bez podrške za vizu H-1B ili STEM OPT.
Pogodnosti
- Potpuno udaljeni rad uz fleksibilan raspored.
- Tjedne isplate za obavljene usluge putem Stripea ili Wisea.
- Rad s vodećim istraživačima umjetne inteligencije i sigurnosnim timovima.
- Sudjelujte u oblikovanju načina na koji sustavi umjetne inteligencije odgovaraju na složene sigurnosne izazove iz stvarnog svijeta.
- Konkurentna naknada.
- Na zahtjev su dostupne razumne prilagodbe.
- Naknade za preporuke do 340 za svaku uspješnu preporuku, uz primjenu ograničenja.