51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije na daljinu (engleski i telugu)
Mercor traži stručnjaka za red teaming sigurnosti umjetne inteligencije koji izvrsno govori engleski i telugu te prepoznaje ranjivosti u naprednim modelima umjetne inteligencije. Posao uključuje izradu adversarijalnih testnih slučajeva, strukturiranih skupova podataka i ponovljivih izvješća.
Opis
- Testirati konverzacijske modele umjetne inteligencije i agente pomoću jailbreakova, prompt injectiona, scenarija zlouporabe, iskorištavanja pristranosti i manipulacije kroz više poruka
- Dokumentirati neuspjehe, kategorizirati ranjivosti i prepoznati sistemske rizike
- Primjenjivati etablirane taksonomije, benchmarke i priručnike za dosljedne evaluacije
- Izrađivati ponovljiva izvješća, skupove podataka i slučajeve adversarijalnih napada
- Procjenjivati izlaze umjetne inteligencije s obzirom na pristranost, dezinformacije, štetno ponašanje i druge rizike povezane s osjetljivim sadržajem
- Proširivati obuhvat evaluacija kako bi se pronašle ranjivosti koje automatizirano testiranje može previdjeti
- Doprinositi projektima koji treniraju i poboljšavaju napredne sustave umjetne inteligencije
Zahtjevi
- Izvorna razina znanja engleskog i telugua
- Razborito prosuđivanje pri procjeni jesu li odgovori umjetne inteligencije točni, potpuni i primjereni
- Sposobnost otkrivanja suptilnih pogrešaka, nedosljednosti i propusta
- Dosljedno pridržavanje smjernica i standarda kvalitete
- Sposobnost jasnog objašnjavanja načina razmišljanja tehničkoj i netehničkoj publici
- Fleksibilnost u radu na različitim projektima, formatima zadataka i za različite korisnike
- Spremnost na rad kao neovisni ugovaratelj
- Ne smije biti potrebna podrška za H-1B ili STEM OPT
- Iskustvo u adversarijalnom strojnom učenju, kibernetičkoj sigurnosti, sociotehničkom riziku ili kreativnom ispitivanju je prednost
Pogodnosti
- Potpuno udaljeni rad
- Samostalno odabiranje radnog rasporeda
- Tjedne isplate putem Stripea ili Wisea
- Trajanje projekta može se promijeniti ili projekt može završiti ranije, ovisno o poslovnim potrebama i učinku
- Konkurentna satnica
- Stjecanje iskustva u red teamingu umjetne inteligencije koji se oslanja na podatke prikupljene od ljudi
- Doprinos većoj otpornosti, sigurnosti i pouzdanosti sustava umjetne inteligencije
- Razumne prilagodbe dostupne su na zahtjev
- Mogućnost zarade do 90 USD za svaku uspješnu preporuku