51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
Stručnjak za sigurnost umjetne inteligencije – engleski i teluški (ugovorni rad na daljinu)
Provodi crveno-timske evaluacije konverzacijskih modela i agenata umjetne inteligencije za Mercor te identificira ranjivosti adversarijalnim testiranjem. Izrađuje visokokvalitetne skupove podataka, napadačke slučajeve i jasna izvješća usmjerena na jezični učinak na engleskom i teluškom.
Opis
- Testirajte konverzacijske modele i agente umjetne inteligencije na zaobilaženje zaštita, ubrizgavanje upita, scenarije zlouporabe, iskorištavanje pristranosti i manipulaciju kroz više poruka
- Izrađujte podatke koje generiraju ljudi označavanjem neuspjeha, kategoriziranjem ranjivosti i prepoznavanjem sistemskih rizika
- Koristite utvrđene taksonomije, referentne testove i priručnike kako biste osigurali dosljedne evaluacije
- Razvijajte ponovljiva izvješća, skupove podataka i adversarijalne napadačke slučajeve
- Procjenjujte odgovore umjetne inteligencije povezane s pristranošću, dezinformacijama, štetnim ponašanjem i drugim osjetljivim temama
- Prepoznajte slabosti koje automatizirane metode evaluacije mogu previdjeti
- Proširite obuhvat evaluacije kako biste pomogli spriječiti neočekivane probleme u produkciji
- Unaprijedite korisničke sustave umjetne inteligencije strukturiranim adversarijalnim testiranjem
Zahtjevi
- Izvorna razina znanja engleskog i teluškog jezika
- Razboritost pri procjeni jezika i sadržaja
- Sposobnost utvrđivanja jesu li odgovori umjetne inteligencije točni, potpuni i primjereni te objašnjavanja obrazloženja
- Iznimna pažnja prema suptilnim pogreškama, nedosljednostima i propustima
- Dosljedno pridržavanje smjernica i standarda kvalitete
- Sposobnost jasnog komuniciranja obrazloženja tehničkoj i netehničkoj publici
- Fleksibilnost u radu na različitim projektima, formatima zadataka i za različite korisnike
- Sposobnost rada kao neovisni ugovaratelj
- Ne smije biti potrebno sponzorstvo za H-1B ili STEM OPT
- Poželjno je iskustvo u adversarijalnom strojnom učenju, kibernetičkoj sigurnosti, sociotehničkom riziku ili kreativnom ispitivanju
Pogodnosti
- Potpuno udaljeni rad
- Fleksibilan raspored koji odgovara vašoj dostupnosti
- Tjedne isplate putem Stripea ili Wisea
- Trajanje projekta može se promijeniti ili ranije završiti ovisno o poslovnim potrebama i učinku
- Pristup resursima za dobrobit i jasnim smjernicama za zadatke veće osjetljivosti
- Stjecanje iskustva u crvenom timu umjetne inteligencije na temelju podataka koje generiraju ljudi
- Pomaganje u razvoju robusnijih, sigurnijih i pouzdanijih sustava umjetne inteligencije
- Konkurentna naknada
- Suradnja s vodećim istraživačima
- Na zahtjev su dostupne razumne prilagodbe