LogoFresh Jobs Ahead
Mercor
Mercor
51 – 200 Zaposlenici
Dostupni profil tvrtke Mercor ne sadrži dovoljno provjerenih informacija o njezinim proizvodima, uslugama, klijentima, sektoru ni području zapošljavanja da bi se mogao izraditi točan pregled tvrtke. Prije opisa poslovanja ili mogućnosti zapošljavanja potrebno je pribaviti dodatne izvorne materijale.
LinkedIn
Poslovi u tvrtki

Stručnjak za sigurnost umjetne inteligencije (engleski i tamilski) – ugovorni rad na daljinu

Mercor traži stručnjaka za sigurnost umjetne inteligencije koji govori engleski i tamilski za red-teaming konverzacijskih modela i agenata. Ugovorna uloga usmjerena je na otkrivanje ranjivosti, izradu podataka za evaluaciju i pripremu ponovljivih sigurnosnih izvješća.

USSjedinjene Američke Države
16 $ – 22 $ / sat
UdaljenoUgovorSrednja razinaSeniorObavezan Jezik: engleskiObavezan Jezik: tamilskiUmjetna inteligencija
Kibernetička sigurnost

Opis

  • Provodi adversarijalno testiranje konverzacijskih modela i agenata umjetne inteligencije pomoću jailbreakova, prompt injectiona, scenarija zlouporabe, iskorištavanja pristranosti i manipulacije kroz više poruka.
  • Izrađivati podatke koje generiraju ljudi označavanjem neuspjeha, kategoriziranjem ranjivosti i identificiranjem sistemskih rizika.
  • Koristiti utvrđene taksonomije, referentne testove i priručnike za održavanje dosljednih evaluacija.
  • Isporučivati klijentima ponovljiva izvješća, skupove podataka i slučajeve napada.
  • Procjenjivati rezultate umjetne inteligencije koji uključuju osjetljive teme, uključujući pristranost, dezinformacije i štetno ponašanje.
  • Identificirati slabosti koje automatizirane metode evaluacije mogu previdjeti.
  • Proširivati obuhvat evaluacije kako bi se smanjili neočekivani problemi u produkciji.
  • Poboljšavati klijentske sustave umjetne inteligencije strukturiranim adversarijalnim testiranjem.

Zahtjevi

  • Materinji ili tečan engleski i tamilski jezik.
  • Dobro rasuđivanje pri procjeni jezika i sadržaja.
  • Sposobnost utvrđivanja jesu li odgovori umjetne inteligencije točni, potpuni i primjereni te objašnjavanja obrazloženja.
  • Izražena pažnja prema suptilnim pogreškama, nedosljednostima i izostancima.
  • Dosljedno pridržavanje smjernica i standarda kvalitete.
  • Sposobnost jasnog komuniciranja obrazloženja tehničkoj i netehničkoj publici.
  • Prilagodljivost različitim projektima, formatima zadataka i klijentima.
  • Sposobnost rada kao neovisni ugovorni suradnik.
  • Kandidati s vizama H1-B i STEM OPT nisu podržani.
  • Prednost je iskustvo u adversarijalnom strojnom učenju s pomoću skupova podataka za jailbreakove, napada prompt injectionom, RLHF ili DPO napada te ekstrakcije modela.
  • Prednost je iskustvo u kibernetičkoj sigurnosti u penetracijskom testiranju, razvoju exploita ili reverznom inženjerstvu.
  • Prednost je iskustvo sa sociotehničkim rizikom koje uključuje ispitivanje uznemiravanja ili dezinformacija, analizu zlouporabe ili testiranje konverzacijske umjetne inteligencije.
  • Prednost je iskustvo kreativnog ispitivanja u psihologiji, glumi ili pisanju.

Pogodnosti

  • Potpuno udaljeni rad.
  • Fleksibilno radno vrijeme uz mogućnost samostalnog određivanja sati.
  • Tjedne isplate putem Stripea ili Wisea.
  • Neobavezno sudjelovanje na projektima s višom razinom osjetljivosti.
  • Jasne smjernice i resursi za dobrobit pri radu s osjetljivim sadržajem.
  • Konkurentna satnica.
  • Prilika za suradnju s vodećim istraživačima.
  • Naknade za preporuke do 90 USD za svaku uspješnu preporuku, podložno primjenjivim ograničenjima.
  • Na zahtjev su dostupne razumne prilagodbe.