Mercor
Mercor
51 – 200 Töötajad
Mercori kättesaadav profiil ei sisalda piisavalt kontrollitud teavet ettevõtte toodete, teenuste, klientide, tegevusvaldkonna või värbamisfookuse kohta, et koostada täpne ettevõtte ülevaade. Ettevõtte või selle pakutavate võimaluste kirjeldamiseks on vaja täiendavat lähtematerjali.

Tehisintellekti ohutuse red team’i testija

Testi Mercori partnerlaborite arenenud tehisintellektisüsteeme, otsides kõrge riskiga valdkondades haavatavusi. Jaga leide ohutuse võrdlusanalüüside jaoks ja aita teadlastel parandada mudelite töökindlust ja kooskõla eesmärkidega.

Kirjeldus

  • Koosta arenenud tehisintellektimudelite testimiseks vastandlikke viipasid.
  • Leia jailbreak-ründeid, ohtlikku käitumist, hallutsinatsioone ja eeskirjade rikkumisi.
  • Hinda mudelite töökindlust tundlikes valdkondades, nagu väärinfo, küberturvalisus, bioturvalisus, pettused ja poliitiline sisu.
  • Dokumenteeri haavatavused ning panusta ohutuse võrdlusanalüüsidesse ja red team’i aruannetesse.
  • Tee koostööd tehisintellekti teadlastega, et tugevdada mudelite kooskõla eesmärkidega, töökindlust ja ohutust.
  • Toeta tehisintellektisüsteemide treenimise ja täiustamise projekte.
  • Saad ise oma töögraafiku valida; projekti kestus võib muutuda või lõppeda varem ärivajaduste ja töösoorituse põhjal.

Nõuded

  • Arvutiteaduse, küberturvalisuse, ajakirjanduse, kommunikatsiooni, psühholoogia, bioloogia, keemia, avaliku poliitika või sellega seotud valdkonna bakalaureusekraad või kõrgem kraad.
  • Vähemalt viis aastat töökogemust tehisintellekti ohutuse, tehisintellekti red team’i testimise, usalduse ja ohutuse, küberturvalisuse, uuriva ajakirjanduse, bioteaduste või seotud valdkonnas.
  • Tugev analüütiline mõtlemine ning head viipade koostamise ja kirjutamise oskused.
  • Kogemus vastandlike viipade loomisel või arenenud tehisintellektisüsteemide hindamisel.
  • Eelistatud on kogemus tehisintellekti red team’i testimise, RLHF-i, SFT, tehisintellekti eesmärkidega kooskõla või usalduse ja ohutuse valdkonnas.
  • Eelistatud on jailbreak-testimise, viibatehnika või vastandlike hindamismeetodite tundmine.
  • Eelistatud on asjatundlikkus ühes või mitmes tundlikus valdkonnas, sealhulgas küberturvalisuses, bioturvalisuses, poliitilises sisus, väärinfos või teadusohutuses.
  • Töö toimub sõltumatu töövõtjana.
  • Töö tegemiseks ei tohi olla vaja H-1B- ega STEM OPT-tuge.

Hüved

  • Täielikult kaugtöö paindliku graafikuga.
  • Tasu tehtud töö eest makstakse kord nädalas Stripe’i või Wise’i kaudu.
  • Võimalus töötada koos juhtivate tehisintellekti teadlaste ja ohutustiimidega.
  • Aita kujundada, kuidas tehisintellektisüsteemid reageerivad keerukatele päriselulistele ohutusprobleemidele.
  • Konkurentsivõimeline tasu.
  • Taotluse korral on saadaval mõistlikud kohandused.
  • Edukate soovituste eest makstakse kuni 340 dollarit soovituse kohta, kehtivad piirangud.

Seotud töökohad

Seeders

IT-tugispetsialist

Seeders
51 – 200 Töötajad
B2BTurundus

Pakud Seedersi rahvusvahelise digiturundusplatvormi esma- ja teise taseme IT-tuge ning aitad eri asukohtades ja kaugtööl olevaid kolleege. Haldad töökeskkonna tehnoloogiat, võrke ja SaaS-tööriistu ning panustad pilve- ja DevOpsi tegevustesse.

Ava