LogoFresh Jobs Ahead
Mercor
Mercor
51 – 200 Töötajad
Mercori kättesaadav profiil ei sisalda piisavalt kontrollitud teavet ettevõtte toodete, teenuste, klientide, tegevusvaldkonna või värbamisfookuse kohta, et koostada täpne ettevõtte ülevaade. Ettevõtte või selle pakutavate võimaluste kirjeldamiseks on vaja täiendavat lähtematerjali.
LinkedIn
Töökohad ettevõttes

Tehisintellekti ohutuse red team’i spetsialist

Mercor otsib tehisintellekti ohutuse red team’i spetsialisti, kes proovib tippmudeleid jailbreak-rünnete, hallutsinatsioonide ja eeskirjade rikkumiste suhtes. Ettevõte teeb tehisintellekti laboritega koostööd süsteemide treenimiseks ja täiustamiseks.

USAmeerika Ühendriigid
70 $ – 84 $ / tund
KaugtööLepingKesktaseSeeniorNõutav Keel: ingliseTehisintellekt
Küberturvalisus

Kirjeldus

  • Koosta vastandlikke viipasid tipptehisintellekti mudelite testimiseks.
  • Leia jailbreak-ründeid, ohtlikku käitumist, hallutsinatsioone ja eeskirjade rikkumisi.
  • Hinda mudelite vastupidavust väärinfo, küberturvalisuse, bioturvalisuse, pettuste, poliitilise sisu ja muude tundlike teemade puhul.
  • Dokumenteeri haavatavused ning aita koostada ohutuse võrdlusteste ja red team’i aruandeid.
  • Tee tehisintellekti teadlastega koostööd mudelite joondatuse, vastupidavuse ja ohutuse tugevdamiseks.
  • Tee projektivajaduste ja töötulemuste alusel projekte sõltumatu töövõtjana.

Nõuded

  • Bakalaureusekraad või kõrgem kraad arvutiteaduses, küberturvalisuses, ajakirjanduses, kommunikatsioonis, psühholoogias, bioloogias, keemias, avalikus poliitikas või lähedasel erialal.
  • Vähemalt viis aastat töökogemust tehisintellekti ohutuse, tehisintellekti red team’i töö, usalduse ja ohutuse, küberturvalisuse, uuriva ajakirjanduse, bioteaduste või lähedasel alal.
  • Tugev analüütiline mõtlemine ning head viipade koostamise ja kirjutamise oskused.
  • Kogemus vastandlike viipade koostamisel või tipptehisintellekti süsteemide hindamisel.
  • Eeliseks on tehisintellekti red team’i töö, RLHF-i, SFT, tehisintellekti joondatuse või usalduse ja ohutuse kogemus.
  • Eeliseks on jailbreak-testimise, viibetehnika või vastandliku hindamise meetodite tundmine.
  • Eeliseks on asjatundlikkus ühes või mitmes tundlikus valdkonnas, sealhulgas küberturvalisuses, bioturvalisuses, poliitilises sisus, väärinfos või teaduse ohutuses.
  • Peab saama töötada sõltumatu töövõtjana.
  • H-1B ja STEM OPT kandidaate ei toetata.

Hüved

  • Täielikult kaugtöö.
  • Saad ise oma töögraafiku määrata.
  • Teenuste eest makstakse kord nädalas Stripe’i või Wise’i kaudu.
  • Koostöö juhtivate tehisintellekti teadlaste ja ohutustiimidega.
  • Võimalus panustada tipptehisintellekti ohutusse ja joondatusse.
  • Soovituspreemia kuni 340 dollarit eduka soovituse eest, kehtivate piirangute alusel.
  • Mõistlikud kohandused on soovi korral saadaval.

Seotud töökohad