FAR.AI
FAR.AI
FAR.AI on teadusele ja haridusele keskenduv mittetulundusühing, mis töötab selle nimel, et muuta täiustatud tehisintellekt kõigi jaoks turvaliseks ja kasulikuks. Selle meeskond uurib usaldusväärse tehisintellekti põhiküsimusi, sealhulgas töökindlust, petlikkust, tõlgendatavust ja tipptasemel süsteemide hindamist. Tehnilise teadustöö, koolituste, ürituste, töötubade, toetuste ja selliste programmide nagu FAR.Labs kaudu toetab FAR.AI teadlasi ning tugevdab valdkonna suutlikkust arendada turvalist ja eesmärkidega kooskõlas olevat tehisintellekti. Organisatsioon jagab ka uurimistulemusi, toob kokku akadeemiliste ringkondade ja tööstuse juhte ning teeb tehisintellekti ohutuse ja poliitika teemal koostööd ülikoolide ja avaliku sektori asutustega.

Tehnoloogiajuht, tehisintellekti red team

Juhi FAR.AI tehnoloogiaüksust ülemaailmses tipptasemel tehisintellekti red team’i programmis. Loo meeskondi, agendipõhiseid tööriistu ja hindamissüsteeme, mis edendavad tehisintellekti ohutust ja turvalisust.

Kirjeldus

  • Kasvata FAR.AI Red Teami tehnoloogiaorganisatsiooni ning selle süsteeme, tooteid, teenuseid, hindamisi ja agente
  • Loo agendipõhiseid red team’i süsteeme, mis uurivad ründepindu süstemaatiliselt
  • Avasta äsja avalikustatud avalikud jailbreak-meetodid ja lisa need automaatselt red team’i platvormidele
  • Paranda ründajate simuleerimise ja kahjulike väljundite hindamise meetodeid
  • Arenda haavatavuste andmebaase, statistilise analüüsi võimekust ja aruandluse taristut
  • Tarnige süsteeme suure panusega red team’i projektidele tipptasemel tehisintellekti ettevõtete ja valitsustega
  • Aita koostada avalikke aruandeid, võrdlusuuringuid ja edetabeleid
  • Osale nii suletud kui ka avatud kaaludega tipptasemel mudelite red team’i testimises
  • Arenda agendipõhiseid töövooge, mis suurendavad red team’i tõhusust
  • Juhi, juhenda ja toeta tehnoloogia- ning red team’i panustajaid
  • Planeeri sprinditööd ja suuna tehnilist teostust
  • Loo kiiresti arenevate projektide jaoks skaleeritavad protsessid
  • Kujunda värbamisprotsesse ning värba tehnoloogiajuhtide ja teisi meeskonnaliikmeid
  • Leia tehnoloogilised piirangud ja rakenda tõhusaid lahendusi
  • Tööta tehnilise juhtkonnaga tehnoloogiasüsteemide, meetodite, hindamiste ja uuringute alal
  • Aita kujundada red team’i tehnilist ja tootestrateegiat
  • Muuda tehnilised kontseptsioonid ja leiud praktiliseks tegelikuks mõjuks

Nõuded

  • Märkimisväärne kogemus tarkvaratehnika, tehisintellekti või arvutitehnika alal, sealhulgas näiteks küberturvalisuse või MLOpsi valdkonnas
  • Tugev kogemus tehniliste meeskondade ülesehitamisel, arendamisel ja juhtimisel, sealhulgas idufirmade loomisel algusest peale ning juhtide meeskondade juhtimisel
  • Praktiline kogemus kodeerimisagentide, Pythoni, LLM-liideste, kohalike LLM-raamistike, hindamisraamistike, LLM-agentide, pilvetaristu ja arvutusklastritega
  • Võimekus tegutseda tõhusalt kiiresti muutuvates keskkondades
  • Selge pühendumus tipptasemel tehisintellektisüsteemide missiooni ja mõju edendamisele
  • Tugev suhtlusoskus tehniliste lahenduste selgitamiseks nii tehnilistele kui ka mittetehnilistele sihtrühmadele
  • Järjekindel tegutsemine ambitsioonikate eesmärkide saavutamiseks
  • Tipptasemel LLM-ide või agendipõhiste süsteemide loomise või red team’i testimise kogemus tuleb kasuks
  • Tehniliste meeskondade ja toodete loomise kogemus ettevõtlikus keskkonnas tuleb kasuks
  • Võime avastada keerukates süsteemides varjatud ja väga tõsiseid haavatavusi tuleb kasuks
  • Adversariaalse masinõppe või turvalisuse taust tuleb kasuks
  • Varasem töö tehisintellektilaborites, turvameeskondades või valitsuse ohutuse instituutides tuleb kasuks
  • Avaldatud teadustöö või muu töö tehisintellekti ohutuse, turvalisuse või töökindluse alal tuleb kasuks
  • Valmisolek töötada mõningase paindlikkusega ajavööndite suhtes
  • Võimalus töötada täiskohaga 40 tundi nädalas

Hüved

  • Tööga seotud reisikulud kaetakse
  • Töövahendite kulud kaetakse
  • Berkeley kontoris pakutakse lõuna- ja õhtusööki
  • USA-sse või Singapuri on võimalik saada viisasponsorlust
  • Tasustatud tööproov

Seotud töökohad