FAR.AI
FAR.AI
FAR.AI je neprofitna raziskovalna in izobraževalna organizacija, ki si prizadeva, da bi bila napredna umetna inteligenca varna in koristna za vse. Njena ekipa preučuje ključne izzive zaupanja vredne umetne inteligence, vključno z robustnostjo, zavajanjem, razložljivostjo in vrednotenjem najsodobnejših sistemov. FAR.AI s tehničnimi raziskavami, usposabljanji, dogodki, delavnicami, dodeljevanjem nepovratnih sredstev in programi, kot je FAR.Labs, podpira raziskovalce ter krepi zmogljivosti področja za razvoj varne in usklajene umetne inteligence. Organizacija deli tudi rezultate raziskav, povezuje vodilne predstavnike akademske sfere in industrije ter sodeluje z univerzami in javnimi agencijami pri vprašanjih varnosti in politike umetne inteligence.

Vodja inženirstva, AI rdeča ekipa

Vodite inženirsko funkcijo podjetja FAR.AI za globalni program preverjanja odpornosti vrhunskih sistemov umetne inteligence. Gradite ekipe, agentska orodja in ocenjevalne sisteme, ki izboljšujejo varnost in zaščito umetne inteligence.

Opis

  • Razširite inženirsko organizacijo Red Team podjetja FAR.AI ter njene sisteme, izdelke, storitve, ocenjevanja in agente
  • Ustvarjajte agentske sisteme za preverjanje odpornosti, ki sistematično raziskujejo napadalne površine
  • Odkrivajte na novo javno razkrite vdore jailbreak in jih samodejno vključujte v platforme za preverjanje odpornosti
  • Izboljšujte metode simulacije napadalcev in ocenjevanja škodljivih izhodov
  • Razvijajte podatkovne zbirke ranljivosti, zmogljivosti za statistično analizo in infrastrukturo za poročanje
  • Dobavljajte sisteme za odmevne angažmaje preverjanja odpornosti z vodilnimi podjetji na področju umetne inteligence in vladami
  • Pomagajte pripravljati javna poročila, primerjalne teste in lestvice
  • Sodelujte pri preverjanju odpornosti zaprtih in odprtih vrhunskih modelov
  • Razvijajte agentske delovne tokove, ki povečujejo učinkovitost rdeče ekipe
  • Vodite, mentorirajte in podpirajte člane inženirskih ekip ter rdeče ekipe
  • Načrtujte delo v sprintih in usmerjajte izvajanje inženirskih nalog
  • Vzpostavljajte razširljive procese za hitro spreminjajoče se angažmaje
  • Oblikujte postopke zaposlovanja ter zaposlujte inženirske vodje in druge člane ekipe
  • Odkrivajte inženirske omejitve in uvajajte učinkovite rešitve
  • Sodelujte s tehničnim vodstvom pri inženirskih sistemih, metodah, ocenjevanjih in raziskavah
  • Pomagajte oblikovati tehnično in produktno strategijo rdeče ekipe
  • Tehnične koncepte in ugotovitve pretvarjajte v praktičen vpliv v resničnem svetu

Zahteve

  • Obsežne izkušnje s programskim inženirstvom, umetno inteligenco ali računalniškim inženirstvom, vključno s področji, kot sta kibernetska varnost ali MLOps
  • Dokazani rezultati pri grajenju, razvoju in vodenju tehničnih ekip, vključno z zagonskimi podjetji od ustanovitve ter ekipami vodij
  • Praktične izkušnje s programerskimi agenti, Pythonom, API-ji LLM, lokalnimi ogrodji LLM, ogrodji za ocenjevanje, agenti LLM, oblačno infrastrukturo in računalniškimi grozdi
  • Sposobnost učinkovitega dela v hitro spreminjajočih se okoljih
  • Jasna zavezanost napredku poslanstva in vpliva vrhunskih sistemov umetne inteligence
  • Močne komunikacijske sposobnosti za razlago tehničnih rešitev tehničnemu in netehničnemu občinstvu
  • Vztrajna izvedba pri doseganju ambicioznih ciljev
  • Izkušnje z grajenjem ali preverjanjem odpornosti vrhunskih LLM ali agentskih sistemov so prednost
  • Izkušnje z ustvarjanjem tehničnih ekip in izdelkov v podjetniških okoljih so prednost
  • Sposobnost odkrivanja subtilnih ranljivosti visoke stopnje resnosti v kompleksnih sistemih je prednost
  • Izkušnje na področju tekmovalnega strojnega učenja ali varnosti so prednost
  • Predhodno delo v laboratorijih za umetno inteligenco, varnostnih ekipah ali vladnih inštitutih za varnost je prednost
  • Objavljene raziskave ali drugo delo na področju varnosti, zaščite ali robustnosti umetne inteligence so prednost
  • Pripravljenost na delo z določeno časovno prilagodljivostjo
  • Razpoložljivost za polni delovni čas, 40 ur na teden

Ugodnosti

  • Stroški službenih poti so kriti
  • Stroški opreme so kriti
  • V pisarni v Berkeleyju sta zagotovljena kosilo in večerja
  • Na voljo je sponzorstvo vizuma za ZDA ali Singapur
  • Plačan delovni preizkus

Sorodna delovna mesta

Best Buddies International

Deputy Director of Family Support Programs

Best Buddies International

Lead Best Buddies International’s family support programs for people with intellectual and developmental disabilities across an assigned state. Recruit and coordinate mentors and volunteers, and build community partnerships.

Odpri
Best Buddies International

Deputy Director of Family Support Programs

Best Buddies International

Lead Best Buddies International’s family support programs for people with intellectual and developmental disabilities. The role oversees volunteers, parent mentoring, community partnerships, fundraising, and program outcomes.

Odpri
AACN (American Association of Critical-Care Nurses)

Senior Corporate Relations Manager, Exhibits and Sponsorships

AACN (American Association of Critical-Care Nurses)

Lead AACN’s exhibits and sponsorship strategy for its National Teaching Institute & Critical Care Exposition. Oversee revenue growth, corporate partnerships, budgets, and exhibitor experience in a remote role.

Odpri