Normal Computing
Normal Computing
51 – 200 Työntekijät
Saatavilla olevien yritystietojen mukaan Normal Computing on vuonna 2022 perustettu yritys, mutta niissä ei kerrota sen tuotteista, palveluista, toimialasta tai rekrytointitilanteesta. Työnhakijoille hyödyllisen yleiskuvan laatimiseen tarvitaan lisää yrityskohtaista tietoa.

Ajoyärjestelmäinsinööri, tekoälylaitteisto

Suunnittele ajo-ohjelmistoa Normal Computingin muistikeskeiselle tekoälylaitteistolle ja vastaa arkkitehtuurista, laitteiston abstraktoinnista sekä LLM-päättelyn suorituskyvystä.

Kuvaus

  • Johda ajo-ohjelmiston arkkitehtuuria laitteiden hallinnassa, muistin varauksessa, isännän ja laitteen välisissä tiedonsiirroissa, suoritettavien tiedostojen latauksessa ja komentojen lähetyksessä.
  • Kehitä ajo-ohjelmistoa simulaattoreille ja FPGA-prototyypeille yhdenmukaisen rajapinnan kautta ennen piirin valmistumista.
  • Abstrahoi laitteistoerot simulaattorien, FPGA-prototyyppien, piin ja tulevien sukupolvien välillä.
  • Hallinnoi laitteistoon tallennettua laitetilaa, mukaan lukien mallipainoja, jotka pidetään laitteessa pyyntöjen välillä.
  • Vähennä ajo-ohjelmiston kuormitusta LLM-päättelyn kriittisellä suorituspolulla viiveen pienentämiseksi ja läpimenon parantamiseksi.
  • Määrittele rajapinnat kääntäjän, ajurin ja laiteohjelmiston osien kanssa.
  • Ohjaa ajo-ohjelmiston teknistä suuntaa ja arvioi siihen perustuvia suunnitelmia.
  • Tee yhteistyötä kääntäjä- ja tarjoilujärjestelmäinsinöörien kanssa toimivien rajapintojen suunnittelemiseksi.

Vaatimukset

  • Kokemusta ajo-ohjelmistojen, ajurien tai laitteiston abstraktiokerrosten kehittämisestä kiihdyttimille tai muille erikoislaitteille.
  • Vahva C++- tai Rust-järjestelmäohjelmointitaito, mukaan lukien muistinhallinta, rinnakkaisuus ja matalan tason suorituskyky.
  • Näyttöä monimutkaisen järjestelmäkomponentin vastuunkannosta suunnittelusta tuotantokäyttöön.
  • Kokemusta teknisten päätösten johtamisesta tiimien välillä.
  • Ymmärrys LLM-päättelykuormista ja ajo-ohjelmistojen tarpeista.
  • Valmius kehittää ohjelmistoa muuttuville laitteistoalustoille simulaatiosta käyttöönottoon asti.
  • Edoksi luetaan avoimien ajo-ohjelmistojen, kuten IREEN HALin, tai CUDA- tai ROCm-ajoympäristöjen sisäisen toiminnan tuntemus.
  • Edoksi luetaan kokemus muistinsisäisestä laskennasta tai muista von Neumannin arkkitehtuurista poikkeavista laitteistoista.
  • Edoksi luetaan kokemus ajo-ohjelmiston integroinnista päättelypalvelimeen, kuten vLLM:ään.
  • Edoksi luetaan osallistuminen avoimen lähdekoodin ajo-ohjelmistojen tai järjestelmäinfrastruktuurin kehittämiseen.

Edut

  • Omistusosuuksia.
  • Suoritukseen perustuvia kannustimia.
  • Kattava palkitsemispaketti.
  • Työsuhde-etuja työntekijöiden hyvinvoinnin ja ammatillisen kasvun tueksi.
  • Kilpailukykyinen ja oikeudenmukainen palkitseminen.
  • Kohtuulliset mukautukset vammaisille työntekijöille.

Samankaltaiset työpaikat

Zenity

Senior Forward Deployed Engineer, tekoälyn tietoturva

Zenity

Ota Zenityn tietoturvallinen tekoälyalusta käyttöön strategisen asiakkaan ympäristössä, integroi sen järjestelmät ja varmista tietoturvahavaintojen toimivuus. Johda tutkinnat ratkaisuun asti ja auta asiakasta vahvistamaan tekoälyagenttien tietoturvaa.

Avaa
SuperAnnotate

Talent-insinööri, tekoälypohjainen rekrytoinnin automaatio

SuperAnnotate
51 – 200 Työntekijät
H1B-viisumin sponsoriSaaSTekoäly

Rakenna tekoälypohjaista hakijoiden etsintää, seulontaa ja rekrytoinnin automaatiota SuperAnnotaten asiantuntijatyövoiman hankintaan. Vastaat skaalautuvista työnkuluista, integraatioista, analytiikasta ja yhteydenottojärjestelmistä.

Avaa