Baseten
Baseten
A Baseten modellkövetkeztetési infrastruktúrát biztosít a gépi tanulási és mesterségesintelligencia-alkalmazásokat üzemeltető vállalatok számára. Platformját gyors és jól skálázható kiszolgálásra tervezték: nagy áteresztőképességű következtetést, gyors bevezetést, automatikus skálázást, biztonságos vállalati modellkiszolgálást, valamint a nyílt forráskódú modellek csomagolásának támogatását kínálja. A Baseten segít a mérnöki és gépi tanulási csapatoknak kezelni a modellinfrastruktúra üzemeltetésével járó feladatokat, így azok a szakterület-specifikus modellek fejlesztésére összpontosíthatnak. A vállalat a mesterséges intelligencia, a SaaS és a vállalati technológiák területén működik, és 11–50 fős csapattal rendelkezik.

Inferenciateljesítmény-szoftvermérnök a Basetennél (hibrid)

A Baseten inferenciateljesítmény-mérnököt keres az LLM-futtatókörnyezetek, GPU-kernelfunkciók és modellkiszolgáló rendszerek optimalizálására. A munkakör a gyártási inferencia sebességének, a hardverkihasználtságnak és a költséghatékonyságnak a javítására összpontosít.

Leírás

  • Fejlett inferenciamódszerek, például a kvantálás, a spekulatív dekódolás, a KV-gyorsítótár újrafelhasználása, a szakaszos előbetöltés, a LoRA, az irányított generálás, valamint az egyedi ütemezés vagy útválasztás éles környezetbe állítása.
  • A teljes inferenciacsővezeték elemzése a kernel többletterhelésének, a memórialeképezésnek, a kérések ütemezésének, az előbetöltés és dekódolás szétválasztásának, valamint a gyorsítótár-tudatos útválasztásnak az optimalizálásával.
  • A GPU-óránként előállított tokenek számának és a kihasználtságnak a növelése a késleltetés, az áteresztőképesség és a költség egyensúlyban tartása mellett.
  • Új hardverplatformokon megjelenő modellarchitektúrák üzembe helyezése és optimalizálása.
  • A modelltípusokat, kötegméreteket, szekvenciahosszokat és hardverbeállításokat átfogó benchmarkok készítése.
  • Fejlesztések beküldése nyílt forráskódú inferenciaprojektekhez, többek között a vLLM, az SGLang és a TensorRT-LLM projektekhez.
  • Együttműködés a modell-, infrastruktúra- és ügyfélkapcsolati csapatokkal mérhető teljesítménynövekedés elérése érdekében.

Követelmények

  • Számítástechnikai, mérnöki, matematikai vagy kapcsolódó területen szerzett alap-, mester- vagy doktori fokozat.
  • Szakmai tapasztalat legalább egy általános célú programozási nyelvben, például Pythonban vagy C++-ban.
  • Az LLM-optimalizálási módszerek, például a kvantálás, a spekulatív dekódolás és a folyamatos kötegelés gyakorlati ismerete.
  • A gépi tanulási könyvtárak, különösen a PyTorch, a TensorRT vagy a TensorRT-LLM magabiztos ismerete.
  • Bizonyítható érdeklődés a nagy nyelvi modellek iránt és gyakorlati tapasztalat ezen a területen.
  • A GPU-architektúra alapos ismerete.

Juttatások

  • Versenyképes juttatási csomag érdemi részvényrészesedéssel.
  • Az Egyesült Államokban dolgozók és eltartottjaik számára teljes körű egészség-, fogászati- és látásbiztosítás.
  • Rugalmas fizetett szabadság, valamint vállalati téli szünet.
  • Fizetett szülői szabadság.
  • Termékenységi és családalapítási támogatás Carrot-juttatáson keresztül.
  • Az Egyesült Államokban dolgozók számára a vállalat által biztosított 401(k)-terv.
  • Lehetőség különböző gépi tanulással foglalkozó startupokkal dolgozni, jelentős tanulási és szakmai kapcsolatépítési lehetőségekkel.

Kapcsolódó állások

Office Hours

Szenior frontend mérnök

Office Hours

Igényes React-felületeket építhetsz az Office Hours szakértői hálózati platformjához. Formálhatod a frontend minőségét, a komponensrendszereket és az AI-támogatott fejlesztést.

Megnyitás
SBT Global Co., Ltd.

Junior koreaiul beszélő front-end fejlesztő

SBT Global Co., Ltd.

Reszponzív felületek fejlesztése React, jQuery, CSS és HTML használatával. Együttműködés a tervező- és backendcsapatokkal tartalomkezelő rendszerekhez kapcsolódó, skálázható alkalmazásokon.

Megnyitás
Teamcubate

Senior Vue.js frontend fejlesztő

Teamcubate
51 – 200 Alkalmazottak
MarketingTanácsadásToborzás

Üzletileg kritikus B2B szoftvereket fejleszthet egy hollandiai szoftverpartner számára, és felelősséget vállalhat a frontend architektúráért, a teljesítményért, a tesztelésért és a design rendszer fejlesztéséért. Távoli munkavégzés Európán belül.

Megnyitás
B&A Consulting Srl

Senior React és React Native fejlesztő

B&A Consulting Srl

Senior frontend fejlesztő, aki React és React Native használatával webes és mobilalkalmazásokat készít a B&A Consultingnál, egy olasz IT-tanácsadó és digitális fejlesztő ügynökségnél. A feladatkör összetett kódbázisok és CI/CD-folyamatok karbantartását is magában foglalja.

Megnyitás
Plus Power

Vezető szállítói számlák specialistája, akkumulátoros energiatárolás

Plus Power

Kezelje a Plus Power energiatárolási projektjeinek számlafeldolgozását, szállítói kifizetéseit és pénzügyi ellenőrzéseit. Támogassa a jelentéskészítést, az auditokat, a költségvetés-tervezést és az előrejelzéseket.

Megnyitás
Pennant

Követeléskezelési és számlázási felügyelő

Pennant

Vezeti a Medicaid- és irányított ellátási számlázást, a vevőköveteléseket és a bevételi ciklus folyamatait a Pennant időskorúak lakóközösségeiben. Több államban felügyeli a megfelelést, a beszedést, a térítéseket, az auditokat és a számlázási csapatokat.

Megnyitás
Working Families Party

Szállítói számlák ügyintézője – hibrid munkavégzés Brooklynban

Working Families Party
51 – 200 Alkalmazottak
KormányzatTársadalmi hatás

Ideiglenes szállítói számlaügyi támogatást nyújt az EpicWorks pénzügyi működéséhez, amely mozgással foglalkozó szervezeteket szolgál ki. Az átmeneti időszakban számlákat, egyeztetéseket, költségelszámolásokat, beszállítókat és AP-rendszereket kezel.

Megnyitás
Duke Energy Corporation

Vezető termékmenedzser, kintlévőségek és ügyfélpénzügyi szolgáltatások

Duke Energy Corporation

Irányítsa a Duke Energy SAP-alapú kintlévőségi és ügyfélpénzügyi szolgáltatási portfólióját, alakítsa a termékek ütemtervét és működését. Koordinálja a portfólió szabályozási feladatait és a szervezeti egységeken átívelő megvalósítást.

Megnyitás