Baseten
Baseten
Baseten hutoa miundombinu ya uendeshaji wa modeli kwa kampuni zinazotumia programu za ujifunzaji wa mashine na akili bandia. Jukwaa lake limeundwa kwa ajili ya utoaji wa modeli wenye kasi na unaoweza kupanuliwa, likichanganya uendeshaji wa modeli wenye uwezo mkubwa wa kuchakata, uzinduzi wa haraka, upanuzi wa kiotomatiki, utoaji salama wa modeli za biashara, pamoja na usaidizi wa ufungashaji wa modeli huria. Baseten husaidia timu za uhandisi na ujifunzaji wa mashine kudhibiti mahitaji ya kiutendaji ya miundombinu ya modeli ili ziweze kuzingatia kutengeneza modeli zinazolenga maeneo mahususi. Kampuni hii inafanya kazi katika nyanja za akili bandia, SaaS, na teknolojia ya biashara, ikiwa na timu ya wafanyakazi 11–50.

Mhandisi wa Programu wa Utendaji wa Inferensi katika Baseten (Mseto)

Baseten inaajiri mhandisi wa utendaji wa inferensi ili kuboresha runtime za LLM, kernel za GPU na mifumo ya kuhudumia modeli. Jukumu hili linalenga kuongeza kasi ya inferensi ya uzalishaji, matumizi ya vifaa na ufanisi wa gharama.

Maelezo

  • Kuweka katika uzalishaji mbinu za hali ya juu za inferensi kama vile quantization, speculative decoding, utumiaji upya wa KV-cache, chunked prefill, LoRA, guided generation na upangaji au uelekezaji maalum.
  • Kuchanganua pipeline nzima ya inferensi kwa kuboresha gharama ya kernel, uwekaji wa kumbukumbu, upangaji wa maombi, utenganishaji wa prefill/decode na uelekezaji unaozingatia cache.
  • Kuongeza tokeni kwa kila saa ya GPU na matumizi ya vifaa huku ukisawazisha latency, throughput na gharama.
  • Kuweka na kuboresha miundo mipya ya modeli kwenye majukwaa mapya ya vifaa.
  • Kuunda vipimo vya utendaji vinavyohusisha aina mbalimbali za modeli, ukubwa wa batch, urefu wa sequence na usanidi wa vifaa.
  • Kuwasilisha maboresho kwenye miradi ya inferensi ya chanzo huria ikiwemo vLLM, SGLang na TensorRT-LLM.
  • Kufanya kazi na timu za modeli, miundombinu na zinazowahudumia wateja ili kuleta maboresho ya utendaji yanayoweza kupimika.

Mahitaji

  • Shahada ya kwanza, uzamili au udaktari katika sayansi ya kompyuta, uhandisi, hisabati au taaluma inayohusiana.
  • Uzoefu wa kitaaluma wa kutumia angalau lugha moja ya programu ya matumizi ya jumla, ikiwemo Python au C++.
  • Ujuzi wa kufanya kazi na mbinu za kuboresha LLM kama vile quantization, speculative decoding na continuous batching.
  • Uwezo mkubwa wa kutumia maktaba za machine learning, hasa PyTorch, TensorRT au TensorRT-LLM.
  • Nia iliyothibitishwa na uzoefu wa vitendo katika modeli kubwa za lugha.
  • Uelewa kamili wa usanifu wa GPU.

Manufaa

  • Kifurushi cha malipo shindani chenye ushiriki wa maana katika hisa.
  • Kwa wafanyakazi wa Marekani, bima kamili ya matibabu, meno na macho inawahusu wafanyakazi pamoja na wategemezi wao.
  • Likizo ya kulipwa inayoweza kunyumbulika, pamoja na mapumziko ya majira ya baridi kwa kampuni nzima.
  • Likizo ya uzazi yenye malipo.
  • Msaada wa uzazi na ujenzi wa familia kupitia stipend ya Carrot.
  • Kwa wafanyakazi wa Marekani, mpango wa 401(k) unaowezeshwa na kampuni.
  • Fursa za kufanya kazi na kampuni mbalimbali changa za machine learning, zikitoa nafasi kubwa za kujifunza na kujenga mtandao wa kitaaluma.

Kazi Zinazohusiana

Havas

Mwanafunzi wa Mafunzo ya Msaidizi wa Akaunti ya PR

Havas

Kusaidia kazi za mawasiliano ya watumiaji za Havas PR Milan katika ofisi ya waandishi wa habari, mahusiano na vyombo vya habari, PR ya kidijitali na kampeni jumuishi. Kusaidia kuratibu ripoti za washawishi, mawasiliano na vyombo vya habari, na kazi za kila siku za akaunti.

Fungua
TD

Mchambuzi wa Hatari ya Uhalifu wa Kifedha, Vikwazo

TD

Husaidia katika uchujaji wa vikwazo, uchunguzi na uzingatiaji wa kanuni za TD Bank. Huchanganua hatari, huimarisha vidhibiti na kutoa ushauri kwa washirika wa usimamizi wa hatari za biashara na uhalifu wa kifedha.

Fungua