Legújabb állások itt: MatX

A MatX hardver- és mesterségesintelligencia-vállalat, amely nagy áteresztőképességű gyorsítóchipeket fejleszt nagy nyelvi modellekhez és élvonalbeli MI-laborok számára. MatX One platformját sűrű és mixture-of-experts transzformer-munkaterhelésekre tervezték: a modell súlyainak tárolására szolgáló chipen belüli SRAM-ot a hosszú kontextusú kulcs-érték tárolására használt HBM-mel egyesíti. Az architektúra alacsony késleltetésű tanítási, előtöltési, dekódolási és megerősítéses tanulási munkaterheléseket céloz, többchipes klaszterekhez pedig skálázási és bővítési összeköttetéseket biztosít. A MatX emellett olyan programozási modellt kínál, amely közvetlen vezérlést kíván adni a fejlesztőknek a gyorsító felett. Technológiáját nagy modellalapú MI-rendszerekre összpontosítja, nem pedig kisebb modellekre, konvolúciós hálózatokra vagy ajánlórendszerekre.