Pinakabagong Mga Trabaho sa MatX

Ang MatX ay isang kompanya ng hardware at artificial intelligence na bumubuo ng mga accelerator chip na may mataas na throughput para sa malalaking language model at mga nangungunang AI lab. Idinisenyo ang platform na MatX One para sa mga dense at mixture-of-experts transformer workload, na pinagsasama ang on-chip SRAM para sa mga weight ng modelo at HBM para sa pag-iimbak ng key-value na may mahabang konteksto. Nakatuon ang arkitektura sa mababang latency para sa training, prefill, decoding, at reinforcement learning, gamit ang mga scale-up at scale-out interconnect para sa mga multi-chip cluster. Nagbibigay rin ang MatX ng programming model na naglalayong bigyan ang mga developer ng direktang kontrol sa accelerator, at itinutuon ang teknolohiya nito sa malalaking modelong AI system sa halip na mas maliliit na modelo, convolutional network, o recommendation workload.