Kazi za Hivi Karibuni katika MatX

MatX ni kampuni ya maunzi na akili bandia inayotengeneza chipu za kuongeza kasi zenye uwezo mkubwa wa kuchakata kwa ajili ya miundo mikubwa ya lugha na maabara zinazoongoza za AI. Jukwaa lake la MatX One limeundwa kwa ajili ya mzigo wa kazi wa transformer mnene na wa mixture-of-experts, likichanganya SRAM iliyo kwenye chipu kwa ajili ya uzani wa modeli na HBM kwa ajili ya kuhifadhi key-value za muktadha mrefu. Usanifu huu unalenga mzigo wa kazi wa mafunzo, prefill, decoding na ujifunzaji wa kuimarisha wenye ucheleweshaji mdogo, pamoja na viunganishi vya scale-up na scale-out kwa klasta zenye chipu nyingi. MatX pia hutoa muundo wa upangaji programu unaokusudiwa kuwapa watengenezaji udhibiti wa moja kwa moja wa accelerator, huku teknolojia yake ikilenga mifumo ya AI yenye modeli kubwa badala ya modeli ndogo, mitandao ya convolutional au mzigo wa kazi wa mapendekezo.