MatXは、大規模言語モデルや最先端AI研究機関向けに、高スループットのアクセラレータチップを開発するハードウェア・人工知能企業です。MatX Oneプラットフォームは、密結合型およびMixture-of-Experts型のTransformerワークロードを中心に設計されており、モデルの重みをオンチップSRAMに、長いコンテキストのキー・バリュー情報をHBMに格納します。このアーキテクチャは、低レイテンシの学習、プリフィル、デコード、強化学習ワークロードを対象とし、複数チップによるクラスタリングに対応するスケールアップおよびスケールアウトのインターコネクトを備えています。MatXは、開発者がアクセラレータを直接制御できるようにするプログラミングモデルも提供しており、小規模モデル、畳み込みネットワーク、レコメンデーションワークロードではなく、大規模モデル向けAIシステムに技術の重点を置いています。