Việc làm mới nhất tại MatX

MatX là một công ty về phần cứng và trí tuệ nhân tạo, phát triển các chip tăng tốc hiệu năng cao dành cho các mô hình ngôn ngữ lớn và các phòng thí nghiệm AI tiên phong. Nền tảng MatX One được thiết kế cho các tác vụ transformer dày đặc và mixture-of-experts, kết hợp SRAM tích hợp trên chip để lưu trữ trọng số mô hình với HBM để lưu trữ key-value cho ngữ cảnh dài. Kiến trúc này hướng đến các tác vụ huấn luyện, prefill, giải mã và học tăng cường có độ trễ thấp, cùng các kết nối mở rộng theo chiều dọc và chiều ngang cho các cụm đa chip. MatX cũng cung cấp một mô hình lập trình nhằm trao cho nhà phát triển quyền kiểm soát trực tiếp đối với bộ tăng tốc, tập trung công nghệ vào các hệ thống AI mô hình lớn thay vì các mô hình nhỏ hơn, mạng tích chập hoặc các tác vụ đề xuất.