Τελευταίες θέσεις εργασίας στη MatX

Η MatX είναι εταιρεία hardware και τεχνητής νοημοσύνης που αναπτύσσει τσιπ επιτάχυνσης υψηλής απόδοσης για μεγάλα γλωσσικά μοντέλα και εργαστήρια τεχνητής νοημοσύνης αιχμής. Η πλατφόρμα MatX One έχει σχεδιαστεί για πυκνά workloads μετασχηματιστών και για workloads μετασχηματιστών τύπου mixture-of-experts, συνδυάζοντας ενσωματωμένη SRAM στο τσιπ για τα βάρη των μοντέλων με HBM για την αποθήκευση ζευγών κλειδιού-τιμής σε περιβάλλοντα μεγάλου περιβάλλοντος. Η αρχιτεκτονική στοχεύει σε workloads εκπαίδευσης, prefill, αποκωδικοποίησης και ενισχυτικής μάθησης με χαμηλή καθυστέρηση, ενώ διαθέτει διασυνδέσεις scale-up και scale-out για συστάδες πολλών τσιπ. Η MatX παρέχει επίσης ένα μοντέλο προγραμματισμού που έχει σχεδιαστεί ώστε να προσφέρει στους προγραμματιστές άμεσο έλεγχο του επιταχυντή, εστιάζοντας την τεχνολογία της σε συστήματα τεχνητής νοημοσύνης που βασίζονται σε μεγάλα μοντέλα και όχι σε μικρότερα μοντέλα, συνελικτικά δίκτυα ή workloads συστημάτων συστάσεων.