STN Incorporated
STN Incorporated
Η STN Incorporated παρέχει διαχειριζόμενες υπηρεσίες πληροφορικής και υποδομές cloud σε επιχειρήσεις και ομάδες που αναπτύσσουν λογισμικό κρίσιμο για τις επιχειρηματικές λειτουργίες, συστήματα τεχνητής νοημοσύνης και ρομποτική. Οι υπηρεσίες της περιλαμβάνουν ιδιωτικά CPU cloud, υποδομή τεχνητής νοημοσύνης GPU One, ασφαλή δικτύωση και αποθήκευση, καθώς και συνεχή λειτουργία cloud με ανθρώπινη υποστήριξη όλο το εικοσιτετράωρο και συμφωνίες επιπέδου υπηρεσιών για υψηλή διαθεσιμότητα. Η εταιρεία αναλαμβάνει επίσης λειτουργίες κυβερνοασφάλειας και απόκριση σε περιστατικά, διαχείριση συμμόρφωσης και κινδύνων, δημιουργία αντιγράφων ασφαλείας και ανάκτηση, καθώς και προμήθειες τεχνολογίας και διαχείριση του κύκλου ζωής της. Η STN εξυπηρετεί εταιρείες SaaS, δημιουργούς συστημάτων τεχνητής νοημοσύνης και προγραμματιστές μοντέλων, εταιρείες ρομποτικής και ρυθμιζόμενους οργανισμούς, συμπεριλαμβανομένων παρόχων υγειονομικής περίθαλψης, με υποδομές σχεδιασμένες για ετοιμότητα ελέγχου και πλαίσια όπως τα SOC 2 Type II και HIPAA.

Ανώτερος επικεφαλής βελτιστοποίησης φόρτου εργασιών συμπερασμού

Καθοδηγήστε τη ρύθμιση απόδοσης GPU για φόρτους εργασιών AI πελατών στην αυτόνομη πλατφόρμα κέντρων δεδομένων της STN. Μετατρέψτε την τεχνογνωσία βελτιστοποίησης σε διορθώσεις που εκτελούν πράκτορες και επιβλέψτε την εσωτερική εξυπηρέτηση μοντέλων.

Περιγραφή

  • Αναλύστε φόρτους εργασιών εκπαίδευσης και συμπερασμού πελατών για να εντοπίσετε σημεία συμφόρησης στην απόδοση κατά τη φόρτωση δεδομένων, τη συλλογική επικοινωνία, το εύρος ζώνης μνήμης, τους πυρήνες, την ομαδοποίηση και τον παραλληλισμό.
  • Καθορίστε βασικές επιδόσεις για κάθε γενιά υλικού, ξεκινώντας από τα συστήματα NVIDIA τρέχουσας γενιάς.
  • Μετατρέψτε την τεχνογνωσία βελτιστοποίησης σε διορθώσεις που μπορούν να εφαρμόζουν πράκτορες στα συμπλέγματα πελατών.
  • Ρυθμίστε φόρτους εργασιών με πελάτες δεσμευμένης χωρητικότητας, απευθείας ή μέσω των ομάδων λειτουργίας τους.
  • Ως δευτερεύουσα αρμοδιότητα, διαχειριστείτε την εσωτερική εξυπηρέτηση μοντέλων, συμπεριλαμβανομένης της δρομολόγησης με γνώμονα το κόστος και την καθυστέρηση, καθώς και των μεταβάσεων εκδόσεων μοντέλων.
  • Συμβουλεύστε για την κατανομή GPU μεταξύ εσωτερικού συμπερασμού και φόρτων εργασιών πελατών.

Απαιτήσεις

  • Διαθέτετε βαθιά εξειδίκευση στη μηχανική απόδοσης GPU, συμπεριλαμβανομένης της ανάλυσης επιδόσεων, της συμπεριφοράς μνήμης και εύρους ζώνης και της κατανόησης σε επίπεδο πυρήνα.
  • Έχετε πρακτική γνώση στοίβων εξυπηρέτησης όπως vLLM, SGLang ή TensorRT-LLM, συμπεριλαμβανομένης της ομαδοποίησης, της διαχείρισης κρυφής μνήμης KV και των συμβιβασμών κβαντισμού.
  • Έχετε εμπειρία σε κατανεμημένη εκπαίδευση και συμπερασμό μεγάλης κλίμακας, συμπεριλαμβανομένου του παραλληλισμού τενόρων, αγωγών και δεδομένων.
  • Έχετε εμπειρία στη ρύθμιση συλλογικής επικοινωνίας, όπως το NCCL.
  • Χειρίζεστε άνετα εργαλεία ανάλυσης επιδόσεων όπως τα Nsight, DCGM και εργαλεία σε επίπεδο πλαισίου.
  • Μπορείτε να εξηγήσετε ευρήματα απόδοσης σε πελάτες και να κωδικοποιείτε λύσεις για έναν πράκτορα.
  • Επιπλέον προσόντα: ανάπτυξη πυρήνων CUDA, ανάπτυξη μοντέλων ανοιχτών βαρών μεγάλης κλίμακας, σχεδιασμός σημείων αναφοράς και προηγούμενη τεχνική εμπειρία με πελάτες.

Σχετικές θέσεις εργασίας

SHI International Corp.

Ανώτερος/η διευθυντής/ρια μάρκετινγκ λύσεων τεχνητής νοημοσύνης

SHI International Corp.

Διαμορφώστε την τοποθέτηση, τα μηνύματα και τις κυκλοφορίες της SHI για την εταιρική τεχνητή νοημοσύνη. Αναπτύξτε υλικό πωλήσεων, περιεχόμενο εκδηλώσεων και ιστορίες πελατών για την ανάπτυξη.

Άνοιγμα
Gramian Consulting

Ειδικός έρευνας και αξιολόγησης συνομιλιών τεχνητής νοημοσύνης

Gramian Consulting

Η Gramian Consulting προσλαμβάνει αξιολογητή συνομιλιών τεχνητής νοημοσύνης για τη βελτίωση της ποιότητας των συστάσεων AI. Ο ρόλος βασίζεται σε δομημένη ποιοτική ανάλυση διαπροσωπικών περιστάσεων και στον εντοπισμό ελλιπούς πλαισίου.

Άνοιγμα
Gartner

Ανώτερος διευθυντής διαχείρισης δεδομένων για την αξιοποίηση της τεχνητής νοημοσύνης

Gartner

Στη Gartner, παρέχετε έρευνα και καθοδήγηση στελεχών σχετικά με πλατφόρμες διαχείρισης δεδομένων και την αξιοποίηση της τεχνητής νοημοσύνης. Συμβουλεύετε ηγετικά στελέχη επιχειρήσεων μέσω γνώσεων, παρουσιάσεων και συνεργασίας με πελάτες.

Άνοιγμα
CDW

Ανώτερος μηχανικός συμβουλευτικής λογισμικού τεχνητής νοημοσύνης

CDW

Ηγηθείτε έργων AI και MLOps πελατών της CDW, από την αρχιτεκτονική λύσεων έως την παράδοση. Καθοδηγήστε μηχανικούς και παραδώστε ασφαλή, επεκτάσιμα συστήματα παραγωγής.

Άνοιγμα
CDW

Μηχανικός συμβουλευτικής υποδομών τεχνητής νοημοσύνης, υπολογισμού και αποθήκευσης

CDW

Σχεδιάστε και επικυρώστε λύσεις υπολογιστικής GPU και αποθήκευσης υψηλών επιδόσεων για εταιρικούς φόρτους εργασίας τεχνητής νοημοσύνης και μηχανικής μάθησης. Βοηθήστε τους πελάτες της CDW να υλοποιήσουν υποδομές για εκπαίδευση, βελτιστοποίηση και εξαγωγή συμπερασμάτων AI.

Άνοιγμα
Salesforce

Ανώτερος επικεφαλής καινοτομίας AI στις βιοεπιστήμες

Salesforce

Καθοδηγεί τη στρατηγική υλοποίησης AI της Salesforce για τις βιοεπιστήμες, αναπτύσσει επαναχρησιμοποιήσιμες δυνατότητες και προωθεί τον μετασχηματισμό των πελατών. Καθοδηγεί μια παγκόσμια ομάδα στους τομείς προϊόντων, μηχανικής και επαγγελματικών υπηρεσιών.

Άνοιγμα