STN Incorporated
STN Incorporated
11 – 50 Alkalmazottak
HardverKiberbiztonságVállalat
A STN Incorporated menedzselt informatikai és felhőinfrastruktúrát biztosít vállalatok, valamint üzletileg kritikus szoftvereket, mesterségesintelligencia-rendszereket és robotikai megoldásokat fejlesztő csapatok számára. Szolgáltatásai közé tartoznak a privát CPU-felhők, a GPU One mesterségesintelligencia-infrastruktúra, a biztonságos hálózati és tárolási megoldások, továbbá a folyamatos felhőüzemeltetés, amelyet éjjel-nappali emberi támogatás és magas rendelkezésre állást garantáló szolgáltatási szintű megállapodások segítenek. A vállalat kiberbiztonsági műveleteket és incidenskezelést, megfelelőségi és kockázatkezelést, biztonsági mentést és helyreállítást, valamint technológiai beszerzést és életciklus-kezelést is végez. Az STN SaaS-vállalatokat, MI-fejlesztőket és modellfejlesztőket, robotikai cégeket, valamint szabályozott szervezeteket – köztük egészségügyi szolgáltatókat – szolgál ki. Infrastruktúráját úgy alakították ki, hogy támogassa az auditokra való felkészülést és az olyan keretrendszereket, mint a SOC 2 Type II és a HIPAA.

Szenior következtetési munkaterhelés-optimalizálási vezető

Vezesse az ügyfelek AI-munkaterheléseinek GPU-teljesítményhangolását az STN autonóm adatközponti platformján. Alakítsa az optimalizálási szakértelmet ügynökök által végrehajtható javításokká, és felügyelje a belső modellkiszolgálást.

Leírás

  • Elemezze az ügyfelek tanítási és következtetési munkaterheléseit, és keresse meg a teljesítményszűk keresztmetszeteket az adatbetöltés, a kollektív kommunikáció, a memória-sávszélesség, a kernelek, a batchfeldolgozás és a párhuzamosság területén.
  • Határozzon meg teljesítményalapértékeket minden hardvergenerációhoz, elsőként a jelenlegi generációs NVIDIA rendszerekkel.
  • Alakítsa az optimalizálási szakértelmet olyan javításokká, amelyeket az ügynökök alkalmazhatnak az ügyfélklaszterekben.
  • Hangolja a munkaterheléseket a lekötött kapacitású ügyfelekkel, közvetlenül vagy az üzemeltető csapataikon keresztül.
  • Másodlagos feladatként kezelje a belső modellkiszolgálást, beleértve a költség- és késleltetéstudatos útválasztást, valamint a modellverziók közötti migrációt.
  • Adjon tanácsot a GPU-k belső következtetés és ügyfél-munkaterhelések közötti elosztásáról.

Követelmények

  • Rendelkezzen mély GPU-teljesítménymérnöki szakértelemmel, beleértve a profilozást, a memória és a sávszélesség viselkedését, valamint a kernelszintű ismereteket.
  • Legyen gyakorlati ismerete olyan kiszolgáló stackekről, mint a vLLM, az SGLang vagy a TensorRT-LLM, beleértve a batchfeldolgozást, a KV-gyorsítótár kezelését és a kvantálás kompromisszumait.
  • Legyen tapasztalata nagyléptékű elosztott tanításban és következtetésben, beleértve a tenzor-, pipeline- és adatpárhuzamosságot.
  • Legyen tapasztalata a kollektív kommunikáció, például az NCCL hangolásában.
  • Magabiztosan használjon profilozó eszközöket, például a Nsightot, a DCGM-et és a keretrendszerszintű profilozókat.
  • Legyen képes az ügyfeleknek elmagyarázni a teljesítményre vonatkozó megállapításokat, és az ügynök számára alkalmazható megoldásokká alakítani azokat.
  • Előnyt jelent a CUDA-kernel fejlesztésében, a nagyléptékű nyílt súlyú modelltelepítésben, a benchmarktervezésben és az ügyfelekkel végzett műszaki munkában szerzett tapasztalat.

Kapcsolódó állások

SHI International Corp.

Vezető mesterségesintelligencia-megoldások marketingmenedzser

SHI International Corp.
5001 – 10 000 Alkalmazottak
GyártásLogisztikaTanácsadás

Alakítsa az SHI vállalati MI-megoldásainak pozicionálását, üzeneteit és bevezetéseit. A növekedés támogatására készítsen értékesítési segédanyagokat, rendezvénytartalmakat és ügyféltörténeteket.

Megnyitás
Gramian Consulting

MI-beszélgetések kutatási és értékelési szakértője

Gramian Consulting

A Gramian Consulting MI-beszélgetés-értékelőt keres az MI-ajánlások minőségének javítására. A munkakör strukturált kvalitatív elemzéssel vizsgál interperszonális helyzeteket, és azonosítja a hiányzó kontextust.

Megnyitás
Gartner

Adatkezelési vezető igazgató az MI alkalmazásának előmozdítására

Gartner

A Gartnertnél kutatást végez az adatkezelési platformokról és az MI alkalmazásáról, valamint útmutatást ad a vezetőknek. Elemzésekkel, előadásokkal és ügyféltalálkozókkal támogatja a vállalati vezetőket.

Megnyitás
CDW

MI-infrastruktúra tanácsadó mérnök, számítás és tárolás

CDW

Tervezzen és validáljon GPU-s számítási és nagy teljesítményű tárolási megoldásokat vállalati MI- és gépi tanulási munkaterhelésekhez. Segítse a CDW ügyfeleit az MI-tanításhoz, finomhangoláshoz és következtetéshez szükséges infrastruktúra bevezetésében.

Megnyitás
Salesforce

Senior mesterségesintelligencia-innovációs vezető, élettudományok

Salesforce

Irányítsa a Salesforce élettudományi MI-szolgáltatási stratégiáját, alakítson ki újrafelhasználható képességeket, és mozdítsa elő az ügyfelek átalakulását. Vezessen globális csapatot a termékfejlesztés, a mérnöki munka és a professzionális szolgáltatások területén.

Megnyitás