STN Incorporated는 기업과 비즈니스 핵심 소프트웨어, AI 시스템 및 로봇을 개발하는 팀에 매니지드 IT 및 클라우드 인프라를 제공합니다. 서비스에는 프라이빗 CPU 클라우드, GPU One AI 인프라, 보안 네트워크와 스토리지, 지속적인 클라우드 운영이 포함되며, 연중무휴 상주 지원과 높은 가동률을 보장하는 서비스 수준 계약을 제공합니다. 또한 사이버 보안 운영과 사고 대응, 규정 준수 및 위험 관리, 백업과 복구, 기술 조달 및 수명 주기 관리도 담당합니다. STN은 SaaS 기업, AI 개발팀과 모델 개발자, 로봇 기업, 의료 서비스 제공자를 포함한 규제 대상 조직에 서비스를 제공하며, 감사 준비와 SOC 2 Type II 및 HIPAA 같은 프레임워크를 지원하도록 인프라를 설계합니다.
시니어 추론 워크로드 최적화 리드
STN의 자율형 데이터센터 플랫폼에서 고객 AI 워크로드의 GPU 성능 튜닝을 이끕니다. 최적화 전문성을 에이전트가 실행할 수 있는 수정안으로 전환하고 내부 모델 서빙을 총괄합니다.
설명
- 고객의 학습 및 추론 워크로드를 분석해 데이터 로딩, 집합 통신, 메모리 대역폭, 커널, 배칭, 병렬화 전반의 성능 병목을 찾습니다.
- 각 하드웨어 세대의 성능 기준을 수립하며, 현재 세대 NVIDIA 시스템부터 시작합니다.
- 최적화 전문성을 에이전트가 고객 클러스터에 적용할 수 있는 수정안으로 전환합니다.
- 용량을 약정한 고객과 협력해 워크로드를 튜닝하며, 직접 진행하거나 고객 운영팀을 통해 수행합니다.
- 부차적인 책임으로 비용과 지연 시간을 고려한 라우팅, 모델 버전 마이그레이션을 포함해 내부 모델 서빙을 관리합니다.
- 내부 추론과 고객 워크로드 간 GPU 배분에 대해 조언합니다.
지원 자격
- 프로파일링, 메모리 및 대역폭 동작, 커널 수준의 이해를 포함한 깊이 있는 GPU 성능 엔지니어링 전문성을 갖출 것.
- vLLM, SGLang, TensorRT-LLM 등의 서빙 스택을 실무에서 다뤄 본 경험과 배칭, KV 캐시 관리, 양자화 간 절충점에 대한 이해를 갖출 것.
- 텐서, 파이프라인, 데이터 병렬화를 포함해 대규모 분산 학습 및 추론을 수행한 경험이 있을 것.
- NCCL과 같은 집합 통신을 튜닝한 경험이 있을 것.
- Nsight, DCGM, 프레임워크 수준 프로파일러 등의 도구에 능숙할 것.
- 성능 분석 결과를 고객에게 설명하고 에이전트가 실행할 수 있는 해결책으로 정리할 수 있을 것.
- 우대 사항: CUDA 커널 개발, 대규모 오픈 웨이트 모델 배포, 벤치마크 설계, 고객 대상 기술 업무 경험.
