AI 하드웨어 런타임 엔지니어
Normal Computing의 메모리 중심 AI 하드웨어를 위한 런타임 소프트웨어를 설계합니다. 아키텍처, 하드웨어 추상화, LLM 추론 성능을 주도합니다.
설명
- 장치 관리, 메모리 할당, 호스트와 장치 간 전송, 실행 파일 로드, 명령 제출 전반의 런타임 아키텍처를 이끕니다.
- 실리콘을 사용할 수 있게 되기 전에 일관된 인터페이스를 통해 시뮬레이터와 FPGA 프로토타입용 런타임을 개발합니다.
- 시뮬레이터, FPGA 프로토타입, 실리콘 및 미래 세대 하드웨어 간 차이를 추상화합니다.
- 요청 사이에 상주하는 모델 가중치를 포함해 하드웨어에 저장된 장치 상태를 관리합니다.
- LLM 추론의 핵심 경로에서 런타임 오버헤드를 줄여 종단 간 지연 시간과 처리량을 개선합니다.
- 컴파일러, 드라이버, 펌웨어 구성 요소와의 인터페이스를 정의합니다.
- 런타임의 기술적 방향을 이끌고 런타임에 의존하는 설계를 검토합니다.
- 컴파일러 및 서빙 엔지니어와 협력해 효과적인 인터페이스를 설계합니다.
지원 자격
- 가속기 또는 기타 특수 하드웨어용 런타임, 드라이버 또는 하드웨어 추상화 계층 개발 경험.
- 메모리 관리, 동시성, 저수준 성능 최적화를 포함한 탄탄한 C++ 또는 Rust 시스템 프로그래밍 역량.
- 복잡한 시스템 구성 요소를 설계부터 프로덕션 적용까지 책임진 경험.
- 여러 팀에 걸쳐 기술적 의사결정을 주도한 경험.
- LLM 추론 워크로드와 런타임 요구 사항에 대한 이해.
- 시뮬레이션부터 하드웨어 bring-up까지 변화하는 하드웨어용 소프트웨어 개발에 대한 적응력.
- 우대 사항: IREE의 HAL과 같은 개방형 런타임 설계에 익숙하거나 CUDA 또는 ROCm 런타임 내부 구조를 이해하는 분.
- 우대 사항: 메모리 내 연산 또는 기타 비폰 노이만 하드웨어 경험.
- 우대 사항: vLLM과 같은 추론 서버에 런타임을 통합한 경험.
- 우대 사항: 오픈소스 런타임 또는 시스템 인프라에 기여한 경험.
복리후생
- 지분 보상.
- 성과 기반 인센티브.
- 포괄적인 보상 패키지.
- 직원의 웰빙과 전문성 성장을 지원하기 위한 복리후생.
- 경쟁력 있고 공정한 보상.
- 장애가 있는 직원을 위한 합리적인 편의 제공.
