시니어 응용 AI 소프트웨어 엔지니어
Commure
Commure 의료 AI 플랫폼에서 대규모 언어 모델 기반의 매출 주기 자동화 기능을 구축합니다. 청구 제출, 입금 처리, 지급 거부, 이의 제기, 문서 추출을 위한 신뢰성 높은 시스템을 개발합니다.
열기
컴파일러 프런트엔드 엔지니어(LLM 아키텍처)
어텐션 변형, MoE 라우팅, 양자화, 수치 형식 등 새로운 LLM 아키텍처에 대한 컴파일러 지원을 확장합니다. Normal Computing의 메모리 내 AI 하드웨어를 대상으로 시뮬레이터와 FPGA 프로토타입에서 모델 구동을 검증합니다.
설명
- 새로운 LLM 아키텍처를 위한 프런트엔드 및 미들엔드 컴파일러 지원을 확장합니다.
- 어텐션 변형, MoE 라우팅 방식 및 기타 아키텍처를 컴파일러에 구현합니다.
- 새 아키텍처 프리미티브를 정확히 표현할 수 있도록 IR, 연산, 낮은 수준으로 변환하는 패스를 확장합니다.
- 컴파일러가 발전함에 따라 테스트 커버리지를 유지합니다.
- 모델 정확도를 유지하면서 양자화 방식과 수치 형식을 표현합니다.
- LLM 아키텍처 동향을 살피고 향후 컴파일러 지원 우선순위를 제안합니다.
- 낮은 수준으로 변환된 프로그램을 백엔드 컴파일러 엔지니어에게 전달해 하드웨어에 매핑하도록 합니다.
- LLM 서빙 엔지니어와 협업해 컴파일러 지원 모델을 서빙 단계로 이전합니다.
- 실리콘을 사용할 수 있기 전에 시뮬레이터와 FPGA 프로토타입으로 컴파일러 구동을 검증합니다.
지원 자격
- 머신러닝 컴파일러 패스를 개발하고 출시한 실무 경험이 있어야 합니다.
- PyTorch 내부 구조에 익숙해야 하며, TorchDynamo, FX, torch.export 경험이 있으면 좋습니다.
- 어텐션 메커니즘, MoE 라우팅, 양자화 방식을 포함한 최신 LLM 아키텍처 지식이 있어야 합니다.
- 새 코드베이스에서 컴파일러 인프라를 설계하고 기존 인프라를 확장할 수 있어야 합니다.
- 시뮬레이션부터 구동 검증까지, 발전 중인 하드웨어용 소프트웨어를 개발하는 데 익숙해야 합니다.
- Python을 능숙하게 다뤄야 합니다.
- C++ 또는 Rust에 익숙해야 합니다.
- IREE, XLA 또는 TVM 경험이 있으면 우대합니다.
- JAX 또는 ONNX에 익숙하면 우대합니다.
- 텐서 병렬화, 파이프라인 병렬화 또는 전문가 병렬화를 사용해 여러 장치에 모델을 분할한 경험이 있으면 우대합니다.
- 하드웨어와 소프트웨어 공동 설계 경험이 있으면 우대합니다.
- 비표준 하드웨어 또는 메모리 내 하드웨어 타깃 경험이 있으면 우대합니다.
- 오픈 소스 컴파일러 또는 머신러닝 인프라 프로젝트에 기여한 경험이 있으면 우대합니다.
복리후생
- 연구와 밀접한 업무를 수행하고 Normal Computing을 대표해 논문을 발표할 기회가 있습니다.
- 시뮬레이터와 FPGA 프로토타입을 사용해 실리콘 제작 전 하드웨어를 다룹니다.
- 평등한 고용 기회를 약속하는 포용적인 직장입니다.
- 장애가 있는 분에게 합리적인 편의를 제공합니다.
