LLM 추론 하드웨어 알고리즘 연구 엔지니어
Normal Computing의 메모리 내 AI 하드웨어용 LLM 추론 알고리즘을 개발합니다. 하드웨어 및 아키텍처 팀과 협력해 수치 기법, 벤치마크, 프로토타입을 공동 설계합니다.
설명
- 메모리 내 하드웨어에서 실행되는 LLM 추론 작업용 알고리즘을 개발합니다.
- 하드웨어 및 아키텍처 팀과 협력해 소프트웨어와 하드웨어를 공동 설계합니다.
- 열잡음과 아날로그 동역학을 활용하는 수치 기법을 개발합니다.
- 시뮬레이션과 실제 하드웨어를 위한 평가 프레임워크 및 벤치마크를 구축합니다.
- 모델 작업 부하에 관한 통찰을 하드웨어 설계의 제약과 기회로 연결합니다.
- 하드웨어가 시뮬레이션에서 실리콘으로 발전함에 따라 알고리즘 프로토타입을 만들고 개선합니다.
- 게이트 수준과 알고리즘 수준 모두에서 성능을 높입니다.
- 시뮬레이터, FPGA 프로토타입, 그리고 사용 가능해지면 실리콘으로 알고리즘을 테스트합니다.
지원 자격
- 어텐션 메커니즘, KV 캐시, 긴 컨텍스트 디코딩, 메모리 대역폭 한계를 포함한 대규모 모델 추론에 대한 깊은 지식.
- 양자화, 희소성, 커널 융합, 메모리 효율적인 어텐션 등의 기법으로 추론 성능을 개선한 경험.
- 확률 시스템, 확률론적 방법, 수치 해석 또는 아날로그 컴퓨팅에 대한 이해.
- 고수준 프레임워크에만 의존하지 않고 하드웨어에 가까운 수준에서 알고리즘을 구현한 경험.
- 새로운 컴퓨팅 기반을 제1원리부터 분석할 수 있는 역량.
- 이론적 아이디어를 실제 하드웨어 구현까지 발전시킨 입증된 역량.
- 뛰어난 Python 활용 능력과 하나 이상의 시스템 프로그래밍 언어 숙련도.
- 하드웨어, 아키텍처, 소프트웨어 팀과 협업할 수 있는 역량.
- 머신러닝, 응용수학, 물리학, 전기공학 또는 관련 분야의 박사 학위가 있으면 우대합니다.
- 아날로그 또는 혼합 신호 시스템, 메모리 내 컴퓨팅, 비폰노이만 아키텍처 경험이 있으면 우대합니다.
- 입사 당시 개발 중이던 하드웨어를 다뤄본 경험이 있으면 우대합니다.
- 효율적인 추론, 확률 알고리즘 또는 새로운 컴퓨팅 분야의 논문이나 오픈소스 기여가 있으면 우대합니다.
복리후생
- 다양성을 존중하고 포용하는 직장 환경.
- 장애인을 위한 합리적인 편의 제공.
- 고용 평등에 따른 보호.
관련 채용공고
채용 공고를 찾을 수 없습니다
더 많은 기회를 찾으려면 필터를 조정하거나 지워 보세요.