LLM推論ハードウェア向けアルゴリズム研究エンジニア
Normal ComputingのインメモリAIハードウェア向けに、LLM推論アルゴリズムを開発します。 ハードウェアおよびアーキテクチャチームと連携し、数値手法、ベンチマーク、プロトタイプを共同設計します。
仕事内容
- インメモリハードウェア上のLLM推論ワークロード向けアルゴリズムを開発する。
- ハードウェアおよびアーキテクチャチームと連携し、ソフトウェアとハードウェアを共同設計する。
- 熱雑音とアナログダイナミクスを活用する数値手法を開発する。
- シミュレーションと実機ハードウェア向けの評価フレームワークおよびベンチマークを構築する。
- モデルのワークロードに関する知見を、ハードウェア設計上の制約や可能性に反映する。
- ハードウェアがシミュレーションからシリコンへと進むのに合わせて、アルゴリズムのプロトタイプを作成し改良する。
- ゲートレベルとアルゴリズムレベルの両方で性能を向上させる。
- シミュレーター、FPGAプロトタイプ、および利用可能になった段階でシリコンを使ってアルゴリズムを検証する。
応募要件
- 注意機構、KVキャッシュ、長文脈デコード、メモリ帯域幅の制約など、大規模モデルの推論に関する深い知識。
- 量子化、スパース化、カーネル融合、メモリ効率の高い注意機構などの手法で推論を改善した経験。
- 確率システム、確率論的手法、数値解析、またはアナログ計算に関する知識。
- 高水準フレームワークだけに頼らず、ハードウェアに近いレベルでアルゴリズムを実装した経験。
- 新しい計算基盤について、第一原理から考察できる能力。
- 理論上のアイデアを実際のハードウェア実装まで進めた実績。
- Pythonの高いスキルと、少なくとも1つのシステムプログラミング言語の習熟度。
- ハードウェア、アーキテクチャ、ソフトウェアの各チームと協力できる能力。
- 機械学習、応用数学、物理学、電気工学、または関連分野の博士号があれば尚可。
- アナログまたはミックスドシグナルシステム、インメモリコンピューティング、非ノイマン型アーキテクチャに携わった経験があれば尚可。
- 入社時点で開発中だったハードウェアに携わった経験があれば尚可。
- 効率的な推論、確率的アルゴリズム、新しい計算手法に関する論文またはオープンソースへの貢献があれば尚可。
福利厚生
- 多様性を尊重する、インクルーシブな職場環境。
- 障害のある方への合理的配慮。
- 雇用機会均等に関する保護。
関連求人
求人が見つかりません
フィルターを調整またはクリアして、他の求人を探してみてください。