シニア応用AIソフトウェアエンジニア
Commure
Commureの医療AIプラットフォーム向けに、大規模言語モデルを活用した収益サイクル自動化を構築します。請求、入金処理、否認、異議申し立て、文書抽出のための信頼性の高いシステムを開発します。
開く
コンパイラフロントエンドエンジニア（LLMアーキテクチャ）
注意機構のバリエーション、MoEルーティング、量子化、数値形式など、新しいLLMアーキテクチャへのコンパイラ対応を拡張します。 Normal ComputingのインメモリAIハードウェア向けに、シミュレーターとFPGAプロトタイプでモデルの動作を検証します。
仕事内容
- 新しいLLMアーキテクチャに対応するフロントエンドおよび中間コンパイラ機能を拡張します。
- 注意機構のバリエーション、MoEルーティング方式などをコンパイラに実装します。
- 新しいアーキテクチャプリミティブを正確に表現できるよう、IR、演算、低水準化パスを拡張します。
- コンパイラの進化に合わせてテストカバレッジを維持します。
- モデル精度を保ちながら、量子化方式と数値形式を表現します。
- LLMアーキテクチャの動向を把握し、今後のコンパイラ対応の優先順位を提案します。
- 低水準化されたプログラムをバックエンドコンパイラエンジニアに渡し、ハードウェアへマッピングします。
- LLMサービングエンジニアと連携し、コンパイラ対応済みのモデルをサービングへ移行します。
- シリコンが利用可能になる前に、シミュレーターとFPGAプロトタイプでコンパイラの立ち上げを検証します。
応募要件
- 機械学習コンパイラのパスを開発し、製品としてリリースした実務経験。
- PyTorchの内部構造に精通していること。TorchDynamo、FX、torch.exportの知識があれば尚可。
- 注意機構、MoEルーティング、量子化方式など、最新のLLMアーキテクチャに関する知識。
- 新しいコードベースでコンパイラ基盤を設計し、既存の基盤を拡張できること。
- 進化し続けるハードウェア向けのソフトウェアを、シミュレーションから立ち上げまで開発できること。
- Pythonに堪能であること。
- C++またはRustの知識。
- IREE、XLA、またはTVMの経験があれば尚可。
- JAXまたはONNXの知識があれば尚可。
- テンソル並列、パイプライン並列、またはエキスパート並列を用いて、複数デバイスにモデルを分割した経験があれば尚可。
- ハードウェアとソフトウェアの協調設計経験があれば尚可。
- 非標準またはインメモリのハードウェアターゲットに関する経験があれば尚可。
- オープンソースのコンパイラまたは機械学習基盤プロジェクトへの貢献経験があれば尚可。
福利厚生
- 研究に近い業務に携わり、Normal Computingを代表して成果を発表する機会があります。
- シミュレーターとFPGAプロトタイプを使い、シリコン製造前のハードウェアに取り組めます。
- 平等な雇用機会への取り組みを掲げる、包摂的な職場環境です。
- 障害のある方には合理的配慮を提供します。
