NVIDIAは、ゲーム、データセンター、クラウドコンピューティング、ヘルスケア、製造、自動車、ロボティクスなど幅広い分野で活用されるアクセラレーテッドコンピューティングと人工知能の技術を開発しています。グラフィックスプロセッシングユニット、AIプラットフォーム、シミュレーション、業界向けソリューションなどを手がけており、協働型3Dワークフロー向けのNVIDIA Omniverse、自動運転車両開発向けのNVIDIA DRIVE、ヘルスケア向けのNVIDIA Claraなどを展開しています。同社には、先進的なコンピューティング、シミュレーション、AIを活用した分析を支えるインフラストラクチャとソフトウェアに取り組む大規模な技術チームがあります。
深層学習推論シニアソフトウェアエンジニア
NVIDIAで、大規模AI推論向けのGPUアクセラレーテッドソフトウェアを構築・調整します。 オープンソースのサービングフレームワークを改善し、NVIDIAアクセラレータ上のモデル性能を高めます。
仕事内容
- AIアプリケーション向けのGPUアクセラレーテッドソフトウェアを構築、最適化します。
- 大規模なモデルサービングと推論のためのオープンソースフレームワークを開発、保守します。
- 推論プラットフォームを強化し、言語モデルのデプロイとサービングを支援します。
- 推論フレームワークを通じてリリースする新しいアルゴリズムを実装します。
- NVIDIAアクセラレータ上で高度なLLMおよび生成AIモデルの性能向上を推進します。
- CUTLASS、OAI Triton、NCCL、CUDAカーネルなどのツールを活用し、モデルサービングのパイプラインを最適化します。
- LLM、マルチモーダル、生成AI分野の深層学習モデルを分析、調整します。
- さまざまなアーキテクチャとNVIDIAアクセラレータの種類にわたってモデル性能を拡張します。
- NVIDIAの推論ライブラリ、vLLM、SGLang、FlashInfer、LLMソフトウェアに機能やコードを提供します。
- フレームワーク、NVIDIAライブラリ、推論最適化ソリューションに関わるチームと連携します。
応募要件
- コンピューター工学、コンピューターサイエンス、EECS、AIなどの関連分野の修士号、博士号、または同等の経験。
- 関連するソフトウェア開発経験が5年以上。
- C/C++プログラミングとソフトウェア設計の高いスキル。
- アジャイルソフトウェア開発の経験があれば尚可。
- Pythonの経験があれば尚可。
- 深層学習モデル推論のトレーニング、デプロイ、または最適化に関する本番環境での経験があれば尚可。
- 性能モデリング、プロファイリング、デバッグ、コード最適化の経験、またはCPU・GPUアーキテクチャの知識があれば尚可。
- CUDA、OAI Triton、またはCUTLASSを用いたGPUプログラミング経験があれば尚可。
- PyTorch、vLLM、SGLangなどの深層学習ソフトウェアプロジェクトへの貢献経験。
- NCCLやNVSHMEMを含むマルチGPU通信の経験。
福利厚生
- 充実した福利厚生。
- 株式報酬。
