AIエンジニア 5、基盤モデルホスティングと大規模言語モデル推論
基盤モデルのホスティング、大規模言語モデル推論、エージェント型 AI インフラの開発と最適化を主導します。 スケーラブルで責任あるシステムを構築し、Capital One の AI 能力と銀行サービス体験を向上させます。
仕事内容
- エンジニア、研究科学者、テクニカルプログラムマネージャー、プロダクトマネージャーと協力し、AI を活用した製品を提供する
- 基盤モデルのトレーニング、大規模言語モデル推論、エージェント、マルチエージェントワークフロー、類似検索、ガードレール、評価、実験、ガバナンス、オブザーバビリティにわたる AI ソフトウェアを設計、開発、テスト、デプロイ、サポートする
- AWS Ultraclusters、Hugging Face、ベクトルデータベース、PyTorch など、オープンソースおよび SaaS の AI 技術を活用する
- 本番 AI システムのスケーラビリティ、コスト効率、レイテンシー、スループットを向上させる基盤モデル最適化手法を開発する
- 基盤 AI システムの技術ビジョンと長期ロードマップの策定に貢献する
- 大規模言語モデル、ベクトル検索、ドメイン固有モデルを組み合わせたマルチモデルオーケストレーションパイプラインを設計・最適化する
- GPU 使用率、モデルスループット、推論効率を対象とするコストおよびパフォーマンスガバナンスレビューを主導する
- 技術的な一貫性を促進し、AI エンジニアリング標準の遵守を推進する設計評議会またはレビュー委員会を運営する
- Principal レベルおよび Manager レベルの AI エンジニアを指導し、組織の技術成熟度を高める
応募要件
- コンピューターサイエンス、AI、電気工学、コンピューター工学、または関連分野の学士号と、AI または ML のアルゴリズムおよび技術の開発経験 6 年以上、または関連する修士号と 4 年以上の経験
- Python、Go、Scala、CUDA、Java のいずれかを使用したプログラミング経験 6 年以上
- コスト、レイテンシー、スループット、精度のバランスを取りながら AI システム開発を主導した経験
- クラウドプラットフォーム上でスケーラブルかつ責任ある AI ソリューションをデプロイした経験 7 年以上
- 複雑な AI システムの設計、開発、提供、サポート経験
- 大規模言語モデル推論、類似検索、ベクトルデータベース、ガードレール、メモリなどの AI または ML 技術の開発経験
- ハードウェア利用率、レイテンシー、スループット、コストのためにトレーニングおよび推論ソフトウェアを最適化した経験
- エージェント型 AI システムとワークフローの構築経験
- 異種 AI システムを統合し、統一された本番パイプラインとして設計した経験
- 説明可能性、公平性、人間参加型レビューを含む倫理的な AI デプロイ基準を定義し、適用した経験
- 動的な推論戦略とモデル圧縮によって、モデル性能と運用コストのバランスを取る能力
- モデルの規模、インスタンス数、ハードウェアタイプを適正化した経験
- Capital One は、条件を満たす新規応募者に就労許可のスポンサーを提供する場合があります
福利厚生
- 業績連動型のインセンティブ報酬には、現金ボーナスや長期インセンティブが含まれる場合があります
- 総合的で競争力があり、包摂性を備えた健康、財務、その他の福利厚生を提供し、全体的なウェルビーイングを支援します
- 障がいのある応募者には合理的配慮を提供します
