
AIレッドチーム エンジニアリング責任者
グローバルなフロンティアAIレッドチームプログラムで、FAR.AIのエンジニアリング機能を統括します。 チーム、エージェント型ツール、評価システムを構築し、AIの安全性とセキュリティを前進させます。
仕事内容
- FAR.AIのレッドチームエンジニアリング組織と、そのシステム、製品、サービス、評価、エージェントを拡大する
- 攻撃対象領域を体系的に調査するエージェント型レッドチームシステムを構築する
- 新たに公開されたパブリックな脱獄手法を発見し、レッドチームプラットフォームに自動的に組み込む
- 攻撃者シミュレーションと有害出力の評価手法を改善する
- 脆弱性データベース、統計分析機能、レポート基盤を開発する
- フロンティアAI企業や政府との高リスクなレッドチーム案件向けシステムを提供する
- 公開レポート、ベンチマーク、リーダーボードの作成を支援する
- クローズドウェイトとオープンウェイトの両方のフロンティアモデルに対するレッドチーム活動に参加する
- レッドチームの効率を高めるエージェント型ワークフローを開発する
- エンジニアリングおよびレッドチームの貢献者を率い、指導し、支援する
- スプリント作業を計画し、エンジニアリングの遂行を指揮する
- 変化の速い案件に対応できるスケーラブルなプロセスを確立する
- 採用パイプラインを設計し、エンジニアリングマネージャーやその他のメンバーを採用する
- エンジニアリング上の制約を見つけ、効果的な対策を講じる
- 技術リーダーと協力し、エンジニアリングシステム、手法、評価、研究に取り組む
- レッドチームの技術および製品戦略の策定を支援する
- 技術的な概念や発見を、現実世界での実用的な成果につなげる
応募要件
- サイバーセキュリティやMLOpsなどの分野を含む、ソフトウェアエンジニアリング、AI、またはコンピュータエンジニアリングにおける豊富な経験
- 技術チームの構築、育成、リードにおける優れた実績。ゼロからのスタートアップ立ち上げや、マネージャーで構成されるチームの経験を含む
- コーディングエージェント、Python、LLM API、ローカルLLMフレームワーク、評価フレームワーク、LLMエージェント、クラウドインフラ、コンピュートクラスターの実務経験
- 急速に変化する環境で効果的に業務を遂行できる能力
- フロンティアAIシステムの使命と影響力を高めることへの明確なコミットメント
- 技術および非技術の聴衆に技術的な解決策を説明できる優れたコミュニケーション能力
- 野心的な目標に向けて粘り強く実行する力
- フロンティアLLMまたはエージェント型システムの構築、あるいはレッドチーム活動の経験があれば尚可
- 起業家的な環境で技術チームや製品を立ち上げた経験があれば尚可
- 複雑なシステムに潜む微妙で重大度の高い脆弱性を発見できる能力があれば尚可
- 敵対的機械学習またはセキュリティのバックグラウンドがあれば尚可
- AI研究所、セキュリティチーム、政府の安全性研究機関での勤務経験があれば尚可
- AIの安全性、セキュリティ、堅牢性に関する研究発表またはその他の成果があれば尚可
- 一定のタイムゾーンの柔軟性を持って勤務する意思
- 週40時間のフルタイム勤務が可能であること
福利厚生
- 業務関連の出張費を支給
- 機器費用を支給
- バークレーオフィスで昼食と夕食を提供
- 米国またはシンガポールのビザスポンサーシップを利用可能
- 有給の就業トライアル









