FAR.AI
FAR.AI
FAR.AIは、高度な人工知能を誰にとっても安全で有益なものにすることを目指す、研究・教育分野の非営利団体です。チームは、堅牢性、欺瞞、解釈可能性、最先端システムの評価など、信頼できるAIに関する主要な課題を研究しています。FAR.AIは、技術研究、研修、イベント、ワークショップ、助成、そしてFAR.Labsなどのプログラムを通じて研究者を支援し、安全で人間の意図に沿ったAIを開発する分野の能力を高めています。また、研究成果を共有し、学術界や産業界のリーダーを集め、大学や公的機関とAIの安全性および政策について協力しています。

AIレッドチーム エンジニアリング責任者

グローバルなフロンティアAIレッドチームプログラムで、FAR.AIのエンジニアリング機能を統括します。 チーム、エージェント型ツール、評価システムを構築し、AIの安全性とセキュリティを前進させます。

仕事内容

  • FAR.AIのレッドチームエンジニアリング組織と、そのシステム、製品、サービス、評価、エージェントを拡大する
  • 攻撃対象領域を体系的に調査するエージェント型レッドチームシステムを構築する
  • 新たに公開されたパブリックな脱獄手法を発見し、レッドチームプラットフォームに自動的に組み込む
  • 攻撃者シミュレーションと有害出力の評価手法を改善する
  • 脆弱性データベース、統計分析機能、レポート基盤を開発する
  • フロンティアAI企業や政府との高リスクなレッドチーム案件向けシステムを提供する
  • 公開レポート、ベンチマーク、リーダーボードの作成を支援する
  • クローズドウェイトとオープンウェイトの両方のフロンティアモデルに対するレッドチーム活動に参加する
  • レッドチームの効率を高めるエージェント型ワークフローを開発する
  • エンジニアリングおよびレッドチームの貢献者を率い、指導し、支援する
  • スプリント作業を計画し、エンジニアリングの遂行を指揮する
  • 変化の速い案件に対応できるスケーラブルなプロセスを確立する
  • 採用パイプラインを設計し、エンジニアリングマネージャーやその他のメンバーを採用する
  • エンジニアリング上の制約を見つけ、効果的な対策を講じる
  • 技術リーダーと協力し、エンジニアリングシステム、手法、評価、研究に取り組む
  • レッドチームの技術および製品戦略の策定を支援する
  • 技術的な概念や発見を、現実世界での実用的な成果につなげる

応募要件

  • サイバーセキュリティやMLOpsなどの分野を含む、ソフトウェアエンジニアリング、AI、またはコンピュータエンジニアリングにおける豊富な経験
  • 技術チームの構築、育成、リードにおける優れた実績。ゼロからのスタートアップ立ち上げや、マネージャーで構成されるチームの経験を含む
  • コーディングエージェント、Python、LLM API、ローカルLLMフレームワーク、評価フレームワーク、LLMエージェント、クラウドインフラ、コンピュートクラスターの実務経験
  • 急速に変化する環境で効果的に業務を遂行できる能力
  • フロンティアAIシステムの使命と影響力を高めることへの明確なコミットメント
  • 技術および非技術の聴衆に技術的な解決策を説明できる優れたコミュニケーション能力
  • 野心的な目標に向けて粘り強く実行する力
  • フロンティアLLMまたはエージェント型システムの構築、あるいはレッドチーム活動の経験があれば尚可
  • 起業家的な環境で技術チームや製品を立ち上げた経験があれば尚可
  • 複雑なシステムに潜む微妙で重大度の高い脆弱性を発見できる能力があれば尚可
  • 敵対的機械学習またはセキュリティのバックグラウンドがあれば尚可
  • AI研究所、セキュリティチーム、政府の安全性研究機関での勤務経験があれば尚可
  • AIの安全性、セキュリティ、堅牢性に関する研究発表またはその他の成果があれば尚可
  • 一定のタイムゾーンの柔軟性を持って勤務する意思
  • 週40時間のフルタイム勤務が可能であること

福利厚生

  • 業務関連の出張費を支給
  • 機器費用を支給
  • バークレーオフィスで昼食と夕食を提供
  • 米国またはシンガポールのビザスポンサーシップを利用可能
  • 有給の就業トライアル

関連求人

Roche

コアラボ シニアコミュニケーション・ビジネスパートナー

Roche

ロシュ・ダイアグノスティックスのコアラボ戦略に関するコミュニケーションを推進します。 グローバルなヘルスケア組織で、社内外のコミュニケーションと広報を統合的に主導します。

開く
Lifecycle Software

リモート勤務 ソリューション設計スペシャリスト(ポルトガル)

Lifecycle Software

Lifecycle Softwareの通信事業者向け業務支援ソリューションに関する顧客要件を整理し、作業範囲記述書を作成します。アジャイルな納品、連携、導入後の運用移管を調整します。

開く
Dotdigital

Dotdigital コンテンツ・ソーシャルメディアスペシャリスト(英国・ハイブリッド勤務)

Dotdigital

Dotdigitalの顧客体験・データプラットフォーム向けに、ビジュアル、動画、ソーシャルキャンペーンを制作します。 インフルエンサー施策、従業員アドボカシー、グローバルなコンテンツプログラムを展開します。

開く
Product Marketing Alliance

コミュニティエンゲージメントコーディネーター

Product Marketing Alliance

会員イベントやエンゲージメント施策、パートナーシップを企画し、Product Marketing Alliance の専門コミュニティの成長を支援します。 B2Bネットワーク全体で、コミュニティの活性化と会員の参加を促進します。

開く
Apex Companies, LLC

上下水道施設運営マネージャー

Apex Companies, LLC

Apex Companiesで、上下水道処理のコンプライアンス、人員管理、現場サービスを統括します。 ペンシルベニア州各地の自治体、商業施設、民間の水インフラ事業を支援します。

開く
Hyperproof

Hyperproof シニア収益オペレーションマネージャー兼ビジネスシステムチームリード

Hyperproof

Hyperproofの収益システム戦略、予測、小規模なRevOpsチームを統括し、Salesforce、CPQ、収益分析を中心に担当します。 Hyperproofはリスク・コンプライアンス管理ソフトウェアを開発しています。

開く
Trinity Life Sciences

ライフサイエンスの価値・アクセス・価格設定担当エンゲージメントマネージャー

Trinity Life Sciences

Trinity Life Sciencesの価値、アクセス、価格設定に関するコンサルティング案件を主導し、顧客関係、プロジェクトチーム、成果物、予算を管理します。 事業開発に貢献し、若手メンバーを指導します。

開く
Berliner Verkehrsbetriebe (BVG)

Jelbi決済オペレーションマネージャー

Berliner Verkehrsbetriebe (BVG)

BVGのJelbiプラットフォームにおける決済、請求、照合業務を統括します。プロダクト、財務、経理の各チームや外部パートナーと連携し、プロセス改善とデータに基づく業務を推進します。

開く
Internetwork Consulting Services, LLC

リモートUXデザイナー

Internetwork Consulting Services, LLC

インタビューやテスト、データ分析を通じてユーザーのニーズを調査し、アクセシブルなデジタル体験を設計します。 デザインシステムを構築し、関係者や開発者と協力してユーザー中心のWeb製品を作ります。

開く