AI安全性レッドチーム担当者
Mercorの提携研究機関向けに最先端AIシステムのレッドチームテストを行い、脆弱性を発見して高リスクなモデル挙動を評価します。 敵対的プロンプトを設計し、安全性に関する調査結果の記録を支援します。
仕事内容
- 敵対的プロンプトを作成し、負荷の高い状況で最先端AIモデルをテストします。
- ジェイルブレイク、安全でない出力、ハルシネーション、ポリシーに従わない挙動を特定します。
- 誤情報、サイバーセキュリティ、バイオセキュリティ、詐欺、政治的コンテンツなどの機微な領域で、モデルの耐性を評価します。
- 脆弱性を記録し、安全性ベンチマークやレッドチームレポートの作成を支援します。
- AI研究者と協力し、モデルのアラインメント、耐性、安全性を強化します。
- Mercorの提携AI研究機関や、AIシステムを訓練・改善する企業のプロジェクトを担当します。
応募要件
- コンピューターサイエンス、サイバーセキュリティ、ジャーナリズム、コミュニケーション、心理学、生物学、化学、公共政策、または関連分野の学士号以上。
- AI安全性、AIレッドチーム、トラスト＆セーフティ、サイバーセキュリティ、調査報道、ライフサイエンス、または関連分野で5年以上の実務経験。
- 優れた分析的思考力、プロンプト設計力、文章でのコミュニケーション能力。
- 敵対的プロンプトの作成、または最先端AIシステムの評価経験。
- AIレッドチーム、RLHF、教師ありファインチューニング、AIアラインメント、またはトラスト＆セーフティの経験があれば尚可。
- ジェイルブレイクテスト、プロンプトエンジニアリング、または敵対的評価手法に精通していれば尚可。
- サイバーセキュリティ、バイオセキュリティ、政治的コンテンツ、誤情報、科学分野の安全性など、複雑な領域の専門知識があれば尚可。
- 記載された勤務地のいずれかで就労できる資格が必要です。
- Mercorは現時点でH-1BまたはSTEM OPTの候補者をサポートできません。
福利厚生
- 完全リモートで勤務できます。
- 柔軟なスケジュールを設定し、自分の予定に合わせて業務を完了できます。
- StripeまたはWiseを通じて毎週支払いを受け取れます。
- プロジェクトの必要性や業務実績に応じて、期間が延長・短縮されたり、早期終了したりする場合があります。
- 競争力のある報酬。
- 一流のAI研究者や安全性チームと協力できます。
- 最先端AIの安全性とモデル開発に貢献できます。
- 紹介が成立すると、紹介人数の上限に従い、1件につき最大340ドルを獲得できます。
- 申請に応じて合理的配慮を利用できます。
関連求人
AI自律システム統合プリンシパルエンジニア
General Dynamics Information Technology無人航空機、車両スウォーム、エッジプラットフォーム、指揮統制環境にわたる自律AIシステムの統合を主導します。 General Dynamics Information Technologyで、任務ワークフローをレジリエントな自律機能、AI/MLモデル、戦術システムにつなげます。
開く
シニアフロントエンドエンジニア、分析プロダクトリード
CMG (Capital Markets Gateway)CMGのDataLab分析プロダクトのフロントエンド開発を主導し、株式資本市場プラットフォームのReactおよびTypeScriptインターフェースを設計します。 フロントエンドのアーキテクチャ、テスト、アクセシビリティ、技術的な取り組みの方針を定めます。
開く
