AIモデル安全性レッドチームテスター
敵対的テストを通じて、Mercorの最先端AIモデルの安全上の弱点を探ります。 脆弱性を見つけ、モデルアラインメントの改善に貢献します。
仕事内容
- 敵対的なプロンプトを作成し、最先端AIモデルを検証します。
- ジェイルブレイク、安全でない挙動、ハルシネーション、ポリシー違反を見つけます。
- 誤情報、サイバーセキュリティ、生物安全保障、詐欺、政治的コンテンツなどの機微な領域で、モデルの耐性をテストします。
- 脆弱性を記録し、安全性ベンチマークやレッドチーム報告書の作成を支援します。
- AI研究者と協力し、モデルアラインメント、耐性、安全性を強化します。
- 次世代の最先端AIモデルの保護と改善に貢献します。
- AIシステムの訓練と改善に取り組むプロジェクトに参加します。
応募要件
- コンピューターサイエンス、サイバーセキュリティ、ジャーナリズム、コミュニケーション、心理学、生物学、化学、公共政策または関連分野の学士号以上
- AI安全性、AIレッドチーム、トラスト＆セーフティ、サイバーセキュリティ、調査報道、生命科学または関連分野で5年以上の実務経験
- 優れた分析的思考力、プロンプト設計力、文章力
- 敵対的プロンプトの作成、または最先端AIシステムの評価経験
- AIレッドチーム、RLHF、教師ありファインチューニング、AIアラインメント、トラスト＆セーフティの経験があれば尚可
- ジェイルブレイクテスト、プロンプトエンジニアリング、敵対的評価手法に関する知識があれば尚可
- サイバーセキュリティ、生物安全保障、政治的コンテンツ、誤情報、科学安全性など、少なくとも1つの機微な領域に精通している方を歓迎
- H-1BまたはSTEM OPTのスポンサーシップを必要としないこと。Mercorは、いずれかのスポンサーシップが必要な候補者を支援できません
福利厚生
- 完全リモート勤務で、柔軟なスケジュール
- 提供したサービスへの報酬をStripeまたはWise経由で毎週支払い
- プロジェクトの期間は、ニーズや業績に応じて変更または早期終了する場合があります
- 第一線のAI研究者や安全性チームと協力
- AIシステムが現実の複雑な安全上の課題にどう対処するかを形づくる仕事
- 依頼に応じて合理的配慮を提供
- 紹介が成功すると、制限に従い1件あたり最大340ドルの紹介報酬