AI安全レッドチームテスター—リモート契約（米国）
Mercorは、敵対的テストを通じて最先端AIモデルの脆弱性を発見するAI安全レッドチームテスターを募集しています。 プロンプトを設計し、AI安全研究者と協力してモデルの高リスクな挙動を評価する役割です。
仕事内容
- 最先端AIモデルに挑戦する敵対的プロンプトを作成する
- 脱獄、不安全な挙動、ハルシネーション、ポリシー違反を検出する
- 誤情報、サイバーセキュリティ、バイオセキュリティ、詐欺、政治的コンテンツなどの機微な領域でモデルの堅牢性を評価する
- 脆弱性を記録し、安全性ベンチマークとレッドチームレポートを支援する
- AI研究者と連携し、モデルのアライメント、堅牢性、安全性を強化する
- AIシステムの訓練と改善に関するプロジェクトに貢献する
応募要件
- コンピュータサイエンス、サイバーセキュリティ、ジャーナリズム、コミュニケーション、心理学、生物学、化学、公共政策、または関連分野の学士号以上
- AI安全、AIレッドチーム、トラスト＆セーフティ、サイバーセキュリティ、調査報道、生命科学、または関連分野で5年以上の実務経験
- 優れた分析的思考力、プロンプト設計力、文章によるコミュニケーション能力
- 敵対的プロンプトの作成または最先端AIシステムの評価経験
- AIレッドチーム、RLHF、SFT、AIアライメント、トラスト＆セーフティの経験があれば尚可
- 脱獄テスト、プロンプトエンジニアリング、敵対的評価手法に精通していれば尚可
- サイバーセキュリティ、バイオセキュリティ、政治的コンテンツ、誤情報、科学安全性など、1つ以上のグレー領域に関する専門知識があれば尚可
- 独立請負業者として働けること
- H-1BおよびSTEM OPTの候補者は対象外
福利厚生
- 完全リモート勤務
- 柔軟なスケジュール
- StripeまたはWiseによる週払い
- プロジェクトは、事業上の必要性や業績に応じて延長、短縮、または早期終了となる場合があります
- 一流のAI研究者や安全性チームと敵対的テストに取り組める
- AIシステムが複雑な現実世界の安全性課題に対応する方法を形作る機会
- 要請に応じて合理的配慮を利用可能
- 紹介1件の成功につき最大340ドルの紹介報酬。紹介件数の上限が適用されます