AI安全レッドチームテスター - 米国リモート
Mercorは、最先端AIモデルに挑戦し、高リスク領域の脆弱性を発見するリモート勤務のAI安全レッドチームテスターを募集しています。 この契約職は、先進システムを開発・改善するAI研究所を支援します。
仕事内容
- 最先端AIモデルを検証するための敵対的プロンプトを作成する
- ジェイルブレイク、安全でない挙動、ハルシネーション、ポリシー違反を検出する
- 誤情報、サイバー脅威、バイオセキュリティリスク、詐欺、政治的コンテンツ、その他のセンシティブなテーマに対するモデルの耐性を評価する
- 発見した脆弱性を記録し、安全性ベンチマークやレッドチーム報告書の作成を支援する
- AI研究者と連携し、モデルのアラインメント、堅牢性、安全性を強化する
- AIシステムのトレーニングと改善に関するプロジェクトに貢献する
応募要件
- コンピューターサイエンス、サイバーセキュリティ、ジャーナリズム、コミュニケーション、心理学、生物学、化学、公共政策、または関連分野の学士号以上
- AI安全性、AIレッドチーム、トラスト＆セーフティ、サイバーセキュリティ、調査報道、生命科学、または関連分野で5年以上の実務経験
- 優れた分析的判断力、プロンプト設計能力、文章によるコミュニケーション能力
- 敵対的プロンプトの作成または最先端AIシステムの評価経験
- AIレッドチーム、RLHF、SFT、AIアラインメント、またはトラスト＆セーフティの経験があれば尚可
- ジェイルブレイクテスト、プロンプトエンジニアリング、または敵対的評価手法に精通していれば尚可
- サイバーセキュリティ、バイオセキュリティ、政治的コンテンツ、誤情報、科学安全など、少なくとも1つのグレー領域に関する専門知識があれば尚可
- 独立請負業者として勤務できること
- H-1BおよびSTEM OPTの候補者は対象外
福利厚生
- 完全リモート勤務
- 柔軟で自律的なスケジュール
- StripeまたはWiseによる週払い
- 業務上の必要性や成果に応じて、プロジェクトの延長、短縮、早期終了の可能性あり
- 競争力のある報酬
- 一流のAI研究者や安全性チームとの協働
- 要望に応じて合理的配慮を提供
- 適用される制限に従い、紹介が成功するごとに最大340米ドルの紹介報酬