AI安全レッドチームテスター——米国向けリモート契約職
Mercorは、最先端AIモデルに挑戦し、脆弱性を明らかにする契約制のAI安全レッドチームテスターを募集しています。 高リスク領域に重点を置き、より安全で信頼性の高いAIシステムの開発を支援するポジションです。
仕事内容
- 最先端AIモデルを厳密に検証する敵対的プロンプトを作成する
- ジェイルブレイク、安全でない挙動、ハルシネーション、安全ポリシー違反を検出する
- 誤情報、サイバーセキュリティ、バイオセキュリティ、詐欺、政治的コンテンツなどの機微な領域でモデルの耐性を評価する
- 発見した弱点を記録し、安全性ベンチマークとレッドチームレポートを支援する
- AI研究者と協力し、モデルのアライメント、堅牢性、安全性を向上させる
- 新興の最先端AIシステムの保護と改善に貢献する
- 現実の状況においてAIモデルが難しい安全シナリオに対処する方法を形作る
応募要件
- コンピューターサイエンス、サイバーセキュリティ、ジャーナリズム、コミュニケーション、心理学、生物学、化学、公共政策、または関連分野の学士号以上
- AI安全、AIレッドチーム、トラスト＆セーフティ、サイバーセキュリティ、調査報道、生命科学、または関連分野で少なくとも5年の実務経験
- 優れた分析的判断力、プロンプト開発能力、文章によるコミュニケーション能力
- 敵対的プロンプトの作成または最先端AIシステムの評価に関する実務経験
- 歓迎：AIレッドチーム、RLHF、SFT、AIアライメント、またはトラスト＆セーフティの経験
- 歓迎：ジェイルブレイク評価、プロンプトエンジニアリング、または敵対的評価手法に関する知識
- 歓迎：サイバーセキュリティ、バイオセキュリティ、政治的コンテンツ、誤情報、科学安全などの複雑な領域に関する専門知識
- 独立請負業者として働けること
- H-1BおよびSTEM OPTの候補者は対象外
福利厚生
- 完全リモートで働ける
- 勤務時間を自分で設定し、柔軟なスケジュールで業務を完了できる
- StripeまたはWiseを通じて毎週支払いを受けられる
- プロジェクト期間は事業上のニーズや業績に応じて変更または早期終了となる場合がある
- 競争力のある報酬
- 一流のAI研究者や安全性チームと協働できる
- 要請に応じて合理的配慮を受けられる
- 紹介プログラムにより、紹介上限の範囲内で成功した紹介1件につき最大340ドルを受け取れる