AI安全性レッドチーマー
Mercorは、敵対的なプロンプトを使って最先端モデルを調査するAI安全性レッドチーマーを募集しています。モデルの弱点を見つけ、AI研究機関のパートナーがモデルのアラインメント、堅牢性、安全性を高める支援を行います。
仕事内容
- 敵対的なプロンプトを作成し、最先端AIモデルを調査する。
- ジェイルブレイク、安全でない挙動、ハルシネーション、ポリシー違反を見つける。
- 誤情報、サイバーセキュリティ、生物安全保障、詐欺、政治的コンテンツなどの機微な分野でモデルの堅牢性を評価する。
- 脆弱性を記録し、安全性ベンチマークやレッドチーム報告書の作成を支援する。
- AI研究者と協力し、モデルのアラインメント、堅牢性、安全性を強化する。
- AIシステムの訓練と改善に取り組むプロジェクトに参加する。
応募要件
- コンピューターサイエンス、サイバーセキュリティ、ジャーナリズム、コミュニケーション、心理学、生物学、化学、公共政策、または関連分野の学士号以上。
- AI安全性、AIレッドチーム、トラスト＆セーフティ、サイバーセキュリティ、調査報道、ライフサイエンス、または関連分野で5年以上の実務経験。
- 優れた分析的推論力、プロンプト設計力、文章によるコミュニケーション能力。
- 敵対的なプロンプトの作成、または最先端AIシステムの評価経験。
- AIレッドチーム、RLHF、SFT、AIアラインメント、トラスト＆セーフティの経験があれば尚可。
- ジェイルブレイクテスト、プロンプトエンジニアリング、敵対的評価手法に関する知識があれば尚可。
- サイバーセキュリティ、生物安全保障、政治的コンテンツ、誤情報、科学安全性など、慎重な判断を要する分野の専門知識があれば尚可。
- 独立請負業者として勤務できること。
- H-1BおよびSTEM OPTの候補者は対象外です。
福利厚生
- 米国内のどこからでもリモートで勤務できます。
- 勤務時間を自分で設定できます。
- StripeまたはWiseを通じて毎週報酬を受け取れます。
- プロジェクトのニーズや業績に応じて、期間が延長、短縮、または早期終了となる場合があります。
- 一流のAI研究者や安全性チームと協力できます。
- 最先端AIシステムの安全性づくりに貢献できます。
- ご要望に応じて合理的配慮を提供します。
- 紹介が成立するごとに最大340ドルの紹介報酬を獲得できます。適用条件があります。
