AI安全性レッドチーマー
Mercorは、最先端モデルのジェイルブレイク、ハルシネーション、ポリシー違反を調査するAI安全性レッドチーマーを募集しています。 同社はAI研究所と連携し、AIシステムのトレーニングと改善に取り組んでいます。
仕事内容
- 最先端AIモデルをテストするための敵対的プロンプトを作成します。
- ジェイルブレイク、安全でない挙動、ハルシネーション、ポリシー違反を特定します。
- 誤情報、サイバーセキュリティ、バイオセキュリティ、詐欺、政治コンテンツなどの機微な分野で、モデルの堅牢性を評価します。
- 脆弱性を記録し、安全性ベンチマークやレッドチーミングレポートの作成を支援します。
- AI研究者と協力し、モデルのアラインメント、堅牢性、安全性を高めます。
- プロジェクトのニーズと実績に応じて、独立請負業者としてプロジェクトを完了します。
応募要件
- コンピューターサイエンス、サイバーセキュリティ、ジャーナリズム、コミュニケーション、心理学、生物学、化学、公共政策、または関連分野の学士号以上。
- AI安全性、AIレッドチーミング、トラスト＆セーフティ、サイバーセキュリティ、調査報道、生命科学、または関連分野で5年以上の実務経験。
- 優れた分析的思考力、プロンプト設計力、文章力。
- 敵対的プロンプトの作成、または最先端AIシステムの評価経験。
- 歓迎条件：AIレッドチーミング、RLHF、SFT、AIアラインメント、またはトラスト＆セーフティの経験。
- 歓迎条件：ジェイルブレイクテスト、プロンプトエンジニアリング、または敵対的評価手法に関する知識。
- 歓迎条件：サイバーセキュリティ、バイオセキュリティ、政治コンテンツ、誤情報、科学安全性など、1つ以上の機微な分野における専門知識。
- 独立請負業者として働けること。
- H-1BおよびSTEM OPTの候補者は対象外です。
福利厚生
- 完全リモート勤務。
- 勤務スケジュールを自分で設定できます。
- 提供した業務への報酬はStripeまたはWise経由で毎週支払われます。
- 第一線のAI研究者や安全性チームと協働できます。
- 最先端AIの安全性とアラインメントに貢献できます。
- 紹介した人材の採用が決まると、条件や上限の範囲内で最大340ドルの紹介報酬が支払われます。
- 申請に応じて合理的配慮を利用できます。
