AI安全性レッドチーマー
高リスク領域の脆弱性を探り、Mercorの提携研究所が開発する最先端AIシステムに負荷テストを行います。 調査結果を安全性ベンチマークに反映し、研究者によるモデルの堅牢性とアラインメントの向上を支援します。
仕事内容
- 最先端AIモデルをテストするための敵対的プロンプトを作成する。
- ジェイルブレイク、安全でない挙動、ハルシネーション、ポリシー違反を見つける。
- 誤情報、サイバーセキュリティ、バイオセキュリティ、詐欺、政治的コンテンツなどの機微な領域で、モデルの堅牢性を評価する。
- 脆弱性を記録し、安全性ベンチマークやレッドチーム報告書に反映する。
- AI研究者と協力し、モデルのアラインメント、堅牢性、安全性を高める。
- AIシステムの訓練と改善に取り組むプロジェクトを支援する。
- 勤務時間は自分で設定できます。プロジェクト期間は、事業上の必要性や業績に応じて変更または早期終了する場合があります。
応募要件
- コンピューターサイエンス、サイバーセキュリティ、ジャーナリズム、コミュニケーション、心理学、生物学、化学、公共政策、または関連分野の学士号以上。
- AI安全性、AIレッドチーム、トラスト＆セーフティ、サイバーセキュリティ、調査報道、ライフサイエンス、または関連分野で5年以上の実務経験。
- 優れた分析的思考力、プロンプト設計力、文章力。
- 敵対的プロンプトの作成、または最先端AIシステムの評価経験。
- 歓迎：AIレッドチーム、RLHF、SFT、AIアラインメント、またはトラスト＆セーフティの経験。
- 歓迎：ジェイルブレイクテスト、プロンプトエンジニアリング、または敵対的評価手法の知識。
- 歓迎：サイバーセキュリティ、バイオセキュリティ、政治的コンテンツ、誤情報、科学安全性など、1つ以上の機微な領域に関する専門知識。
- 契約形態は独立請負業者です。
- H-1BまたはSTEM OPTの支援を受けずに就労できること。
福利厚生
- 完全リモート勤務、柔軟なスケジュール。
- 業務の報酬はStripeまたはWiseを通じて毎週支払われます。
- 第一線のAI研究者や安全性チームと協働できます。
- 複雑で現実的な安全上の課題にAIシステムがどう対応するか、その形成に貢献できます。
- 競争力のある報酬。
- 依頼に応じて合理的配慮を利用できます。
- 紹介した人材が採用に至った場合、1人あたり最大340ドルの紹介報酬（上限あり）。