AI安全専門家――英語・アッサム語｜Mercorリモート契約
最先端AIモデルに対して敵対的テストを実施し、脱獄、バイアス、悪用などの安全上のリスクを検証します。 Mercorの顧客向けに、人手データのアノテーション、脆弱性の分類、再現可能な攻撃証拠を作成します。
仕事内容
- 会話型AIモデルとエージェントに対して敵対的テストを行い、脱獄、プロンプトインジェクション、悪用、バイアスの悪用、多ターン操作を検出する
- 人手データのアノテーションを作成し、失敗を分類して体系的なリスクを特定する
- 確立された分類法、ベンチマーク、プレイブックを使用して評価を標準化する
- 顧客向けに再現可能なレポート、データセット、攻撃事例を提供する
- バイアス、誤情報、有害行動などのセンシティブな話題に関するAIの応答を評価する
- 自動テストでは検出できない弱点を見つける
- 評価範囲を広げ、実運用環境での予期しない問題の防止に役立てる
- 構造化された敵対的テストを通じて顧客のAIシステムを改善する
応募要件
- 英語とアッサム語におけるネイティブレベルの流暢さ
- 言語とコンテンツの正確性、完全性、適切性を評価する際の確かな判断力
- 微妙な誤り、不整合、欠落を見抜く能力
- ガイドラインと品質基準を一貫して遵守する姿勢
- 技術系・非技術系の双方に推論を明確に伝える能力
- プロジェクト、タスク形式、顧客ニーズの違いに柔軟に対応する能力
- 歓迎：脱獄データセット、プロンプトインジェクション、RLHFまたはDPO攻撃、モデル抽出などの敵対的機械学習の経験
- 歓迎：ペネトレーションテスト、エクスプロイト開発、リバースエンジニアリングなどのサイバーセキュリティ経験
- 歓迎：ハラスメントや偽情報の探索、悪用分析、会話型AIテストなどの社会技術的リスクに関する経験
- 歓迎：型破りな敵対的思考に役立つ心理学、演技、執筆の経験
- 独立請負業者として働く必要があります
- H-1BおよびSTEM OPTの候補者はサポート対象外です
福利厚生
- 完全リモートで働ける
- 勤務スケジュールを自分で選べる
- StripeまたはWiseを通じて毎週支払いを受けられる
- 人手データを活用したAIレッドチーミングの実践経験を積める
- AIシステムの堅牢性、安全性、信頼性の向上に貢献できる
- 一流の研究者と働ける
- 申請に応じて合理的配慮を受けられる
- 紹介が成功すると最大90ドルの紹介報酬を受け取れる