AI安全専門家――英語・ベンガル語（リモート契約）
Mercorは、英語とベンガル語を話し、会話型AIシステムの脆弱性を特定するAI安全性レッドチーム担当者を募集しています。このポジションでは、再現可能な攻撃事例の作成と、最先端モデルのトレーニングを行うAI研究所向けの人手生成データの作成を担当します。
仕事内容
- ジェイルブレイク、プロンプトインジェクション、悪用シナリオ、バイアスの悪用、複数ターンの操作を用いて会話型AIモデルとエージェントをテストする
- 失敗事例へのアノテーション、脆弱性の分類、体系的リスクの特定を通じて人手生成データを作成する
- 確立された分類体系、ベンチマーク、プレイブックを使用し、評価の一貫性を保つ
- 再現可能なレポート、データセット、攻撃事例を顧客に提供する
- バイアス、誤情報、有害な行動、その他のセンシティブなテーマに関するAIの応答を評価する
- 評価範囲を広げ、顧客のより強固なAIシステムに貢献する
応募要件
- 英語とベンガル語の両方を母語または流暢なレベルで使えること
- 言語とコンテンツを評価する際の適切な判断力。AIの応答が正確、十分、適切かどうかを判断し、その評価を説明できることを含む
- 微妙な誤り、不整合、抜け漏れに細心の注意を払えること
- テストガイドラインと品質基準を確実に遵守できること
- 技術者と非技術者の双方に推論を明確に伝えられること
- プロジェクト、タスク形式、顧客に応じて柔軟に対応する意欲
- 独立請負業者として働けること
- H-1BまたはSTEM OPTのスポンサーシップを必要としないこと
- 歓迎：ジェイルブレイクデータセット、プロンプトインジェクション、RLHF/DPO攻撃、モデル抽出などの敵対的機械学習の経験
- 歓迎：ペネトレーションテスト、エクスプロイト開発、リバースエンジニアリングなどのサイバーセキュリティ経験
- 歓迎：ハラスメントや偽情報のプロービング、悪用分析、会話型AIテストなどの社会技術的リスクに関する経験
- 歓迎：心理学、演技、執筆など、型破りな敵対的思考に役立つ経験
福利厚生
- 完全リモートで働ける
- 柔軟なスケジュールを設定し、自分の都合に合わせて働ける
- StripeまたはWiseを通じて毎週支払いを受けられる
- より高いセンシティビティが求められるプロジェクトに参加するかどうかを選べる
- センシティブなコンテンツを扱う業務について、明確なガイダンスとウェルネスリソースを利用できる
- 競争力のある報酬を受け取れる
- 人手データを活用したAIレッドチーム業務の経験を積める
- 第一線のAI研究者と協働できる
- 紹介した人が採用されると、1人につき最大90ドルの紹介報酬を受け取れる