リモートAI安全性専門家（英語・グジャラート語）—契約
Mercorは、英語とグジャラート語に堪能で、最先端AIモデルのレッドチームテストを行う契約制のAI安全性専門家を募集しています。脆弱性のテスト、失敗の評価、再現可能なデータセットと攻撃ケースの作成に携わります。
仕事内容
- 会話型AIモデルとエージェントをテストし、脱獄、プロンプトインジェクション、悪用シナリオ、バイアスの悪用、多ターン操作を検証する
- 失敗へのアノテーション、脆弱性の分類、体系的リスクの特定によって人手で生成したデータを作成する
- 確立された分類体系、ベンチマーク、プレイブックを使い、一貫した評価を行う
- 再現可能な顧客向けレポート、データセット、攻撃ケースを作成する
- バイアス、誤情報、有害な挙動など、AI出力に含まれる機微な問題を評価する
- 自動テストでは検出できない弱点を見つける
- 評価範囲を広げ、予期しない本番環境の問題の防止に役立てる
- 最先端AIシステムの学習と改善に取り組むプロジェクトに貢献する
応募要件
- 英語とグジャラート語を母語レベルまたは流暢に使えること
- 言語とコンテンツの正確性、完全性、適切性を評価する際の確かな判断力
- 微妙な誤り、不整合、欠落を検出する能力
- 確立されたガイドラインと品質基準を一貫して遵守できること
- 技術者と非技術者の双方に判断理由を明確に伝えられること
- プロジェクト、タスク形式、顧客ニーズに柔軟に対応できること
- 独立請負業者として従事すること
- H-1BおよびSTEM OPTの候補者は対象外
- 歓迎：脱獄データセット、プロンプトインジェクション、RLHF/DPO攻撃、モデル抽出などの敵対的機械学習の経験
- 歓迎：ペネトレーションテスト、エクスプロイト開発、リバースエンジニアリングなどのサイバーセキュリティ経験
- 歓迎：ハラスメントや偽情報のプロービング、悪用分析、会話型AIテストなど、社会技術的リスクに関する経験
- 歓迎：型破りな敵対的思考に役立つ心理学、演技、ライティングの経験
福利厚生
- 米国内からリモートで働ける
- 都合に合わせて柔軟なスケジュールを選べる
- StripeまたはWiseを通じて毎週支払いを受けられる
- 高感度プロジェクトへの参加・不参加を選べる
- 機微なコンテンツを扱う業務について、明確なガイダンスとウェルネスリソースを利用できる
- 競争力のある時給報酬
- 申請に応じて合理的配慮を利用できる
- 適用される上限を条件として、紹介が1件成功するごとに最大90米ドルを獲得できる