リモートAI安全性エキスパート――英語・アッサム語（契約）
Mercorは、英語とアッサム語に堪能で、最先端モデルのレッドチームテスト、脆弱性評価、高品質な人手データの作成を担う、リモート契約制のAI安全性エキスパートを募集しています。
仕事内容
- 脱獄、プロンプトインジェクション、悪用シナリオ、バイアスの悪用、マルチターン操作などを用いて、会話型AIモデルとエージェントのレッドチームテストを行う
- 失敗のアノテーション、脆弱性の分類、体系的リスクの特定を通じて、人手ラベル付きデータを作成する
- 分類体系、ベンチマーク、プレイブックを使用し、一貫した評価を確保する
- 顧客向けに再現可能なレポート、データセット、攻撃ケースを作成する
- バイアス、誤情報、有害な行動などのセンシティブなテーマに関するAI出力を評価する
- 自動テストでは検出できない脆弱性を特定する
- 評価範囲を広げ、実運用環境での予期せぬ問題の最小化に貢献する
- 最先端AIシステムのトレーニングと改善に関わるプロジェクトに貢献する
応募要件
- 英語とアッサム語の両方をネイティブレベルで使えること
- 言語とコンテンツの品質を評価する際の確かな判断力
- AIの回答が正確、完全、適切かどうかを判断できること
- 技術者と非技術者の双方に推論を明確に伝えられること
- 微妙な誤り、不整合、欠落に対する並外れた注意力
- ガイドライン、分類体系、ベンチマーク、プレイブック、品質基準を一貫して適用できること
- プロジェクト、タスク形式、顧客のニーズをまたいで柔軟に対応できること
- 独立請負人として働くこと
- 現時点ではH-1BおよびSTEM OPTの候補者をサポートできません
- 敵対的機械学習、サイバーセキュリティ、社会技術的リスク、会話型AI評価、心理学、演技、ライティングなどの専門知識がある方を優先
福利厚生
- 完全リモートで働ける
- 自分に合ったスケジュールを設定できる
- StripeまたはWiseを通じて毎週支払いを受けられる
- 人手データを活用したAIレッドチームテストの実践経験を積める
- より堅牢で安全かつ信頼できるAIシステムの実現に貢献できる
- 一流のAI研究者と協働できる
- 要請に応じて合理的配慮を受けられる
- 紹介が成功するごとに、適用される上限に従い最大90米ドルの紹介報酬を受け取れる