AI安全専門家—英語・マラーティー語（リモート契約）
Mercorは、英語とマラーティー語に堪能で、会話型AIシステムのレッドチームテストを行うAI安全専門家を募集しています。 この契約職では、敵対的テスト、脆弱性分析、人間データおよびフロンティアAIプロジェクト向けの明確な報告に取り組みます。
仕事内容
- 脱獄、プロンプトインジェクション、悪用シナリオ、バイアスの悪用、多ターン操作に対して、会話型AIモデルとエージェントをテストする
- 失敗事例へのアノテーション、脆弱性の分類、システム上のリスクの特定により、人間データ資産を作成する
- 確立された分類体系、ベンチマーク、プレイブックを使用し、一貫した評価を行う
- 再現可能な攻撃事例、データセット、顧客向けレポートを提供する
- バイアス、誤情報、有害な行動など、センシティブなテーマに関するAIの応答を評価する
- 自動評価手法では見落とされる可能性のある弱点を見つける
- テスト範囲を広げ、本番環境で予期せぬ問題が発生するのを防ぐ
- 顧客がAIシステムの安全性、堅牢性、信頼性を向上できるよう支援する
- 第一線の研究者と協力し、フロンティアAIモデルの訓練・進歩に取り組むプロジェクトを支援する
応募要件
- 英語とマラーティー語を母語レベルまたは流暢に扱えること
- 言語とコンテンツを評価する際の適切な判断力
- AIの応答が正確、完全、適切かを判断し、その理由を明確に説明できること
- 微妙な誤り、不整合、抜け漏れに細かく注意を払えること
- テストガイドラインと品質要件を確実に遵守できること
- 技術・非技術の双方の対象者に推論を明確に伝えられること
- さまざまなプロジェクト、タスク、顧客に柔軟に対応できること
- 独立請負業者として働けること
- H-1BまたはSTEM OPTのスポンサーシップを必要としないこと
- 歓迎：脱獄データセット、プロンプトインジェクション、RLHF/DPO攻撃、モデル抽出などの敵対的機械学習の経験
- 歓迎：ペネトレーションテスト、エクスプロイト開発、リバースエンジニアリングなどのサイバーセキュリティ経験
- 歓迎：ハラスメントや偽情報のプロービング、悪用分析、会話型AIテストなどの社会技術的リスクの経験
- 歓迎：型破りな敵対的思考に活かせる心理学、演技、執筆の経験
福利厚生
- 完全リモートの契約業務
- 勤務時間を自分で設定できる柔軟なスケジュール
- StripeまたはWiseによる週払い
- プロジェクト期間は、事業上の必要性や成果に応じて変更または早期終了する場合があります
- より高い配慮を要するコンテンツを扱うプロジェクトへの任意参加
- センシティブなコンテンツを扱う業務向けの明確なガイダンスとウェルネスリソース
- 要請に応じて合理的配慮を利用可能
- 紹介が成功するごとに最大90米ドルの紹介報酬