
AIセーフティ・レッドチーム専門家(英語・パンジャブ語)
Mercorは、英語とパンジャブ語を話すAIセーフティ専門家を募集しています。対話型モデルとエージェントのレッドチームテストを行い、脆弱性の発見、攻撃ケースの作成、AI研究顧客向けの再現可能な安全性レポートの作成に取り組む契約ポジションです。
仕事内容
- 脱獄、プロンプトインジェクション、悪用シナリオ、バイアスの悪用、多ターン操作を用いて対話型AIモデルとエージェントをテストする
- バイアス、誤情報、有害な行動などのセンシティブなテーマに関するモデル出力を評価する
- 失敗を記録し、脆弱性を分類して、体系的なリスクを特定する
- 確立された分類体系、ベンチマーク、プレイブックを使用し、一貫した評価を維持する
- 顧客向けに再現可能なレポート、データセット、攻撃ケースを作成する
- 自動テストでは見落とされる可能性のあるAIシステムの弱点を調査する
- 評価範囲を広げ、本番環境で予期しない問題が発生する可能性を抑える
- 人間主導かつデータに基づくレッドチームテストによって顧客のAIシステムを改善する
応募要件
- 英語とパンジャブ語のネイティブまたは流暢な運用能力
- 言語とコンテンツを評価する際の優れた判断力
- AIの回答が正確、完全、適切かどうかを判断し、その評価を説明できる能力
- 微妙な誤り、不整合、抜け漏れに対する細部への徹底した注意力
- テストガイドラインと品質基準を一貫して遵守する姿勢
- 技術系・非技術系の双方に推論を明確に伝える能力
- プロジェクト、タスク形式、顧客をまたいで柔軟に対応する能力
- 独立請負業者として業務に従事できること
- H-1BまたはSTEM OPTのサポートを必要としないこと
- 敵対的機械学習、脱獄データセット、プロンプトインジェクション、RLHF/DPO攻撃、モデル抽出、ペネトレーションテスト、エクスプロイト開発、リバースエンジニアリング、嫌がらせまたは偽情報の調査、悪用分析、対話型AIテスト、心理学、演技、執筆などの専門知識があれば望ましい
福利厚生
- この職種で許可されている場所からリモートで働ける
- 自分で勤務スケジュールを設定できる
- 提供したサービスの報酬をStripeまたはWise経由で毎週受け取れる
- プロジェクトは、事業上のニーズや業績に基づいて延長、縮小、または早期終了となる場合がある
- ウェルネスリソースと、より高いセンシティビティのプロジェクト向けの明確なガイダンスを利用できる
- 人間のデータに基づくAIレッドチームテストの経験を積める
- AIシステムの堅牢性、安全性、信頼性の向上に貢献できる
- 競争力のある報酬
- 主要なAI研究者と協働できる





