AI安全専門家（英語・タミル語）—リモート契約
Mercorは、英語とタミル語を話し、会話モデルとエージェントのレッドチームテストを行えるAI安全専門家を求めています。 この契約職では、脆弱性の特定、評価データの作成、再現可能な安全性レポートの作成を担当します。
仕事内容
- ジェイルブレイク、プロンプトインジェクション、悪用シナリオ、バイアスの悪用、多ターン操作を用いて、会話型AIモデルとエージェントの敵対的テストを実施する。
- 失敗事例のアノテーション、脆弱性の分類、体系的なリスクの特定を通じて、人手で生成したデータを作成する。
- 確立された分類体系、ベンチマーク、プレイブックを使用し、一貫した評価を維持する。
- 再現可能なレポート、データセット、攻撃事例を顧客に提供する。
- バイアス、誤情報、有害な行動など、センシティブなテーマを含むAI出力を評価する。
- 自動評価手法では見落とされる可能性のある弱点を特定する。
- 評価範囲を広げ、予期しない本番環境の問題を最小限に抑える。
- 体系的な敵対的テストを通じて、顧客のAIシステムを改善する。
応募要件
- 英語とタミル語を母語レベルまたは流暢に使用できること。
- 言語とコンテンツを評価する際に、適切な判断力を発揮できること。
- AIの回答が正確、完全、適切かどうかを判断し、その理由を説明できること。
- 微妙な誤り、不整合、抜け漏れに細かく注意を払えること。
- ガイドラインと品質基準を一貫して遵守できること。
- 技術者と非技術者の双方に、推論を明確に伝えられること。
- プロジェクト、タスク形式、顧客の違いに適応できること。
- 独立請負業者として働けること。
- H1-BおよびSTEM OPTの候補者は対象外です。
- 歓迎：ジェイルブレイクデータセット、プロンプトインジェクション、RLHFまたはDPO攻撃、モデル抽出などの敵対的機械学習の経験。
- 歓迎：ペネトレーションテスト、エクスプロイト開発、リバースエンジニアリングなどのサイバーセキュリティ経験。
- 歓迎：ハラスメントや偽情報の探査、悪用分析、会話型AIテストなど、社会技術的リスクに関する経験。
- 歓迎：心理学、演技、執筆などを活用した創造的な探査経験。
福利厚生
- 完全リモートで勤務できます。
- 勤務時間は柔軟で、自分で設定できます。
- StripeまたはWiseを通じて毎週支払いを受けられます。
- より高い感度が求められるプロジェクトへの参加を選択できます。
- センシティブなコンテンツを扱う業務に向けて、明確なガイダンスとウェルネスリソースが提供されます。
- 競争力のある時給。
- 一流の研究者と協力する機会。
- 紹介が成功するごとに最大90米ドルの紹介報酬を受け取れますが、適用される上限に従います。
- 申請に応じて合理的配慮を利用できます。