リモートAIセキュリティ専門家（英語・カンナダ語）
英語とカンナダ語の入力を使ってMercorの最先端AIモデルに対する敵対的テストを行い、脆弱性を特定します。 AIの顧客が利用できる再現可能な安全性データ、攻撃事例、レポートを作成します。
仕事内容
- 脱獄、プロンプトインジェクション、悪用シナリオ、バイアスの悪用、多ターン操作を用いて会話型AIモデルとエージェントをテストする
- 失敗事例のアノテーション、脆弱性の分類、体系的なリスクの特定を通じて、人手で生成したデータを作成する
- 確立された分類体系、ベンチマーク、プレイブックを使用し、一貫した評価を維持する
- 顧客が利用できる再現可能なレポート、データセット、攻撃事例を作成する
- バイアス、誤情報、有害な行動など、センシティブなテーマに関するAIの出力を評価する
- 自動評価では見落とされる可能性のある弱点を見つける
- 評価範囲を広げ、予期しない本番環境の問題の防止に役立てる
- MercorのAIラボと企業顧客向けに、AIシステムのトレーニングと改善を行うプロジェクトに貢献する
応募要件
- 英語とカンナダ語の両方を母語レベルまたは流暢に使えること
- AIの回答の正確性、完全性、適切性など、言語とコンテンツを評価する際の健全な判断力
- 技術者と非技術者の双方に推論を明確に伝える能力
- 微妙な誤り、不整合、見落としに細心の注意を払えること
- 分類体系、ベンチマーク、プレイブック、ガイドライン、品質基準を一貫して適用できること
- さまざまなプロジェクト、タスク形式、顧客に柔軟に対応できること
- 独立請負業者として働くこと
- H-1BまたはSTEM OPTの資格取得を目指していないこと
- 優遇：脱獄データセット、プロンプトインジェクション、RLHFまたはDPO攻撃、モデル抽出などの敵対的機械学習の経験
- 優遇：侵入テスト、エクスプロイト開発、リバースエンジニアリングなどのサイバーセキュリティの経験
- 優遇：ハラスメントや偽情報の調査、悪用分析、会話型AIテストなど、社会技術的リスクに関する経験
- 優遇：型破りな敵対的思考に役立つ心理学、演技、執筆の経験
福利厚生
- 完全リモートの契約業務で、柔軟なスケジュールに対応
- 提供したサービスに基づき、StripeまたはWiseを通じて毎週支払い
- フロンティアAIの安全性に焦点を当てた、人間データ主導のAIレッドチーム業務の経験を積める機会
- AIシステムをより堅牢、安全、信頼できるものにするための意義ある貢献
- 高いセンシティビティを含むプロジェクト向けのウェルネスリソースと明確なガイダンス
- 要望に応じて合理的配慮を利用可能
- 適用される制限に従い、紹介が成功するごとに最大90ドルの紹介報酬