AI安全専門家（英語・グジャラート語）—リモート契約
Mercorのために、対話型AIモデルとエージェントのレッドチーム評価を実施します。Mercorはフロンティアシステムの訓練に取り組むAIラボのパートナーです。脆弱性データ、攻撃シナリオ、再現可能な安全性レポートを作成します。
仕事内容
- 脱獄、プロンプトインジェクション、悪用シナリオ、バイアスの悪用、多ターン操作を用いて対話型AIモデルとエージェントをテストする
- 失敗事例のアノテーション、脆弱性の分類、システム上のリスクの特定を行い、人手でラベル付けしたデータを作成する
- 確立された分類体系、ベンチマーク、プレイブックを使用して、一貫した評価を実施する
- 再現可能なレポート、データセット、攻撃シナリオを作成する
- バイアス、誤情報、有害行動、その他のセンシティブな話題を含むAIの応答を評価する
- 自動テストでは見落とされる可能性のある弱点を特定する
- 評価範囲を広げ、プロダクション環境で予期しない問題が発生するリスクを抑える
- 明確で再現可能な評価成果物によって顧客のAIシステムを改善する
応募要件
- 英語とグジャラート語が母語または流暢に使えること
- 言語とコンテンツを評価する際の適切な判断力
- AIの応答が正確、完全、適切かどうかを判断し、その評価を説明できること
- 微妙な誤り、不整合、欠落に細心の注意を払えること
- ガイドラインと品質要件を一貫して遵守できること
- 技術者と非技術者の双方に推論を明確に伝えられること
- プロジェクト、タスク形式、顧客に応じて柔軟に対応できること
- 敵対的機械学習、サイバーセキュリティ、社会技術的リスク、または創造的なプロービングの専門知識があれば尚可
- 独立請負業者として働けること
- H-1BおよびSTEM OPTの候補者には対応していません
福利厚生
- 完全リモートで勤務
- 勤務スケジュールを自由に選択
- StripeまたはWiseを通じて週払い
- 競争力のある時間単価報酬
- より高いセンシティビティのコンテンツを扱うプロジェクトへの参加を選択可能
- センシティブなコンテンツを扱う業務について、明確なガイダンスとウェルネスリソースを利用可能
- 申請に応じて合理的配慮を提供
- 紹介が成功するごとに最大90米ドルの紹介報酬