AI安全レッドチーム専門家—英語・フィンランド語、米国リモート
Mercorの人間データAIプロジェクト向けに、会話型AIモデルとエージェントの敵対的テストを実施します。 最先端AIシステムの強化に役立つ、再現可能な脆弱性データを作成します。
仕事内容
- 脱獄、プロンプトインジェクション、悪用シナリオ、バイアスの悪用、多ターン操作を用いて会話型AIモデルとエージェントをテストする
- 失敗をアノテーションし、脆弱性を分類して体系的なリスクを特定する
- 確立された分類体系、ベンチマーク、プレイブックを適用し、一貫した評価を行う
- 顧客向けに再現可能なレポート、データセット、攻撃事例を作成する
- 自動テストでは見落とされる可能性のある脆弱性を特定する
- 評価範囲を広げ、運用環境での予期しない問題の削減に貢献する
- AIシステムの訓練と改善に取り組む一流の研究者と協業する
応募要件
- 英語とフィンランド語が流暢または母語レベルであること
- AIの敵対的テスト、サイバーセキュリティ、または社会技術的プロービングにおけるレッドチーム経験
- AIシステムを敵対的にテストし、失敗点へ追い込む能力
- フレームワークまたはベンチマークを用いた構造化テストの経験
- 技術・非技術の双方の対象者にリスクを明確に伝える能力
- プロジェクトや顧客要件の変化に適応できること
- 独立請負人として契約業務に従事できること
- H-1BまたはSTEM OPTの候補者ではないこと
- 歓迎：脱獄データセット、プロンプトインジェクション、RLHF/DPO攻撃、モデル抽出などの敵対的機械学習の経験
- 歓迎：ペネトレーションテスト、エクスプロイト開発、リバースエンジニアリングなどのサイバーセキュリティ経験
- 歓迎：嫌がらせや偽情報のプロービング、悪用分析、会話型AIテストなどの社会技術的リスク経験
- 歓迎：型破りな敵対的思考を支える心理学、演技、または執筆の経験
福利厚生
- 完全リモート勤務
- 柔軟なスケジュール
- StripeまたはWiseによる毎週の支払い
- ウェルネスリソースと、高感度プロジェクト向けの明確なガイドライン
- 人間データAIのレッドチーム業務経験を積む機会
- AIシステムをより堅牢で安全かつ信頼できるものにするため、直接貢献できる機会
- 競争力のある報酬
- 紹介が成功するごとに最大250ドルの紹介ボーナス