AI安全専門家、英語・オランダ語（リモート契約）
Mercorは、英語とオランダ語を話すAI安全専門家を募集し、会話モデルとエージェントのレッドチームテストを担当していただきます。最先端AIの開発を支援するため、脆弱性データや攻撃シナリオを作成し、再現可能な安全性レポートを作成します。
仕事内容
- 脱獄、プロンプトインジェクション、悪用シナリオ、バイアスの悪用、マルチターン操作を使って会話型AIモデルとエージェントをテストする
- 失敗事例のアノテーション、脆弱性の分類、システム上のリスクの特定を通じて、人手で生成したデータを作成する
- 分類体系、ベンチマーク、プレイブックを使って、一貫性のある安全性テストを支援する
- 顧客向けに再現可能なレポート、データセット、攻撃ケースを作成する
- 自動テストでは見落とされる可能性のある脆弱性を見つける
- 評価範囲を広げ、実運用環境で予期しないリスクが発生する可能性を低減する
- 第一線の研究者と協力し、最先端AIシステムのトレーニングと改善に取り組む
応募要件
- 英語とオランダ語を母語レベルで流暢に使えること
- AIレッドチーム、サイバーセキュリティの攻撃的業務、または社会技術的なプロービングの経験
- AIシステムを敵対的にテストし、失敗条件へ誘導できること
- フレームワークやベンチマークを構造化テストに適用した経験
- 技術者と非技術者の双方にリスクを明確に伝えられること
- 異なるプロジェクトや顧客に適応できること
- 敵対的機械学習の経験が望ましい。脱獄データセット、プロンプトインジェクション、RLHF/DPO攻撃、モデル抽出などの経験を含む
- サイバーセキュリティの経験が望ましい。侵入テスト、エクスプロイト開発、リバースエンジニアリングなどの経験を含む
- 社会技術的リスクの経験が望ましい。ハラスメントや偽情報のプロービング、悪用分析、会話型AIテストなどの経験を含む
- 心理学、演技、文章作成における創造的なプロービング経験が望ましい
- 独立請負業者として働けること
- H-1BおよびSTEM OPTの候補者には対応していません
福利厚生
- 完全リモート勤務
- 勤務時間を自分で設定できる柔軟なスケジュール
- 提供したサービスに基づき、StripeまたはWiseを通じて毎週支払い
- プロジェクトは業務上のニーズや成果に応じて延長、短縮、または早期終了となる場合があります
- より高い機密性が求められるプロジェクトへの参加は任意
- コンテンツガイドラインとウェルネスリソースを提供
- 要請に応じて合理的配慮を利用可能
- 競争力のある時間給
- 紹介が成功するごとに最高250ドルの紹介報酬。上限などの制限が適用されます