英語・フィンランド語対応 AI安全性専門家
ジェイルブレイク、プロンプトインジェクション、悪用シナリオを用いて、最先端AIシステムの脆弱性を探ります。 構造化された調査結果と再現可能な攻撃例を作成し、AI安全性評価を支援します。
仕事内容
- ジェイルブレイク、プロンプトインジェクション、悪用シナリオ、バイアスの悪用、多段階の操作を用いて、対話型AIモデルやエージェントをテストします。
- 失敗事例を記録し、脆弱性を分類してシステム上のリスクを特定し、人手でラベル付けしたデータを作成します。
- 分類体系、ベンチマーク、プレイブックを活用し、テストの一貫性を保ちます。
- 再現可能なレポート、データセット、攻撃事例を顧客に提供します。
- バイアス、誤情報、有害な振る舞いなど、慎重な扱いを要する話題に関するAIの出力を評価します。
- 自動テストでは見逃される可能性のある脆弱性を見つけます。
- 評価範囲を広げ、本番環境で予期しない問題が起きるのを防ぐ支援をします。
- 最先端AIシステムの訓練と改善に取り組むプロジェクトに貢献します。
応募要件
- 英語とフィンランド語に堪能、またはネイティブレベルであること。
- AIの敵対的テスト、サイバーセキュリティ、または社会技術的な調査におけるレッドチーム経験。
- 敵対的な手法でAIシステムをテストし、限界まで検証できること。
- 構造化テストのフレームワークまたはベンチマークの使用経験。
- 技術者と非技術者の双方にリスクを明確に説明できること。
- プロジェクトや顧客ごとに柔軟に対応できること。
- 敵対的機械学習、サイバーセキュリティ、社会技術的リスク、または創造的な調査の専門性があれば尚可。
- 独立請負業者としての契約。
- H-1BまたはSTEM OPTのスポンサーシップを必要としないこと。
福利厚生
- 完全リモート勤務。
- 勤務時間は柔軟で、自分で設定できます。
- StripeまたはWiseを通じた週払い。
- 需要や実績に応じて、プロジェクトが延長、短縮、または早期終了する場合があります。
- ウェルネス関連のリソースを利用でき、慎重な扱いを要する話題を含むプロジェクトには明確なガイダンスがあります。
- 申請に応じて合理的配慮を提供します。
- 人手によるデータに基づくAIレッドチームの経験を積む機会。
- 第一線の研究者と協働できます。
- 紹介した人材の採用が成功した場合、1名につき最大250ドルの紹介報酬。条件が適用されます。