ActiveFenceは、オンラインプラットフォームのトラスト＆セーフティに取り組むサイバーセキュリティおよび人工知能企業です。フルスタックのソリューションとして、インテリジェンス調査、AIを活用した有害コンテンツの検知、コンテンツモデレーションツールを組み合わせ、児童搾取、偽情報、ヘイトスピーチ、テロリズム、わいせつコンテンツ、詐欺など、さまざまなオンライン上の危害に関するリスクへの対応を支援しています。ActiveFenceは、規模の異なるトラスト＆セーフティチームを支援し、100以上の言語で世界30億人を超えるユーザーの保護に貢献しています。
AIレッドチーム — ActiveFenceの生成AI敵対的評価
ActiveFenceのAIセキュリティプラットフォーム向けに、敵対的攻撃、データセット、ベンチマークを開発します。 レッドチーム演習と脆弱性調査を通じて、大規模言語モデルの堅牢性を検証します。
仕事内容
- 新たな敵対的攻撃を設計する。
- 攻撃を大規模に生成・テストするためのスケーラブルなシステム構築を支援する。
- 攻撃の品質、有効性、新規性、再現性を評価する。
- 新たな攻撃パターンやモデルの脆弱性を発見する。
- 敵対的データセット、ベンチマーク、回帰テストを作成する。
- データサイエンス、セキュリティ、エンジニアリングの各チームと、知見、手法、構造化された攻撃データを共有する。
- モデルの堅牢性と防御の強化に貢献する。
応募要件
- サイバーセキュリティ、セキュリティ研究、レッドチーム、または関連するセキュリティ分野で3年以上の実務経験。
- データサイエンス、コンピューター工学、コンピューターサイエンス、または密接に関連する技術分野の学士号。
- 大規模言語モデル、プロンプトインジェクション、AIセキュリティに関する深い知識。
- レッドチーム、セキュリティ研究、または敵対的テストの経験。
- Pythonと自動化に関する高いスキル。
- 創造的に問題を解決し、新たな攻撃手法を開発する能力。
- 結果を分析し、知見を明確に伝える能力。
- OSWA、OSWE、OSCE3、SEC542、SEC522などの攻撃的サイバーセキュリティ資格があれば尚可。