ActiveFenceは、オンラインプラットフォームのトラスト＆セーフティに取り組むサイバーセキュリティおよび人工知能企業です。フルスタックのソリューションとして、インテリジェンス調査、AIを活用した有害コンテンツの検知、コンテンツモデレーションツールを組み合わせ、児童搾取、偽情報、ヘイトスピーチ、テロリズム、わいせつコンテンツ、詐欺など、さまざまなオンライン上の危害に関するリスクへの対応を支援しています。ActiveFenceは、規模の異なるトラスト＆セーフティチームを支援し、100以上の言語で世界30億人を超えるユーザーの保護に貢献しています。
ActiveFence シニアGenAIデータサイエンティスト（ハイブリッド勤務・イスラエル）
自動化レッドチーム、機械学習、大規模データ分析に取り組むシニアGenAIデータサイエンティストのポジションです。 オンライン体験やAI製品における新たなセキュリティ脅威の特定を支援するシステムを構築します。
仕事内容
- 敵対的攻撃の生成と分析を行う多段階ワークフローを推論・実行できる、スケーラブルなデータサイエンスエージェントを開発する。
- レッドチームキャンペーン、モデル評価、合成攻撃から得られるプロンプトとレスポンスのデータを管理・解釈する。データのクリーニング、キュレーション、正規化、ラベリングも含む。
- 構造化データと非構造化データを調査し、傾向、クラスター、異常、攻撃ファミリー、ジェイルブレイク技術、新たなパターンを特定する。
- レッドチームプロセスを自動化する機械学習モデルと予測アルゴリズムを作成する。
- 攻撃の成功率を測定し、プロバイダー間でモデルの挙動を比較するための評価・監視パイプラインを開発する。
- 統計的手法と実験を適用して調査結果を検証し、正確で再現可能な成果を支える。
- テスト、CI/CD、テレメトリによって支えられた、コストとレイテンシーの効率性を考慮した信頼性・拡張性の高いシステムを通じて、研究成果を本番環境へ移行する。
応募要件
- PythonまたはRとSQLを使用したデータサイエンスまたは機械学習の実務経験5年以上。
- Scikit-LearnとPyTorchの実務経験3年以上。
- GenAIのレッドチーム、敵対的テスト、またはLLMセキュリティの実務経験。
- LLMを活用したシステムまたは機械学習システムを本番環境で構築・デプロイした経験。
- プロンプトエンジニアリング、ツール呼び出し、構造化出力、RAGなど、LLMの設計パターンに関する深い知識。
- クラスタリング、埋め込みとNLP、意味的類似度、異常検知または新規性検知に関する深い理解。
- 分類、ランキング、または優先順位付けシステムの開発経験。
- 統計、実験計画、モデル評価に関する確かな基礎知識。
- Cradle、Apache Hadoop、Spark、および大規模ETL・データパイプライン開発の経験。
- コンピューターサイエンス、電気工学、数学、統計学、または関連分野の修士号。
- 博士号は歓迎するが、必須ではない。