ActiveFence — компанія у сфері кібербезпеки та штучного інтелекту, що спеціалізується на забезпеченні довіри й безпеки онлайн-платформ. Комплексна пропозиція компанії поєднує аналітичні дослідження, виявлення шкідливого контенту на основі ШІ та інструменти модерації контенту, допомагаючи платформам протидіяти таким загрозам, як сексуальна експлуатація дітей, дезінформація, мова ворожнечі, тероризм, матеріали сексуального характеру, шахрайство та інші види шкоди в інтернеті. ActiveFence підтримує команди, відповідальні за довіру й безпеку, незалежно від їхнього розміру, допомагаючи захищати понад три мільярди користувачів у всьому світі більш ніж 100 мовами.
Провідний фахівець із даних GenAI в ActiveFence (гібридний формат, Ізраїль)
Роль провідного фахівця із даних GenAI зосереджена на автоматизованому red teaming, машинному навчанні та масштабному аналізі даних. Створюйте системи, що допомагають виявляти нові загрози безпеці в онлайн-середовищах і продуктах на основі ШІ.
Опис
- Розробляти масштабованих агентів для роботи з даними, здатних міркувати та виконувати багатоетапні робочі процеси для генерування й аналізу атак із використанням змагальних методів.
- Керувати даними промптів і відповідей із кампаній red team, оцінювання моделей і синтетичних атак, зокрема очищенням, куруванням, нормалізацією та маркуванням.
- Досліджувати структуровані й неструктуровані дані для виявлення тенденцій, кластерів, аномалій, сімейств атак, технік обходу обмежень і нових закономірностей.
- Створювати моделі машинного навчання та алгоритми прогнозування для автоматизації процесів red team.
- Розробляти конвеєри оцінювання та моніторингу для вимірювання успішності атак і порівняння поведінки моделей різних постачальників.
- Застосовувати статистичні методи та проводити експерименти для перевірки висновків і забезпечення точних, відтворюваних результатів.
- Перетворювати дослідження на продукційні рішення за допомогою надійних і масштабованих систем, оптимізованих за вартістю та затримкою, із тестуванням, CI/CD і телеметрією.
Вимоги
- Щонайменше п’ять років практичного досвіду в аналізі даних або машинному навчанні з використанням Python або R і SQL.
- Щонайменше три роки досвіду роботи зі Scikit-Learn і PyTorch.
- Практичний досвід проведення red teaming для GenAI, змагального тестування або безпеки LLM.
- Досвід створення та розгортання в продукції систем на основі LLM або машинного навчання.
- Глибокі знання шаблонів проєктування LLM, зокрема розроблення промптів, виклику інструментів, структурованих вихідних даних і RAG.
- Глибоке розуміння кластеризації, ембедингів і NLP, семантичної подібності, а також виявлення аномалій або новизни.
- Досвід розроблення систем класифікації, ранжування або пріоритизації.
- Ґрунтовна база у статистиці, плануванні експериментів та оцінюванні моделей.
- Досвід роботи з Cradle, Apache Hadoop, Spark, а також розроблення великомасштабних ETL-процесів і конвеєрів даних.
- Ступінь магістра в галузі комп’ютерних наук, електротехніки, математики, статистики або суміжної дисципліни.
- Ступінь Ph.D. буде перевагою, але не є обов’язковою.