ActiveFence е компания за киберсигурност и изкуствен интелект, фокусирана върху доверието и безопасността на онлайн платформите. Цялостното ѝ решение съчетава разузнавателни изследвания, откриване на вредно съдържание с помощта на изкуствен интелект и инструменти за модериране на съдържание, за да помогне на платформите да се справят с рискове като сексуална експлоатация на деца, дезинформация, реч на омразата, тероризъм, голота, измами и други форми на онлайн вреда. ActiveFence подкрепя екипи по доверие и безопасност с различен размер и помага за защитата на над три милиарда потребители по света на повече от 100 езика.
Старши специалист по данни за GenAI в ActiveFence (хибридно, Израел)
Роля за старши специалист по данни за GenAI, насочена към автоматизирано red teaming тестване, машинно обучение и мащабен анализ на данни. Ще създавате системи, които помагат за откриване на нововъзникващи заплахи за сигурността в онлайн изживявания и продукти с изкуствен интелект.
Описание
- Разработване на мащабируеми агенти за анализ на данни, които разсъждават върху многоетапни работни процеси и ги изпълняват за генериране и анализ на адверсариални атаки.
- Управление и интерпретиране на данни за подкани и отговори от red-team кампании, оценки на модели и синтетични атаки, включително почистване, куриране, нормализиране и етикетиране.
- Изследване на структурирани и неструктурирани данни за откриване на тенденции, клъстери, аномалии, семейства атаки, техники за заобикаляне на защитите и нови модели.
- Създаване на модели за машинно обучение и прогнозни алгоритми, които автоматизират red-team процесите.
- Разработване на конвейери за оценяване и наблюдение, които измерват успеваемостта на атаките и сравняват поведението на моделите при различни доставчици.
- Прилагане на статистически методи и експерименти за проверка на резултатите и подпомагане на точни, възпроизводими заключения.
- Внедряване на изследванията в продукция чрез надеждни, мащабируеми системи, проектирани за ефективност по отношение на разходите и латентността и подкрепени от тестване, CI/CD и телеметрия.
Изисквания
- Най-малко пет години практически опит в анализа на данни или машинното обучение с Python или R и SQL.
- Най-малко три години опит със Scikit-Learn и PyTorch.
- Практически опит в GenAI red teaming, адверсариално тестване или сигурност на LLM.
- Опит в изграждането и внедряването на системи, задвижвани от LLM или машинно обучение, в продукционна среда.
- Задълбочени познания за моделите на проектиране на LLM, включително проектиране на подкани, извикване на инструменти, структурирани изходи и RAG.
- Задълбочено разбиране на клъстерирането, embedding представянията и NLP, семантичната близост и откриването на аномалии или новост.
- Опит в разработването на системи за класификация, класиране или приоритизиране.
- Стабилна основа в статистиката, експерименталния дизайн и оценяването на модели.
- Опит с Cradle, Apache Hadoop, Spark и разработването на мащабни ETL процеси и конвейери за данни.
- Магистърска степен по компютърни науки, електротехническо инженерство, математика, статистика или сродна дисциплина.
- Докторска степен е предимство, но не е задължителна.