OpenRouter — это платформа искусственного интеллекта, которая предоставляет разработчикам и командам единый способ доступа к большим языковым моделям разных поставщиков и работы с ними. В её каталоге представлены такие варианты, как Mistral Small 3 и DeepSeek R1 Distill Qwen 32B, для приложений, где важны скорость, точность и гибкий выбор модели. OpenRouter также предлагает инструменты для разработки и игр, а потенциальные области применения включают маркетинг, финансы и образование.
Удалённый инженер-программист по безопасности и защите от злоупотреблений в OpenRouter
Создавайте системы против злоупотреблений, мошенничества и небезопасного контента для инфраструктуры маршрутизации ИИ OpenRouter. Отвечайте за обнаружение нарушений, меры реагирования, инструменты проверки и аналитику рисков.
Описание
- Проектировать и эксплуатировать системы в процессах регистрации, платежей и использования, чтобы на раннем этапе выявлять злоупотребления и мошенничество
- Управлять конвейером применения мер реагирования: от обнаружения до проверки человеком и ограничений в разных системах
- Создавать инструменты расследования и применения мер реагирования, включая очереди дел, сводки доказательств, массовые действия и оповещения
- Разрабатывать возможности контроля безопасности контента на пути вывода, включая обнаружение сообщений с незаконным содержанием и их передачу на рассмотрение
- Интегрировать или разрабатывать системы KYC и подключать внешние источники аналитики для упреждающего выявления мошенничества и злоупотреблений
- Разрабатывать системы обнаружения, операционные инструменты и эвристики для быстрого и масштабируемого применения мер реагирования
- Анализировать инциденты в производственных данных, выявлять новые закономерности и отличать злоупотребления от ложных срабатываний
- Внедрять мониторинг рисков, всплесков злоупотреблений и мошенничества, одновременно снижая долю ложных срабатываний
- Определять техническую стратегию предотвращения злоупотреблений и формировать повторно используемые инженерные подходы
- Сотрудничать с аналитиками данных для поиска признаков и обучения моделей машинного обучения для оценки рисков и злоупотреблений
Требования
- Не менее четырёх лет опыта создания и эксплуатации производственных систем, предпочтительно в сфере доверия и безопасности, борьбы с мошенничеством, платёжных рисков, безопасности или защиты от злоупотреблений
- Уверенное владение React, TypeScript, Next.js и средами выполнения JavaScript
- Умение запрашивать большие массивы событийных данных с помощью SQL
- Глубокое понимание базовых показателей, точности, полноты и последствий ошибочных решений
- Здравое суждение при неполных данных
- Высокая ответственность за результат и выраженная ориентация на действия
- Ориентация на ИИ, включающая регулярное использование программных агентов и автоматизации рабочих процессов
- Готовность работать в небольшой динамичной команде с меняющимися границами ответственности
- Деликатность и устойчивость при работе с травмирующими материалами и конфиденциальными данными пользователей
- Сильные навыки письменной и устной коммуникации
- Интерес к решению задач, связанных с противодействием злоумышленникам
- Желательно: опыт работы с инструментами борьбы с платёжным мошенничеством, такими как Stripe Radar, возвраты платежей, споры или риски криптоплатежей
- Желательно: опыт работы с системами идентификации и KYC
- Желательно: опыт работы со злоупотреблениями, связанными с LLM, включая обход ограничений, внедрение промптов, кражу и перепродажу ключей, общие или украденные учётные данные либо автоматическое создание аккаунтов
- Желательно: опыт работы с крупными аналитическими хранилищами данных, такими как ClickHouse или BigQuery, и платформами наблюдаемости
- Желательно: знакомство с требованиями к отчётности и соблюдению нормативных требований для размещаемых ИИ-сервисов
- Желательно: опыт использования OpenRouter или создания собственных проектов в сфере ИИ-продуктов, инфраструктуры или инструментов для разработчиков
Преимущества
- Компенсация в виде доли в капитале компании
- Удалённая работа в пределах США