OpenRouter — це платформа штучного інтелекту, яка надає розробникам і командам єдиний спосіб отримувати доступ до великих мовних моделей різних постачальників і працювати з ними. Її каталог моделей містить, зокрема, Mistral Small 3 і DeepSeek R1 Distill Qwen 32B, що дає змогу створювати застосунки, у яких важливі швидкість, точність і гнучкий вибір моделі. OpenRouter також пропонує інструменти для програмування та ігор, а потенційні сфери застосування охоплюють маркетинг, фінанси й освіту.
Віддалений інженер-програміст із безпеки та протидії зловживанням в OpenRouter
Створюйте системи протидії зловживанням, шахрайству та небезпечному контенту для інфраструктури маршрутизації ШІ OpenRouter. Відповідайте за виявлення, застосування обмежень, інструменти перевірки та аналітику ризиків.
Опис
- Проєктувати й експлуатувати системи в процесах реєстрації, платежів і використання, щоб завчасно виявляти зловживання та шахрайство
- Керувати конвеєром застосування обмежень: від виявлення до перевірки людиною та обмежень у різних системах
- Створювати інструменти розслідувань і застосування обмежень, зокрема черги справ, зведення доказів, масові дії та сповіщення
- Розробляти функції безпеки контенту на шляху виведення, зокрема виявлення та передавання на розгляд незаконного контенту
- Інтегрувати або розробляти системи KYC і зовнішні джерела аналітичних даних для проактивного виявлення шахрайства та зловживань
- Розробляти системи виявлення, операційні інструменти й евристики для швидкого масштабованого застосування обмежень
- Аналізувати інциденти у виробничих даних, вимірювати нові закономірності та відрізняти зловмисну поведінку від хибних спрацьовувань
- Впроваджувати моніторинг ризиків, сплесків зловживань і шахрайства, одночасно покращуючи показники хибних спрацьовувань
- Визначати технічну стратегію запобігання зловживанням і створювати багаторазово використовувані інженерні підходи
- Співпрацювати з фахівцями з даних, щоб досліджувати ознаки та навчати моделі машинного навчання для оцінювання ризиків і зловживань
Вимоги
- Щонайменше чотири роки досвіду створення й експлуатації виробничих систем, бажано у сфері довіри та безпеки, протидії шахрайству, платіжних ризиків, безпеки або протидії зловживанням
- Впевнене володіння React, TypeScript, Next.js і середовищами виконання JavaScript
- Уміння виконувати SQL-запити до великих наборів даних про події
- Глибоке розуміння базових показників, точності, повноти та наслідків неправильних рішень
- Зважене судження за неповної інформації
- Високе почуття відповідальності та сильна орієнтація на дії
- Підхід із пріоритетом ШІ, що передбачає регулярне використання програмних агентів і автоматизації робочих процесів
- Готовність працювати в невеликому динамічному середовищі зі змінними межами відповідальності команд
- Делікатність і стійкість під час роботи з травмувальними матеріалами та конфіденційними даними користувачів
- Сильні навички письмової та усної комунікації
- Інтерес до розв’язання задач, пов’язаних із протидією зловмисникам
- Бажано: досвід роботи з інструментами протидії платіжному шахрайству, такими як Stripe Radar, поверненнями платежів, диспутами або ризиками криптоплатежів
- Бажано: досвід роботи із системами ідентифікації та KYC
- Бажано: досвід роботи зі зловживаннями, пов’язаними з LLM, зокрема обходом обмежень, ін’єкціями промптів, крадіжкою та перепродажем ключів, спільними або викраденими обліковими даними чи автоматичним створенням облікових записів
- Бажано: досвід роботи з великими аналітичними сховищами даних, такими як ClickHouse або BigQuery, і платформами спостережуваності
- Бажано: обізнаність із вимогами до звітності та дотримання нормативних вимог для розміщених ШІ-сервісів
- Бажано: досвід використання OpenRouter або створення власних проєктів у сфері продуктів на основі ШІ, інфраструктури чи інструментів для розробників
Переваги
- Компенсація у вигляді частки в капіталі компанії
- Віддалена робота в межах США