OpenRouter е платформа за изкуствен интелект, която предоставя на разработчици и екипи единен начин за достъп и работа с големи езикови модели от различни доставчици. Каталогът ѝ от модели включва опции като Mistral Small 3 и DeepSeek R1 Distill Qwen 32B, които поддържат приложения, ориентирани към бързина, точност и гъвкав избор на модел. OpenRouter предлага и инструменти за програмиране и създаване на игри, с потенциални приложения в области като маркетинг, финанси и образование.
Отдалечен софтуерен инженер по доверие и безопасност в OpenRouter
Изграждайте системи за злоупотреби, измами и безопасност на съдържанието за инфраструктурата за маршрутизиране на AI на OpenRouter. Поемете отговорност за откриването, прилагането на мерки, инструментите за преглед и анализа на риска.
Съединени щати215 000 $ – 285 000 $ / година
ДистанционноПълен работен денСредно нивоСтаршиЗадължителен Език: английскиСофтуерен инженерФулстек инженерОписание
- Проектирайте и управлявайте системи в процесите на регистрация, плащане и използване, за да идентифицирате злоупотреби и измами на ранен етап
- Управлявайте процеса по прилагане на мерки от откриването през човешкия преглед до ограниченията в различни системи
- Създавайте инструменти за разследване и прилагане на мерки, като опашки с казуси, обобщения на доказателства, групови действия и сигнали
- Осигурявайте възможности за безопасност на съдържанието по пътя на инференцията, включително откриване и докладване на незаконно съдържание
- Интегрирайте или разработвайте KYC системи и външни източници на разузнавателна информация за проактивно идентифициране на измами и злоупотреби
- Разработвайте системи за откриване, оперативни инструменти и евристики, които поддържат бързо и мащабируемо прилагане на мерки
- Анализирайте инциденти в производствени данни, измервайте нововъзникващи модели и отделяйте злоупотребяващото поведение от фалшивите положителни резултати
- Внедрявайте мониторинг на риска, пиковете на злоупотреби и измамите, като същевременно подобрявате дела на фалшивите положителни резултати
- Ръководете техническата стратегия за предотвратяване на злоупотреби и създавайте многократно използваеми инженерни модели
- Работете с учени по данните за изследване на характеристики и обучение на модели за машинно обучение за риск и злоупотреби
Изисквания
- Поне четири години опит в изграждането и експлоатацията на производствени системи, за предпочитане в областта на доверието и безопасността, измамите, платежния риск, сигурността или борбата със злоупотребите
- Професионално владеене на React, TypeScript, Next.js и среди за изпълнение на JavaScript
- Способност за отправяне на заявки към големи набори от събитийни данни чрез SQL
- Задълбочено разбиране на базовите честоти, прецизността, пълнотата и последиците от неправилните решения
- Добра преценка при непълни доказателства
- Висока лична отговорност и силна ориентация към действие
- Работен стил, ориентиран към AI, който включва редовно използване на агенти за програмиране и автоматизация на работните процеси
- Комфорт при работа в малка и динамична среда с променящи се граници между екипите
- Дискретност и устойчивост при работа с обезпокоително съдържание и чувствителни потребителски данни
- Силни писмени и устни комуникационни умения
- Интерес към решаването на проблеми с противодействащ характер
- Предишен опит с инструменти за платежни измами като Stripe Radar, сторнирания на плащания, спорове или риск при криптоплащанията е предимство
- Предишен опит със системи за идентичност и KYC е предимство
- Предишен опит със злоупотреби, свързани с LLM, включително jailbreak атаки, инжектиране на подсказвания, кражба и препродажба на ключове, споделени или изтеглени идентификационни данни или автоматично създаване на акаунти е предимство
- Предишен опит с големи аналитични хранилища за данни като ClickHouse или BigQuery и платформи за наблюдаемост е предимство
- Познаването на изискванията за докладване и съответствие за хоствани AI услуги е предимство
- Опитът с използването на OpenRouter или със създаването на странични проекти в областта на AI продуктите, инфраструктурата или инструментите за разработчици е предимство
Придобивки
- Компенсация под формата на дялово участие
- Работа от разстояние в рамките на Съединените щати