TMTG, или Trump Media & Technology Group, — медиатехнологическая компания, платформы которой посвящены социальным сетям, стриминговым развлечениям, новостям и культуре. Она предоставляет пользователям и авторам площадки для обмена контентом и его публикации, позиционируя свои сервисы как альтернативу основным медийным нарративам.
Старший инженер-разработчик серверной части платформы ИИ
Создавайте готовые к эксплуатации функции на базе больших языковых моделей и базовую инфраструктуру ИИ для социальной платформы с миллионами пользователей. Развивайте системы поиска, обслуживания моделей, оценки качества и безопасности.
Описание
- Разрабатывайте функции ИИ для социальной платформы с миллионами пользователей.
- Тесно сотрудничайте с архитектором платформы и инженерной командой.
- Создавайте базовую инфраструктуру ИИ с нуля.
- Помогайте формировать инженерные практики по мере роста команды.
- Интегрируйте сервисы с приложениями на Ruby on Rails и React/TypeScript.
- Отвечайте за серверные сервисы на всех этапах: от проектирования схем данных до развертывания и дежурств.
- Создавайте и обслуживайте системы запуска больших языковых моделей, поиска, оценки, мониторинга и безопасности.
Требования
- Не менее пяти лет опыта разработки серверной части на языке со статической типизацией, например Go, Java, Kotlin или C#.
- Опыт выпуска в production функций на базе больших языковых моделей, включая генерацию с поиском по данным (RAG), потоковую передачу ответов и использование инструментов.
- Практический опыт работы с инфраструктурой запуска больших языковых моделей, включая маршрутизацию между несколькими провайдерами, переключение при сбоях, потоковую передачу токенов, учет затрат и использования.
- Опыт создания систем поиска с векторным поиском, конвейерами эмбеддингов, сборкой контекста и ответами со ссылками на источники.
- Умение отслеживать галлюцинации, сбои поиска, недоступность провайдеров и превышение затрат.
- Опыт оценки качества ответов ИИ по релевантности, безопасности, качеству источников и воспроизводимости результатов.
- Отличные навыки проектирования API.
- Умение отвечать за сервис от проектирования схемы данных до развертывания и дежурной поддержки.
- Находиться в США и иметь разрешение на работу там.
- Язык Go будет существенным преимуществом.
- Опыт работы с Python.
- Опыт работы со шлюзами для больших языковых моделей или инструментами их запуска, например LiteLLM, vLLM или TGI.
- Опыт работы с векторными базами данных, например Qdrant или pgvector, и конвейерами эмбеддингов.
- Опыт дообучения моделей с открытыми весами с помощью LoRA или полного дообучения.
- Опыт работы с модерацией контента или инструментами безопасности.
- Знакомство с Ruby on Rails или React/TypeScript.