Beacon Venture Capital — корпоративный венчурный фонд Kasikornbank PLC, ведущего коммерческого банка Таиланда, полностью принадлежащий этой банковской группе. Фонд основан в 2016 году и стратегически инвестирует в технологические стартапы на ранних стадиях и этапах роста, уделяя основное внимание финтеху. Среди других инвестиционных направлений — потребительские lifestyle-бизнесы и глубокие технологические области, такие как искусственный интеллект и корпоративные ИТ-системы. Beacon Venture Capital начал работу с капиталом в размере 30 миллионов долларов США, а к 2018 году увеличил его до 135 миллионов долларов США.
Штатный инженер-программист по искусственному интеллекту и большим языковым моделям
Руководите разработкой авиационных возможностей на базе больших языковых моделей для платформы Beacon AI, повышающей безопасность полётов, включая RAG, вызов инструментов, оценивание, безопасность и надёжность в продакшене.
Описание
- Разрабатывайте пользовательские возможности продуктов на базе больших языковых моделей — от проектирования до вывода в продакшен
- Проектируйте рабочие процессы генерации с дополнением извлечёнными данными и вызова инструментов
- Создавайте надёжные ответы в формате JSON и с ограничениями схемы, включая валидацию, повторные попытки и резервную обработку
- Используйте вызов функций для подключения внутренних инструментов, поиска, маршрутизации и сервисов данных
- Разрабатывайте API и фоновые обработчики на Python или TypeScript с явными контрактами, потоковой передачей и экспоненциальной задержкой
- Используйте кэширование, формирование запросов, шаблоны промптов и упаковку контекста для управления задержкой и затратами
- Подключайте приложения к AWS Bedrock, OpenAI, Anthropic или самостоятельно размещённым конечным точкам моделей
- Работайте с инженерами инфраструктуры над разбиением на фрагменты, эмбеддингами и индексированием документов, временных рядов и мультимедийных данных
- Выбирайте и оптимизируйте векторные базы данных, включая OpenSearch, pgvector и Pinecone
- Поддерживайте базы знаний в актуальном состоянии, синхронизируя данные из S3, Aurora, DynamoDB и внешних источников
- Создавайте офлайн-оценивания и эталонные наборы данных для промптов, средств извлечения и инструментов
- Определяйте онлайн-метрики успешности задач, частоты галлюцинаций, точности и полноты извлечения, задержки p95 и стоимости каждого запроса
- Проводите A/B-тестирование и внедряйте изменения промптов и версий с защитными механизмами и канареечными релизами
- Внедряйте контроль контента и политик, обнаружение и редактирование персональных данных, контроль доступа и журналы аудита
- Создавайте процессы с участием человека для чувствительных операций
- Обрабатывайте авиационные данные в соответствии с внутренними стандартами безопасности
- Обеспечивайте трассировку, логирование и панели мониторинга для вызовов моделей, использования токенов, ошибок и насыщения системы
- Исследуйте сбои в извлечении, промптах, инструментах и у поставщиков моделей
- Определяйте техническое направление для сервисов и команд при решении сложных и неоднозначных задач
- Работайте с партнёрами из команд машинного обучения, инфраструктуры и продукта над пользовательским опытом, результатами, надёжностью и системами, критичными для безопасности
Требования
- Не менее 8 лет опыта, включая ответственность за системы или стандарты, используемые другими инженерами
- Или соответствующая степень магистра и не менее 4 лет релевантного опыта
- Опыт запуска функций на базе больших языковых моделей для конечных пользователей и их улучшения на основе данных
- Глубокие навыки разработки, тестирования и технического документирования в продакшене
- Знание эмбеддингов, разбиения на фрагменты, компромиссов векторного поиска и вызова функций
- Опыт проектирования оцениваний, определения метрик успеха и итеративного улучшения на основе данных
- Способность отслеживать задержку p95, выполнять SLA и снижать затраты без ухудшения качества
- Способность объяснять компромиссы и согласовывать решения между заинтересованными сторонами из продукта, инфраструктуры и безопасности
- Опыт технического лидерства, включая определение направлений или стандартов, принятых инженерами или командами
- Владение Python или TypeScript
- Опыт работы с RAG, процессами вызова инструментов, JSON с ограничениями схемы, валидацией, повторными попытками, резервными сценариями, API, фоновыми обработчиками, потоковой передачей, задержками, кэшированием, шаблонами промптов, упаковкой контекста и поставщиками моделей
- Опыт использования AWS Bedrock, OpenAI, Anthropic или самостоятельно размещённых конечных точек
- Знакомство с OpenSearch, pgvector, Pinecone или Weaviate
- Опыт работы с источниками данных S3, Aurora и DynamoDB
- Опыт офлайн-оценивания, эталонных наборов данных, онлайн-метрик, A/B-тестирования, развёртывания промптов и версий, защитных механизмов и канареечных релизов
- Опыт внедрения средств контроля контента и политик, обнаружения и редактирования персональных данных, управления доступом и аудита
- Опыт работы с трассировкой, логированием, панелями мониторинга, диагностикой вызовов моделей и эксплуатацией продакшн-систем
- Требуется статус U.S. Person; спонсорство виз и переводы не предоставляются
- Вся работа должна выполняться на территории США
- Возможность работать в районе залива Сан-Франциско или в Сан-Кarlos, штат Калифорния, не менее 3 дней в неделю на рабочем месте
Преимущества
- Предоставляется доля в капитале компании
- Компания покрывает 100% страховых медицинских взносов сотрудника
- Компания покрывает 25% страховых медицинских взносов иждивенцев
- Три недели оплачиваемого отпуска
- Не менее 13 оплачиваемых праздничных дней компании
- Предоставляется план 401(k)
- В остальные дни гибридного графика доступна удалённая работа