Beacon Venture Capital — корпоративний венчурний фонд Kasikornbank PLC, провідного комерційного банку Таїланду, який повністю належить цій банківській групі. Фонд засновано у 2016 році, і він стратегічно інвестує в технологічні стартапи на ранніх стадіях та етапах зростання, зосереджуючись передусім на фінтеху. Серед інших інвестиційних напрямів — споживчі lifestyle-бізнеси та глибокі технологічні галузі, зокрема штучний інтелект і корпоративні ІТ-системи. Beacon Venture Capital розпочав діяльність із капіталом у 30 мільйонів доларів США, а до 2018 року збільшив його до 135 мільйонів доларів США.
Провідний інженер-програміст з хмарної інфраструктури (гібридний формат, Сан-Карлос)
Керуйте розробкою захищеної хмарної інфраструктури AWS і платформи LLM для авіаційних систем Beacon AI. Створюйте RAG, інфраструктуру машинного навчання, конвеєри даних і забезпечуйте експлуатацію хмарних систем у промисловому середовищі.
Опис
- Керувати розробкою основи AWS і платформи LLM Beacon AI
- Проєктувати, розгортати, підтримувати й експлуатувати захищену, надійну та масштабовану інфраструктуру AWS
- Розробляти конвеєри CI/CD і тестування для застосунків, інфраструктури та робочих процесів машинного навчання
- Адмініструвати захищені мережі, IAM, KMS, Secrets Manager і журнали аудиту
- Експлуатувати кінцеві точки моделей через AWS Bedrock і SageMaker
- Розробляти сервіси застосунків, які звертаються до LLM через API із потоковою передачею, пакетною обробкою та повторними спробами із затримкою
- Реалізовувати робочі процеси виконання промптів та інструментів за допомогою LangChain або подібних фреймворків
- Проєктувати конвеєри поділу на фрагменти, створення ембедингів, завантаження й обробки структурованих, неструктурованих, часових і мультимедійних даних
- Експлуатувати векторний пошук за допомогою OpenSearch Serverless, Aurora PostgreSQL із pgvector або Pinecone
- Створювати й підтримувати бази знань, синхронізувати дані з S3, Aurora, DynamoDB і зовнішніх джерел
- Створювати системи оцінювання якості, затримок, регресій, телеметрії, споживання токенів і витрат
- Реалізовувати захисні механізми, обмеження частоти запитів, резервні сценарії, маршрутизацію між провайдерами, виявлення й видалення персональних даних, контроль доступу, фільтрацію вмісту та аудиторські сліди
- Розробляти конвеєри даних із Glue, Lake Formation, S3, Glacier, Athena та пов’язаними сервісами AWS
- Керувати інфраструктурою, що підключається до периферійних пристроїв через захищений обмін повідомленнями, ідентифікацію та бездротові оновлення
- Співпрацювати з продуктовими та прикладними командами для інтеграції сервісів пошуку, ембедингів і ланцюжків LLM у користувацькі можливості
- Надавати розширену підтримку під час усунення проблем у хмарних сервісах і сервісах машинного навчання
- Покращувати якість пошуку, ефективність контекстного вікна, кешування та інференсу, вибір моделей, обладнання й автоматичне масштабування
- Відповідати за постачання рішення від проєктування системи до експлуатації у промисловому середовищі, включно з чергуваннями та постійним удосконаленням
Вимоги
- Мати щонайменше 8 років професійного досвіду або відповідний ступінь магістра та 5 років пов’язаного досвіду
- Мати досвід створення й експлуатації конвеєрів даних
- Проєктувати, розгортати й підтримувати хмарну інфраструктуру за допомогою інструментів Infrastructure as Code, таких як AWS CDK
- Створювати надійні системи CI/CD і тестування
- Виводити в промислову експлуатацію або підтримувати застосунки на базі LLM
- Розуміти архітектуру RAG, версіювання промптів і оркестрацію ланцюжків із LangChain або подібним фреймворком
- Мати глибокі знання сервісів AWS, зокрема VPC, IAM, KMS, CloudWatch, S3, ECS/EKS, Lambda, Step Functions, Bedrock і SageMaker
- Створювати конвеєри завантаження та перетворення даних на Python
- Знати Glue, Athena, EventBridge і SQS
- Розуміти принципи найменших привілеїв, керування секретами, мережевої ізоляції та дотримання вимог
- Застосовувати кількісне оцінювання, A/B-тестування й оперативні метрики в реальному часі
- Мати статус U.S. Person
- Мати законний дозвіл на роботу у США
- Бути здатним працювати без спонсорства робочої візи або її перенесення
- Бути готовим працювати в районі затоки Сан-Франциско або переїхати туди
- Бути здатним працювати в офісі в Сан-Карлосі, Каліфорнія, щонайменше три дні на тиждень
Переваги
- Компанія покриває 100% медичних страхових внесків працівника та 25% внесків за утриманців
- Три тижні оплачуваної відпустки
- Щонайменше 13 оплачуваних святкових днів компанії
- Пропонується план 401(k)
- Пропонується участь у капіталі
- В інші дні гібридного графіка доступна віддалена робота