Beacon Venture Capital — корпоративний венчурний фонд Kasikornbank PLC, провідного комерційного банку Таїланду, який повністю належить цій банківській групі. Фонд засновано у 2016 році, і він стратегічно інвестує в технологічні стартапи на ранніх стадіях та етапах зростання, зосереджуючись передусім на фінтеху. Серед інших інвестиційних напрямів — споживчі lifestyle-бізнеси та глибокі технологічні галузі, зокрема штучний інтелект і корпоративні ІТ-системи. Beacon Venture Capital розпочав діяльність із капіталом у 30 мільйонів доларів США, а до 2018 року збільшив його до 135 мільйонів доларів США.
Провідний інженер-програміст зі штучного інтелекту та великих мовних моделей
Керуйте розробкою авіаційних можливостей на основі великих мовних моделей для платформи Beacon AI, що підвищує безпеку польотів, охоплюючи RAG, виклик інструментів, оцінювання, безпеку та надійність у продакшені.
Опис
- Розробляйте користувацькі можливості продуктів на основі великих мовних моделей — від проєктування до продакшену
- Проєктуйте робочі процеси генерації з доповненням вилученими даними та виклику інструментів
- Створюйте надійні результати у форматі JSON і з обмеженнями схеми, використовуючи валідацію, повторні спроби та резервну обробку
- Використовуйте виклик функцій для підключення внутрішніх інструментів, пошуку, маршрутизації та сервісів даних
- Розробляйте API і фонові обробники на Python або TypeScript із чіткими контрактами, потоковою передачею та експоненційною затримкою
- Використовуйте кешування, формування запитів, шаблони промптів і пакування контексту для керування затримкою та витратами
- Підключайте застосунки до AWS Bedrock, OpenAI, Anthropic або власних кінцевих точок моделей
- Працюйте з інженерами інфраструктури над фрагментацією, ембедингами та індексуванням документів, часових рядів і мультимедійних даних
- Обирайте й оптимізуйте векторні бази даних, зокрема OpenSearch, pgvector і Pinecone
- Підтримуйте актуальність баз знань, синхронізуючи дані із S3, Aurora, DynamoDB і зовнішніх джерел
- Створюйте офлайн-оцінювання та еталонні набори даних для промптів, засобів вилучення й інструментів
- Визначайте онлайн-метрики успішності завдань, частоти галюцинацій, точності й повноти вилучення, затримки p95 і вартості кожного запиту
- Проводьте A/B-тести та розгортайте зміни промптів і версій із захисними механізмами та канарковими релізами
- Впроваджуйте контроль контенту й політик, виявлення та редагування персональних даних, контроль доступу й аудиторські журнали
- Створюйте процеси за участю людини для чутливих операцій
- Обробляйте авіаційні дані відповідно до внутрішніх стандартів безпеки
- Забезпечуйте трасування, логування та інформаційні панелі для викликів моделей, використання токенів, помилок і насичення системи
- Досліджуйте збої у вилученні, промптах, інструментах і постачальників моделей
- Визначайте технічний напрям для сервісів і команд під час розв’язання складних та неоднозначних завдань
- Працюйте з партнерами з команд машинного навчання, інфраструктури та продукту над користувацьким досвідом, результатами, надійністю та системами, критичними для безпеки
Вимоги
- Щонайменше 8 років досвіду, зокрема відповідальність за системи або стандарти, якими користуються інші інженери
- Або відповідний ступінь магістра та щонайменше 4 роки релевантного досвіду
- Досвід запуску функцій на основі великих мовних моделей для кінцевих користувачів і їхнього вдосконалення на основі даних
- Сильні навички промислової розробки, тестування та технічного документування
- Знання ембедингів, фрагментації, компромісів векторного пошуку та виклику функцій
- Досвід проєктування оцінювань, визначення метрик успіху та ітеративного вдосконалення на основі доказів
- Здатність відстежувати затримку p95, виконувати SLA та знижувати витрати без погіршення якості
- Здатність пояснювати компроміси й узгоджувати рішення із зацікавленими сторонами з продукту, інфраструктури та безпеки
- Досвід технічного лідерства у визначенні напрямів або стандартів, прийнятих інженерами чи командами
- Володіння Python або TypeScript
- Досвід роботи з RAG, робочими процесами виклику інструментів, JSON з обмеженнями схеми, валідацією, повторними спробами, резервними сценаріями, API, фоновими обробниками, потоковою передачею, затримкою, кешуванням, шаблонами промптів, пакуванням контексту та постачальниками моделей
- Досвід використання AWS Bedrock, OpenAI, Anthropic або власних кінцевих точок
- Знайомство з OpenSearch, pgvector, Pinecone або Weaviate
- Досвід роботи з джерелами даних S3, Aurora і DynamoDB
- Досвід офлайн-оцінювання, еталонних наборів даних, онлайн-метрик, A/B-тестування, розгортання промптів і версій, захисних механізмів та канаркових релізів
- Досвід упровадження контролю контенту й політик, виявлення та редагування персональних даних, керування доступом і аудиту
- Досвід роботи з трасуванням, логуванням, інформаційними панелями, діагностикою викликів моделей і промисловою експлуатацією
- Потрібен статус U.S. Person; спонсорство віз і переведення недоступні
- Уся робота має виконуватися на території США
- Здатність працювати в районі затоки Сан-Франциско або в Сан-Карлосі, штат Каліфорнія, щонайменше 3 дні на тиждень на робочому місці
Переваги
- Надається частка в капіталі компанії
- Компанія покриває 100% медичних страхових внесків працівника
- Компанія покриває 25% медичних страхових внесків утриманців
- Три тижні оплачуваної відпустки
- Щонайменше 13 оплачуваних святкових днів компанії
- Надається план 401(k)
- У решту днів гібридного графіка доступна віддалена робота