Designworks Talent LLC — рекрутингова та консалтингова компанія у сфері управління талантами, що працює зі стартапами, які швидко розвиваються, і міжнародними корпораціями. Заснована у 2009 році, компанія поєднує досвід рекрутерів з інструментами на основі штучного інтелекту, щоб забезпечувати швидший і точніший пошук фахівців. Компанія здійснює комплексний пошук кандидатів, проєктний рекрутинг і гнучку роботу на запит, а також допомагає масштабувати стратегію найму та рекрутингові операції, забезпечує керівництво корпоративним залученням талантів, використовує дані для пошуку кандидатів і працює над їхнім досвідом взаємодії з роботодавцем. Такий підхід дає організаціям змогу отримувати гнучку підтримку в міру зміни їхніх потреб у наймі.
Провідний інженер з інференсу — гібридна робота в Белв’ю
Керуйте розробкою виробничих систем обслуговування моделей для компанії, що створює інфраструктуру ШІ. Підвищуйте ефективність використання GPU, зменшуйте затримки, збільшуйте пропускну здатність, масштабованість і надійність для великомасштабних навантажень ШІ.
Опис
- Створювати й експлуатувати виробничі системи обслуговування моделей та інференсу для навантажень ШІ з високою пропускною здатністю і низькою затримкою
- Оптимізувати інфраструктуру інференсу за пропускною здатністю токенів, затримкою, масштабованістю та економічною ефективністю для різних моделей і навантажень
- Проєктувати системи, що ефективно використовують GPU та забезпечують стабільну продуктивність і надійність
- Розвивати масштабованість платформи інференсу й підвищувати рівень її операційної зрілості в міру зростання попиту клієнтів
- Працювати з командами навчання ШІ, продуктивності GPU, оркестрації та інфраструктури, щоб переносити моделі з розробки у виробниче середовище
- Запроваджувати моніторинг, сповіщення та операційні практики, що підтримують надійну роботу сервісів інференсу
- Діагностувати й усувати проблеми продуктивності, надійності та потужності в робочих навантаженнях інференсу
- Формувати архітектурні рішення та інженерні стандарти в міру розвитку платформи
Вимоги
- Досвід створення й експлуатації виробничих систем машинного навчання для інференсу або обслуговування моделей у великому масштабі
- Глибоке розуміння компромісів між затримкою, пропускною здатністю, використанням пам’яті та економічною ефективністю під час обслуговування великих моделей ШІ
- Досвід проєктування надійних розподілених систем або виробничої інфраструктури
- Розуміння робочих навантажень ШІ на базі GPU та проблем масштабування систем інференсу
- Сильна інженерна база та здатність самостійно розв’язувати складні технічні проблеми
- Готовність працювати в динамічному середовищі, де системи й процеси створюються з нуля
- Досвід роботи із сучасними фреймворками обслуговування інференсу, такими як vLLM, SGLang, TensorRT-LLM, Triton Inference Server або зіставними технологіями
- Досвід оптимізації робочих навантажень інференсу LLM або платформ обслуговування ШІ у великому масштабі
- Досвід експлуатації продуктів ШІ на базі API або високонавантажених виробничих сервісів
- Досвід роботи з плануванням GPU, розподіленими системами, Kubernetes або хмарними інфраструктурними платформами
- Обізнаність із квантуванням, пакетною обробкою, кешуванням або налаштуванням продуктивності
- Досвід роботи в гіперскейлері, лабораторії ШІ, хмарного провайдера GPU або організації, що створює великомасштабну інфраструктуру машинного навчання
- Потрібен дозвіл на роботу у США
- Візова підтримка наразі недоступна
- Готовність працювати в гібридному форматі в центрі Белв’ю, штат Вашингтон, щонайменше три дні на тиждень в офісі після відкриття постійного офісу
Переваги
- Конкурентна базова оплата праці для ринку Белв’ю
- Підвищення на основі заслуг
- Щорічний бонус
- Довгострокові стимули
- Медичне страхування
- Стоматологічне страхування
- Страхування зору
- План 401(k)
- Внески компанії до плану 401(k)
- Оплачувані святкові дні
- Частка в стартапі та значний технічний вплив
- Співпраця з досвідченою командою інфраструктури ШІ