Beacon Venture Capital е изцяло притежаваното звено за корпоративен рисков капитал на Kasikornbank PLC, водеща търговска банка в Тайланд. Създаден през 2016 г., фондът инвестира стратегически в технологични стартъпи от ранните етапи до етапа на растеж, като основният му фокус е върху финтех сектора. Инвестиционните му интереси включват също бизнеси в областта на потребителския начин на живот и дълбоките технологии, като изкуствен интелект и корпоративни информационни технологии. Beacon Venture Capital стартира с капитал от 30 милиона долара, който до 2018 г. нараства до 135 милиона долара.
Старши софтуерен инженер по изкуствен интелект и LLM
Изграждайте и поддържайте продукционни LLM възможности за платформата на Beacon AI за авиационна безопасност. Ръководете извличането, извикването на инструменти, оценяването и надеждното предоставяне на услуги.
Описание
- Изграждайте работни процеси за генериране с допълнено извличане и извикване на инструменти
- Създавайте валидиран JSON и изходи, ограничени от схема, с повторни опити и резервна обработка
- Свързвайте извикването на функции с вътрешни инструменти, търсене, маршрутизация и услуги за данни
- Разработвайте API и работни процеси на Python или TypeScript с дефинирани договори, поточно предаване и експоненциално изчакване
- Използвайте кеширане, оформяне на заявките, шаблони за промптове и пакетиране на контекста за управление на латентността и разходите
- Интегрирайте услуги за фундаментални модели от AWS Bedrock, OpenAI, Anthropic и самостоятелно хоствани крайни точки
- Помагайте за разработването на стратегии за разделяне на части, създаване на embeddings и индексиране на документи, времеви редове и мултимедия
- Избирайте и оптимизирайте векторни бази данни, включително OpenSearch, pgvector и Pinecone
- Поддържайте базите от знания синхронизирани със S3, Aurora, DynamoDB и външни източници на данни
- Разработвайте офлайн оценки и златни набори от данни за промптове, retriever-и и инструменти
- Дефинирайте продукционни метрики за успеха на задачите, процента на халюцинации, прецизността и пълнотата на извличането, p95 латентността и разхода на заявка
- Провеждайте A/B тестове и управлявайте контролирани версии на промптове и издания с канарни разгръщания
- Прилагайте защити за съдържание и политики, откриване и редактиране на лични данни, контрол на достъпа и одитни следи
- Създавайте работни процеси с човешки преглед за чувствителни действия
- Инструментирайте извикванията към моделите с проследяване, логове и табла за използването на токени, грешките и насищането
- Проучвайте проблеми в системите за извличане, промптовете, инструментите и доставчиците на модели
- Работете с продуктовите, инфраструктурните, ML и екипите по сигурността за създаване на надеждни авиационни системи
- Създавайте LLM възможности за потребителите на платформата на Beacon AI, за да направите летенето по-безопасно, по-ефективно и по-възможно
Изисквания
- 5 – 8 години опит, включително опит в доставянето на продукционни ML или LLM системи
- Доказан опит в стартирането на LLM функционалности за потребители и подобряването им чрез данни
- Силни умения в продукционната разработка на софтуер, тестването и документацията
- Работни познания за embeddings, разделяне на части, компромисите при векторното търсене и извикването на функции
- Опит в създаването на оценки, дефинирането на мерки за успех и итерацията въз основа на доказателства
- Способност да наблюдавате p95 латентността, да спазвате SLA и да намалявате разходите при запазване на качеството
- Способност да поемате отговорност за функционалности от проектирането до продукцията с ограничен надзор
- Опит с Bedrock, OpenSearch Serverless, pgvector, Pinecone или Weaviate е предимство
- Опит с версиониране на промптове, предпазни механизми и маршрутизация между доставчици на модели е предимство
- Опит с мултимодални данни, като времеви редове или видео, е предимство
- Познаването на GPU инференция, Triton или TensorRT-LLM е предимство
- Опитът в авиацията или друга критична за безопасността индустрия е предимство
- Работните познания за CI/CD, инфраструктура като код и сигурно управление на тайни са предимство
- Трябва да отговаряте на условията за U.S. Person
- Трябва да имате законово право да работите в Съединените щати
- Спонсориране на визи и прехвърляне на визи не са налични
- Цялата работа трябва да се извършва в Съединените щати
- Трябва да живеете в района на залива на Сан Франциско или да сте готови да се преместите там
- Трябва да работите присъствено в Сан Карлос, Калифорния, поне три дни седмично
- Трябва да сте на разположение за работа на пълен работен ден
Придобивки
- Офертата включва дялово участие
- Компанията покрива 100% от медицинските премии на служителя
- Компанията покрива 25% от медицинските премии на лицата на издръжка
- Три седмици платен отпуск
- Най-малко 13 платени фирмени празника
- Предлага се план 401(k)
- Гъвкава дистанционна работа през останалите дни от хибридния график