Designworks Talent LLC là công ty tư vấn tuyển dụng và nhân tài, phục vụ các startup tăng trưởng cao và các doanh nghiệp toàn cầu. Được thành lập vào năm 2009, công ty kết hợp đội ngũ chuyên viên tuyển dụng giàu kinh nghiệm với các công cụ hỗ trợ bằng AI nhằm thúc đẩy quy trình tuyển dụng nhanh hơn và chính xác hơn. Phạm vi hoạt động của công ty bao gồm dịch vụ tuyển dụng trọn gói, tuyển dụng theo dự án và các mô hình linh hoạt theo nhu cầu, cùng với việc xây dựng chiến lược tuyển dụng có khả năng mở rộng, vận hành tuyển dụng, lãnh đạo thu hút nhân tài cấp doanh nghiệp, tìm kiếm ứng viên dựa trên dữ liệu và nâng cao trải nghiệm ứng viên. Phương pháp của đội ngũ được thiết kế để cung cấp sự hỗ trợ linh hoạt khi nhu cầu tuyển dụng của các tổ chức thay đổi.
Kỹ sư Suy luận Cấp cao - Bellevue Kết hợp
Dẫn dắt phát triển các hệ thống cung cấp mô hình trong môi trường production cho một công ty hạ tầng AI. Cải thiện hiệu suất sử dụng GPU, độ trễ, thông lượng, khả năng mở rộng và độ tin cậy cho các khối lượng công việc AI quy mô lớn.
Mô tả
- Xây dựng và vận hành các hệ thống cung cấp mô hình và suy luận trong môi trường production cho các khối lượng công việc AI có thông lượng cao, độ trễ thấp
- Tối ưu hóa hạ tầng suy luận về thông lượng token, độ trễ, khả năng mở rộng và hiệu quả chi phí cho nhiều mô hình và khối lượng công việc khác nhau
- Thiết kế các hệ thống sử dụng GPU hiệu quả đồng thời duy trì hiệu năng và độ tin cậy ổn định
- Nâng cao khả năng mở rộng và mức độ trưởng thành trong vận hành của nền tảng suy luận khi nhu cầu khách hàng tăng lên
- Phối hợp với các nhóm đào tạo AI, hiệu năng GPU, điều phối và hạ tầng để đưa mô hình từ quá trình phát triển vào production
- Thiết lập hoạt động giám sát, cảnh báo và vận hành nhằm hỗ trợ các dịch vụ suy luận đáng tin cậy
- Chẩn đoán và xử lý các vấn đề về hiệu năng, độ tin cậy và năng lực trên các khối lượng công việc suy luận
- Định hình các quyết định kiến trúc và tiêu chuẩn kỹ thuật khi nền tảng phát triển
Yêu cầu
- Có kinh nghiệm xây dựng và vận hành các hệ thống suy luận máy học hoặc cung cấp mô hình trong môi trường production ở quy mô lớn
- Hiểu rõ các đánh đổi về độ trễ, thông lượng, mức sử dụng bộ nhớ và hiệu quả chi phí khi cung cấp các mô hình AI lớn
- Có kinh nghiệm thiết kế các hệ thống phân tán đáng tin cậy hoặc hạ tầng production
- Hiểu về các khối lượng công việc AI sử dụng GPU và những thách thức khi mở rộng hệ thống suy luận
- Có nền tảng kỹ thuật vững chắc và khả năng độc lập làm chủ các vấn đề kỹ thuật phức tạp
- Thoải mái làm việc trong môi trường phát triển nhanh, nơi các hệ thống và quy trình được xây dựng từ đầu
- Có kinh nghiệm với các framework cung cấp suy luận hiện đại như vLLM, SGLang, TensorRT-LLM, Triton Inference Server hoặc công nghệ tương đương
- Có kinh nghiệm tối ưu hóa khối lượng công việc suy luận LLM hoặc các nền tảng cung cấp AI quy mô lớn
- Có kinh nghiệm vận hành các sản phẩm AI dựa trên API hoặc các dịch vụ production có lưu lượng lớn
- Có kinh nghiệm về lập lịch GPU, hệ thống phân tán, Kubernetes hoặc các nền tảng hạ tầng đám mây
- Quen thuộc với lượng tử hóa, batching, caching hoặc tinh chỉnh hiệu năng
- Có kinh nghiệm tại nhà cung cấp dịch vụ đám mây quy mô cực lớn, phòng thí nghiệm AI, nhà cung cấp đám mây GPU hoặc tổ chức hạ tầng ML quy mô lớn
- Bắt buộc có giấy phép làm việc tại Hoa Kỳ
- Hiện chưa có hỗ trợ bảo lãnh thị thực
- Sẵn sàng làm việc theo hình thức kết hợp tại trung tâm Bellevue, Washington, với ít nhất ba ngày mỗi tuần tại văn phòng sau khi văn phòng cố định được thành lập
Phúc lợi
- Mức lương cơ bản cạnh tranh tại thị trường Bellevue
- Tăng lương dựa trên thành tích
- Thưởng hằng năm
- Đãi ngộ dài hạn
- Bảo hiểm y tế
- Bảo hiểm nha khoa
- Bảo hiểm thị lực
- Chương trình 401(k)
- Đóng góp đối ứng 401(k) từ công ty
- Các ngày nghỉ lễ có lương
- Quyền sở hữu tại startup và cơ hội tạo ra tác động kỹ thuật đáng kể
- Cộng tác với đội ngũ hạ tầng AI giàu kinh nghiệm