Trưởng nhóm hỗ trợ nền tảng AI cấp cao tại ClearRoute – Làm việc kết hợp tại Vương quốc Anh
Dẫn dắt hoạt động hỗ trợ hệ thống tác tử dựa trên Azure trong môi trường production tại ClearRoute, một công ty tư vấn kỹ thuật. Phụ trách khả năng quan sát, ứng phó sự cố, độ tin cậy và vận hành nền tảng cho các dịch vụ AI.
Mô tả
- Xây dựng và dẫn dắt bộ phận hỗ trợ Nền tảng AI
- Theo dõi tình trạng, độ trễ, khả năng sẵn sàng và tỷ lệ lỗi của các dịch vụ AI, endpoint mô hình và hạ tầng liên quan
- Điều tra và xử lý các sự cố như lỗi API, giới hạn tốc độ và chất lượng đầu ra của mô hình suy giảm
- Dẫn dắt điều tra nguyên nhân gốc rễ và lập báo cáo đánh giá sau sự cố theo tinh thần không quy trách nhiệm, kèm các hành động khắc phục
- Tham gia lịch trực hỗ trợ chung cho các dịch vụ AI production
- Tạo và duy trì dashboard, cảnh báo và hệ thống ghi nhật ký cho các workload LLM
- Theo dõi mức tiêu thụ token, độ trễ, chi phí và kết quả đánh giá
- Cải thiện pipeline triển khai cho mô hình, prompt, tác tử và các thành phần RAG
- Vận hành cơ sở dữ liệu vector, quy trình tạo embedding và các tác vụ nhập dữ liệu
- Tự động hóa các hoạt động hỗ trợ lặp lại và runbook vận hành
- Cung cấp hỗ trợ nâng cấp cho các vấn đề về nền tảng AI do các nhóm triển khai và khách hàng báo cáo
- Duy trì runbook, nội dung cơ sở tri thức và tài liệu người dùng
- Chia sẻ các vấn đề lặp lại và cơ hội cải tiến với chủ sở hữu kỹ thuật và sản phẩm
- Hỗ trợ onboarding nền tảng cho các nhóm và khách hàng mới
- Xác định nền tảng kỹ thuật, kiến trúc và định hướng sản phẩm cho chương trình AI và tác tử rộng hơn
Yêu cầu
- Ít nhất ba năm kinh nghiệm về hỗ trợ nền tảng, SRE, DevOps hoặc hỗ trợ production cho các dịch vụ lưu trữ trên đám mây
- Kinh nghiệm thực tế hỗ trợ các ứng dụng sử dụng API LLM như OpenAI, Anthropic, Azure OpenAI, AWS Bedrock hoặc Google Vertex AI
- Kiến thức làm việc vững về ít nhất một nền tảng đám mây lớn: AWS, Azure hoặc GCP
- Thành thạo làm việc với công cụ container và điều phối, bao gồm Docker và Kubernetes
- Có khả năng viết script và tự động hóa bằng Python cùng Bash hoặc PowerShell
- Kinh nghiệm sử dụng các công cụ quan sát như Datadog, Grafana, Prometheus, CloudWatch hoặc Azure Monitor
- Kinh nghiệm với CI/CD và hạ tầng dưới dạng mã, bao gồm GitHub Actions, GitLab CI hoặc Terraform
- Hiểu biết vững về REST API, xác thực, nền tảng mạng và phân tích nhật ký
- Có kinh nghiệm quản lý sự cố, bao gồm chuẩn bị báo cáo đánh giá sau sự cố
- Kỹ năng giao tiếp bằng văn bản và lời nói tốt với đối tượng kỹ thuật và phi kỹ thuật
- Kinh nghiệm làm việc với kiến trúc RAG và cơ sở dữ liệu vector
- Quen thuộc với các framework tác tử và điều phối như LangChain, LlamaIndex hoặc MCP
- Kinh nghiệm với các nền tảng quan sát và đánh giá LLM như LangSmith, Langfuse, Arize hoặc Weights & Biases
- Kinh nghiệm lưu trữ hoặc cung cấp mô hình open-weight bằng các nền tảng như vLLM, Hugging Face hoặc SageMaker
- Nhận thức về quản trị và quy định AI, bao gồm EU AI Act, ISO/IEC 42001 và GDPR
- Có chứng chỉ ITIL, Kubernetes CKA/CKAD hoặc chứng chỉ đám mây
- Kinh nghiệm tư vấn hoặc triển khai hướng tới khách hàng, ưu tiên trong các ngành chịu quản lý như năng lượng hoặc dịch vụ tài chính
Phúc lợi
- Mô hình làm việc kết hợp
- Ngân sách thiết lập văn phòng tại nhà
- Thời gian nghỉ linh hoạt, bao gồm nghỉ vào ngày sinh nhật
- Chương trình chia sẻ lợi nhuận
- Ghi nhận thành tích và đóng góp nổi bật
- Chăm sóc sức khỏe tư nhân
- Chương trình hỗ trợ nhân viên bảo mật, bao gồm tư vấn, sức khỏe tinh thần và phúc lợi tài chính
- Các cộng đồng theo sở thích, bao gồm câu lạc bộ chạy bộ và đọc sách
- Cộng đồng Phụ nữ trong Công nghệ
- Sự kiện giao lưu hằng tháng
- Sự kiện công ty liên vùng
- Ngân sách học tập cá nhân
- Quyền truy cập Udemy
- Khung phát triển nghề nghiệp rõ ràng
- Cơ hội luân chuyển nội bộ
- Cơ hội đóng góp nội dung chuyên môn và định hướng tư tưởng
- Môi trường làm việc thân thiện với gia đình
- Linh hoạt cho nhân viên có trách nhiệm chăm sóc người khác
- Hỗ trợ tiếp cận trong suốt quy trình phỏng vấn