Valarian
Valarian
Valarian phát triển hạ tầng chủ quyền dữ liệu và bảo mật cho các doanh nghiệp thương mại và cơ quan chính phủ. Nền tảng của công ty được thiết kế dành cho các tổ chức trong lĩnh vực quốc phòng, chăm sóc sức khỏe và những ngành chịu sự quản lý nghiêm ngặt khác, nơi cần bảo vệ thông tin nhạy cảm đồng thời đáp ứng các nghĩa vụ tuân thủ tại địa phương. Valarian tập trung vào nội địa hóa dữ liệu, quản lý quyền truy cập chi tiết, khả năng kiểm toán và khả năng chống chịu trước các mối đe dọa mạng, gián đoạn mạng lưới, rò rỉ dữ liệu và rủi ro địa chính trị. Công ty hỗ trợ các tổ chức hoạt động xuyên biên giới duy trì quyền kiểm soát dữ liệu mà không hạn chế khả năng đổi mới và cạnh tranh trên thị trường quốc tế.

Kỹ sư MLOps cấp cao tại Valarian

Vận hành các ứng dụng LLM trong môi trường thực tế và hạ tầng AI tác tử tại Valarian, công ty công nghệ bảo mật lưỡng dụng. Phụ trách triển khai Kubernetes, khả năng quan sát, quy trình dữ liệu và độ tin cậy của dịch vụ.

Mô tả

  • Chịu trách nhiệm triển khai, giám sát, điều phối và đảm bảo độ tin cậy cho các ứng dụng LLM trong môi trường thực tế và nền tảng AI tác tử.
  • Thiết kế và vận hành dịch vụ LLM, ứng dụng AI tác tử cùng các khối lượng công việc AI hỗ trợ trên cụm Kubernetes có thông lượng cao.
  • Tự động hóa việc triển khai container, các điểm cuối suy luận có khả năng mở rộng và phát hành blue-green hoặc canary thông qua quy trình CI/CD.
  • Duy trì các quy trình AI tác tử trong môi trường thực tế, bao gồm thực thi công cụ nhiều bước, quản lý trạng thái và phối hợp giữa các tác tử.
  • Điều tra và xử lý vấn đề liên quan đến logic ứng dụng AI, khung điều phối, API bên ngoài và hạ tầng đám mây.
  • Phát triển hệ thống giám sát và đánh giá độ chính xác của đầu ra, độ lệch, độ trễ, chi phí và các chỉ số về hiện tượng bịa đặt.
  • Bổ sung khả năng theo dõi chi tiết các luồng thực thi của tác tử, bao gồm lời nhắc, nội dung hoàn tất, lệnh gọi công cụ và từng bước riêng lẻ.
  • Giám sát và cải thiện các quy trình dữ liệu thời gian thực và theo lô, kho đặc trưng, chỉ mục vector và cập nhật embedding.
  • Quản lý tài nguyên GPU và CPU, bộ nhớ, tự động mở rộng quy mô và chi phí đám mây để cải thiện thời gian tạo token đầu tiên và thông lượng.

Yêu cầu

  • Có ít nhất ba năm kinh nghiệm về MLOps, LLMOps, kỹ thuật nền tảng, hạ tầng AI hoặc SRE tập trung vào khối lượng công việc học máy.
  • Có kinh nghiệm thực tiễn triển khai và vận hành ứng dụng phức tạp được đóng gói trong container ở quy mô lớn trên Kubernetes, chẳng hạn EKS, GKE, AKS hoặc máy chủ vật lý.
  • Thành thạo Python để tự động hóa hệ thống phụ trợ, gỡ lỗi hệ thống, xây dựng công cụ tùy chỉnh và tích hợp.
  • Có kinh nghiệm với công cụ giám sát và ghi nhật ký như Prometheus, Grafana, Datadog hoặc OpenTelemetry, cùng nền tảng theo dõi và đánh giá LLM như LangSmith, Phoenix/Arize, Langfuse hoặc TruLens.
  • Quen thuộc với các hệ thống CI/CD hiện đại như GitHub Actions, GitLab CI hoặc ArgoCD và công cụ hạ tầng dưới dạng mã như Terraform hoặc Pulumi.
  • Hiểu biết vận hành vững chắc về kiến trúc AI tác tử, chuỗi lời nhắc, gọi hàm và thực thi công cụ, cũng như hành vi không tất định của ứng dụng.
  • Có kinh nghiệm thực tiễn vận hành quy trình Retrieval-Augmented Generation (RAG) và cơ sở dữ liệu vector trong môi trường thực tế là một lợi thế.
  • Có hiểu biết thực hành về các khung phát triển và điều phối tác tử là một lợi thế.
  • Có kinh nghiệm với các công cụ phục vụ LLM hiệu năng cao và các khung liên quan là một lợi thế.
  • Có hiểu biết về thực hành bảo mật AI, giới hạn tốc độ hoặc kiểm soát chi phí là một lợi thế.

Phúc lợi

  • Cổ phần.
  • Mức lương cạnh tranh.
  • Đóng góp vào quỹ hưu trí từ phía công ty.
  • Bảo hiểm y tế tư nhân.
  • Hình thức làm việc kết hợp tại văn phòng và từ xa.
  • Thẻ hội viên phòng tập thể hình.
  • Các chuyến nghỉ dưỡng và buổi gặp mặt của công ty nhằm hỗ trợ cân bằng giữa công việc và cuộc sống.

Việc làm liên quan

Faculty

Kỹ sư Học máy Cấp cao tại Faculty (Làm việc kết hợp, Vương quốc Anh)

Faculty

Dẫn dắt kiến trúc và triển khai các hệ thống học máy có trách nhiệm, sẵn sàng đưa vào vận hành cho khách hàng trong lĩnh vực năng lượng sạch và phát triển bền vững của Faculty. Tư vấn khách hàng, định hướng triển khai và hướng dẫn các kỹ sư.

Mở
loveholidays

Kỹ sư Hệ thống CNTT và AI

loveholidays

Quản lý các nền tảng SaaS và dịch vụ ứng dụng AI của loveholidays, đồng thời phát triển quy trình tác tử và tích hợp hỗ trợ hoạt động đặt kỳ nghỉ.

Mở
IRIS OS

Giám đốc công nghệ sáng lập kiêm Kỹ sư AI

IRIS OS

Dẫn dắt định hướng kỹ thuật và xây dựng trợ lý AI gọi vốn của IRIS OS dành cho các nhà sáng lập nữ. Phụ trách kiến trúc sản phẩm, thực hành AI có trách nhiệm và phát triển đội ngũ kỹ thuật.

Mở
Pearson VUE

Nhà khoa học AI về quản trị AI có trách nhiệm

Pearson VUE

Hỗ trợ Pearson đưa AI có trách nhiệm vào thực tiễn thông qua tài liệu quản trị, đánh giá và giám sát mô hình. Góp phần bảo đảm việc triển khai kỹ thuật có trách nhiệm.

Mở