FourKites, Inc. phát triển một nền tảng cung cấp khả năng hiển thị chuỗi cung ứng toàn cầu, giúp các tổ chức theo dõi và điều phối hoạt động logistics theo thời gian thực. Các ứng dụng của công ty kết hợp dữ liệu về vận tải, hàng tồn kho và hoạt động tại bãi, mang đến cho các nhóm cái nhìn rõ ràng hơn về lô hàng và hoạt động chuỗi cung ứng qua nhiều phương thức vận tải. Công ty phục vụ hơn 1.500 thương hiệu lớn, bao gồm các doanh nghiệp trong lĩnh vực logistics, thực phẩm và đồ uống, dược phẩm và sản xuất, đồng thời kết nối với các hệ thống doanh nghiệp để hỗ trợ vận hành hiệu quả hơn, kiểm soát chi phí và nâng cao dịch vụ khách hàng.
Kiến trúc sư AI trưởng nhóm, Hệ thống tác tử
Dẫn dắt kiến trúc cho các tác tử AI của FourKites, từ mô hình và quản lý ngữ cảnh đến đánh giá. Xây dựng nền tảng cho các nhân viên số ứng dụng AI trong chuỗi cung ứng.
Mô tả
- Chịu trách nhiệm kiến trúc cho các tác tử AI của FourKites, bao gồm thực thi, ngữ cảnh, mô hình và đánh giá.
- Thiết lập kiến trúc tham chiếu cho tác tử, bao gồm vòng lặp, sử dụng công cụ, trạng thái, điểm kiểm tra, thử lại, khôi phục, biện pháp bảo vệ, quyền hạn và bàn giao cho con người.
- Thiết kế quy trình nhiều bước bền vững, hoạt động xuyên qua các cửa sổ ngữ cảnh và khôi phục được khi công cụ, API của hãng vận tải hoặc mô hình gặp sự cố.
- Chọn giải pháp phù hợp cho từng vấn đề, từ mô hình tiên tiến hoặc mô hình trọng số mở đến bộ mã hóa tinh chỉnh và mã thông thường.
- Quản lý định tuyến mô hình, chi phí cho từng tác vụ và mục tiêu độ trễ trên toàn bộ hệ thống tác tử.
- Kết nối tác tử với Kafka, vi dịch vụ, Postgres, API khách hàng và máy chủ MCP.
- Đặt ra tiêu chuẩn cửa sổ ngữ cảnh cho lời nhắc, công cụ, nội dung truy xuất, bộ nhớ và các lượt hội thoại trước đó trong giới hạn token.
- Tạo các công cụ dùng chung cho truy xuất, thu gọn ngữ cảnh, tóm tắt, cô lập tác tử phụ, lưu bộ nhớ đệm lời nhắc và bộ nhớ lâu dài.
- Điều tra lỗi ngữ cảnh và chuyển giải pháp thành các mẫu thực thi có thể tái sử dụng.
- Phát triển hệ thống đánh giá ngoại tuyến bằng dấu vết từ môi trường thực tế, kiểm tra dựa trên mã, chấm điểm LLM làm giám khảo đã hiệu chỉnh và bộ kiểm thử hồi quy CI.
- Phát triển đánh giá trực tuyến với chấm điểm trong môi trường thực tế, chỉ số chất lượng, giám sát sai lệch, phát hành chế độ shadow và A/B, tín hiệu phản hồi và cảnh báo chất lượng.
- Liên kết các chỉ số đánh giá với kết quả như độ chính xác theo dõi, xử lý ngoại lệ tự động và tỷ lệ đặt lịch hẹn thành công.
- Rà soát thiết kế và yêu cầu kéo mã, lập tài liệu kiến trúc và cẩm nang vận hành, đồng thời hướng dẫn các kỹ sư cấp staff và senior.
- Theo dõi sự phát triển của mô hình và công cụ, tiến hành thử nghiệm và đề xuất nên tự xây dựng, mua hay chờ thêm.
- Phối hợp với các nhóm Sản phẩm, Giải pháp và Thành công khách hàng để chuyển vấn đề thực tế thành cải tiến nền tảng.
Yêu cầu
- Đã thiết kế kiến trúc và vận hành hệ thống tác tử LLM phục vụ người dùng thực và lưu lượng sản xuất, bao gồm gọi công cụ, quy trình nhiều bước, xử lý lỗi và chuyển cấp cho con người.
- Đã chịu trách nhiệm hệ thống tác tử LLM sau khi ra mắt, quản lý sự cố, chi phí và độ trễ.
- Có kiến thức chuyên sâu về học máy, bao gồm attention, positional encoding, kiến trúc encoder và decoder, tokenization và KV cache.
- Đã huấn luyện hoặc tinh chỉnh mô hình encoder, chẳng hạn các mô hình họ BERT, sentence embedding, bi-encoder và cross-encoder dùng để xếp hạng lại.
- Hiểu về huấn luyện tương phản, chưng cất mô hình và lượng tử hóa.
- Đã quản lý ngân sách token và xây dựng cơ chế truy xuất cùng bộ nhớ cho tác tử.
- Đã sử dụng kỹ thuật thu gọn ngữ cảnh và tác tử phụ, đồng thời đo lường chất lượng khi cửa sổ ngữ cảnh dần đầy.
- Đã xây dựng lớp thực thi tác tử với vòng lặp, điều phối công cụ, trạng thái và điểm kiểm tra, khả năng ngắt và khôi phục, môi trường cô lập và quyền hạn, biện pháp bảo vệ cùng định tuyến mô hình.
- Thành thạo MCP, đầu ra có cấu trúc và truyền dữ liệu liên tục.
- Đã xây dựng bộ đánh giá ngoại tuyến và trực tuyến bao gồm tập dữ liệu, bộ chấm điểm, hiệu chỉnh LLM làm giám khảo, cổng kiểm thử hồi quy CI, chấm điểm trong môi trường thực tế, lấy mẫu dấu vết, giám sát sai lệch, triển khai shadow và vòng phản hồi.
- Có từ 10 năm kinh nghiệm trở lên về hệ thống phần mềm hoặc học máy, trong đó có ít nhất 3 năm phát triển ứng dụng LLM.
- Có kỹ năng Python vững và kinh nghiệm thực hành chuyên sâu.
- Thoải mái đọc và rà soát các dịch vụ Java hoặc TypeScript.
- Có kinh nghiệm sản xuất với AWS hoặc GCP, container, Kubernetes và hệ thống hướng sự kiện.
- Giao tiếp hiệu quả bằng văn bản và trong hội thoại.
- Ưu tiên: có kinh nghiệm về chuỗi cung ứng, logistics hoặc vận tải.
- Ưu tiên: có kinh nghiệm về Document AI, OCR, mô hình bố cục và trích xuất dữ liệu từ vận đơn, hóa đơn và chứng từ giao hàng.
- Ưu tiên: có kinh nghiệm xây dựng tác tử thoại hoặc email có thể hành động thay mặt doanh nghiệp.
- Ưu tiên: có kinh nghiệm về bảo mật tác tử, bao gồm phòng chống prompt injection, quyền sử dụng công cụ và cô lập dữ liệu giữa các khách hàng.
- Ưu tiên: có kinh nghiệm với Claude, GPT, Gemini, mô hình trọng số mở và các nền tảng phục vụ mô hình.
- Ưu tiên: có công bố, bài nói chuyện hoặc đóng góp mã nguồn mở về tác tử, truy xuất hoặc đánh giá.
Phúc lợi
- Mức thù lao cạnh tranh và quyền chọn cổ phiếu.
- Năm ngày nghỉ phục hồi áp dụng trên toàn cầu.
- Nghỉ phép có lương hào phóng và các ngày nghỉ lễ theo quy định.
- Chế độ nghỉ phép dành cho cha mẹ áp dụng cho tất cả phụ huynh.
- Trợ cấp chăm sóc sức khỏe hằng năm.
- Ngày nghỉ để tham gia tình nguyện.
- Bảo hiểm y tế bắt đầu từ ngày đầu tiên làm việc.
- 36 ngày nghỉ phép cho nghỉ ốm, nghỉ việc riêng và nghỉ phép tích lũy.
- Năm ngày nghỉ phục hồi.
- Hai ngày nghỉ để tham gia tình nguyện.
- Hỗ trợ chi phí thiết lập văn phòng tại nhà và công nghệ.
- Các phúc lợi về đời sống và gia đình.
- Hỗ trợ và tư vấn sức khỏe tinh thần.
- Cơ hội học tập và phát triển liên tục, bao gồm chương trình phát triển chuyên môn và câu lạc bộ Toastmasters.