
Kỹ sư Hiệu năng Hệ thống Hạ tầng AI
CommonAI CICThiết kế các thử nghiệm có thể tái lập và công cụ đo lường cho mô phỏng hạ tầng AI của CommonAI. Đánh giá hiệu năng phần cứng và phục vụ LLM để hỗ trợ các quyết định đầu tư tại Vương quốc Anh.


Thiết kế các thử nghiệm có thể tái lập và công cụ đo lường cho mô phỏng hạ tầng AI của CommonAI. Đánh giá hiệu năng phần cứng và phục vụ LLM để hỗ trợ các quyết định đầu tư tại Vương quốc Anh.

Xây dựng phần mềm mô phỏng phục vụ nghiên cứu hạ tầng AI của CommonAI, so sánh các phương án bộ xử lý, bộ nhớ, mạng và phục vụ suy luận với khối lượng công việc mô hình ngôn ngữ lớn thực tế.

Xây dựng các phép đo chuẩn có thể tái lập cho dịch vụ LLM trong khuôn khổ nghiên cứu hạ tầng AI tại Anh của CommonAI. Đánh giá các tác vụ ngữ cảnh dài và tác vụ dùng tác tử trên hệ thống vật lý cũng như trong mô phỏng.

Dẫn dắt phát triển các hệ thống LLM tự chủ hỗ trợ quyết định trên thị trường năng lượng tại Aurora Energy Research, đơn vị có phần mềm đám mây theo dõi và mô hình hóa lưới điện. Quản lý các nhóm và triển khai hệ thống tác tử từ những trao đổi ban đầu với người dùng đến môi trường sản xuất.

Phát triển các giải pháp học máy có khả năng mở rộng và AI tạo sinh cho mảng bảo hiểm chuyên biệt của Hiscox. Tự động hóa triển khai mô hình trên Azure, Databricks, Kubernetes và quy trình CI/CD.