Capital One là công ty dịch vụ tài chính và công nghệ tài chính, cung cấp thẻ tín dụng, khoản vay mua ô tô, các sản phẩm ngân hàng và tiết kiệm. Công ty kết hợp chuyên môn tài chính với công nghệ và các công cụ số để cải thiện cách khách hàng quản lý tiền bạc. Các vị trí nghề nghiệp tại công ty tập trung vào việc xây dựng giải pháp hướng đến khách hàng trong một môi trường làm việc đa dạng và hòa nhập.
Kỹ sư AI 5, Nền tảng lưu trữ mô hình nền tảng và suy luận LLM
Dẫn dắt phát triển và tối ưu hóa nền tảng lưu trữ mô hình nền tảng, suy luận LLM và hạ tầng AI tác tử. Xây dựng các hệ thống có khả năng mở rộng, có trách nhiệm để nâng cao năng lực AI và trải nghiệm ngân hàng tại Capital One.
Mô tả
- Phối hợp với các kỹ sư, nhà khoa học nghiên cứu, quản lý chương trình kỹ thuật và quản lý sản phẩm để cung cấp các sản phẩm ứng dụng AI
- Thiết kế, phát triển, kiểm thử, triển khai và hỗ trợ phần mềm AI bao quát hoạt động huấn luyện mô hình nền tảng, suy luận LLM, tác tử, quy trình làm việc đa tác tử, tìm kiếm tương đồng, cơ chế bảo vệ, đánh giá, thử nghiệm, quản trị và khả năng quan sát
- Ứng dụng các công nghệ AI mã nguồn mở và SaaS, bao gồm AWS Ultraclusters, Hugging Face, cơ sở dữ liệu vector và PyTorch
- Phát triển các phương pháp tối ưu hóa mô hình nền tảng nhằm cải thiện khả năng mở rộng, hiệu quả chi phí, độ trễ và thông lượng của các hệ thống AI trong môi trường sản xuất
- Góp phần định hình tầm nhìn kỹ thuật và lộ trình dài hạn cho các hệ thống AI nền tảng
- Thiết kế kiến trúc và tối ưu hóa các quy trình điều phối đa mô hình, kết hợp LLM, tìm kiếm vector và các mô hình chuyên biệt theo lĩnh vực
- Dẫn dắt các cuộc đánh giá quản trị chi phí và hiệu năng, bao quát mức sử dụng GPU, thông lượng mô hình và hiệu quả suy luận
- Chủ trì các hội đồng thiết kế hoặc hội đồng đánh giá nhằm thúc đẩy tính nhất quán kỹ thuật và tuân thủ các tiêu chuẩn kỹ thuật AI
- Cố vấn cho các kỹ sư AI cấp Principal và cấp Manager, đồng thời nâng cao năng lực kỹ thuật của tổ chức
Yêu cầu
- Bằng cử nhân Khoa học Máy tính, AI, Kỹ thuật Điện, Kỹ thuật Máy tính hoặc lĩnh vực liên quan cùng ít nhất 6 năm kinh nghiệm phát triển thuật toán và công nghệ AI hoặc ML, hoặc bằng thạc sĩ phù hợp cùng ít nhất 4 năm kinh nghiệm
- Ít nhất 6 năm kinh nghiệm lập trình bằng Python, Go, Scala, CUDA hoặc Java
- Kinh nghiệm dẫn dắt phát triển hệ thống AI đồng thời cân bằng chi phí, độ trễ, thông lượng và độ chính xác
- Ít nhất 7 năm kinh nghiệm triển khai các giải pháp AI có khả năng mở rộng và có trách nhiệm trên nền tảng đám mây
- Kinh nghiệm thiết kế, phát triển, cung cấp và hỗ trợ các hệ thống AI phức tạp
- Kinh nghiệm phát triển các công nghệ AI hoặc ML như suy luận LLM, tìm kiếm tương đồng, cơ sở dữ liệu vector, cơ chế bảo vệ và bộ nhớ
- Kinh nghiệm tối ưu hóa phần mềm huấn luyện và suy luận để sử dụng phần cứng hiệu quả, giảm độ trễ, tăng thông lượng và tối ưu chi phí
- Kinh nghiệm xây dựng các hệ thống và quy trình làm việc AI tác tử
- Kinh nghiệm thiết kế kiến trúc và tích hợp các hệ thống AI không đồng nhất vào các quy trình sản xuất hợp nhất
- Kinh nghiệm xác định và thực thi các tiêu chuẩn triển khai AI có đạo đức, bao gồm khả năng giải thích, tính công bằng và đánh giá có con người tham gia
- Khả năng cân bằng hiệu năng mô hình với chi phí vận hành thông qua các chiến lược suy luận động và nén mô hình
- Kinh nghiệm lựa chọn quy mô phù hợp cho mô hình, số lượng phiên bản và loại phần cứng
- Capital One có thể tài trợ giấy phép làm việc cho ứng viên mới đủ điều kiện
Phúc lợi
- Khoản thù lao khuyến khích dựa trên hiệu quả công việc có thể bao gồm tiền thưởng và/hoặc khoản khuyến khích dài hạn
- Các phúc lợi toàn diện, cạnh tranh và hòa nhập về y tế, tài chính cùng các phúc lợi khác, được thiết kế để hỗ trợ sức khỏe tổng thể
- Có hỗ trợ điều chỉnh hợp lý cho ứng viên khuyết tật