Faculty phát triển các giải pháp AI và học máy tiên tiến nhằm giải quyết những thách thức vận hành phức tạp trong lĩnh vực quốc phòng, y tế, dịch vụ tài chính, dịch vụ công và bán lẻ. Công ty hợp tác với các tổ chức để ứng dụng AI tiên tiến vào những lĩnh vực như an ninh quốc gia, dự báo kết quả và cải tiến quy trình, chú trọng vào tác động thực tiễn, triển khai có trách nhiệm và tính bền vững.
Nhà khoa học nghiên cứu an toàn AI cấp cao – Đánh giá tại Faculty (Làm việc kết hợp, Vương quốc Anh)
Dẫn dắt nghiên cứu về đánh giá an toàn AI đối với các rủi ro CBRN và an ninh mạng tại Faculty. Phát triển phương pháp, công cụ và bằng chứng hỗ trợ triển khai có trách nhiệm các hệ thống AI tiên tiến.
Mô tả
- Phát triển các phương pháp đánh giá an toàn tiên tiến cho những lĩnh vực có tác động lớn, bao gồm CBRN và an ninh mạng.
- Thực hiện nghiên cứu nguyên bản về an toàn AI từ hình thành ý tưởng ban đầu đến công bố.
- Xác định các cơ hội chiến lược nhằm củng cố chương trình nghiên cứu đánh giá an toàn của tổ chức.
- Cung cấp chuyên môn kỹ thuật cho các dự án khách hàng, chương trình đánh giá và hoạt động kiểm thử đối kháng với các phòng thí nghiệm AI tiên phong.
- Đại diện cho Faculty trong các cuộc thảo luận với nhà nghiên cứu, phòng thí nghiệm AI tiên phong và các bên liên quan trong chính phủ.
- Xây dựng các ấn phẩm, báo cáo kỹ thuật, khung đánh giá và công cụ nghiên cứu.
- Phối hợp chặt chẽ với các nhóm an toàn AI và triển khai của Faculty.
Yêu cầu
- Có kinh nghiệm chủ trì nghiên cứu từ việc xác định câu hỏi nguyên bản đến khi công bố.
- Có kinh nghiệm thực tiễn trong thiết kế và triển khai các phương pháp đánh giá hoặc bộ tiêu chuẩn AI.
- Có khả năng đánh giá giá trị cấu trúc và xử lý các yếu tố gây nhiễu.
- Có chuyên môn về kiểm thử đối kháng, kiểm thử tấn công, vượt qua cơ chế bảo vệ, chèn lời nhắc gián tiếp và độ vững của cơ chế bảo vệ mô hình.
- Nắm vững thiết kế thí nghiệm, phân tích thống kê, định lượng độ bất định và các phương pháp Bayes.
- Hiểu biết sâu về mô hình ngôn ngữ, kiến trúc AI tạo sinh, phương pháp huấn luyện và các biện pháp giảm thiểu rủi ro an toàn.
- Thành thạo Python.
- Cam kết tuân thủ các thực hành kỹ thuật nghiên cứu mạnh mẽ và có khả năng tái lập.
- Kinh nghiệm lập mô hình mối đe dọa và rủi ro là một lợi thế.
- Có kiến thức hoặc kinh nghiệm về CBRN hoặc an ninh mạng là một lợi thế.
- Có thành tích nghiên cứu AI có ảnh hưởng, thể hiện qua các công bố hàng đầu hoặc công việc thực tiễn tương đương, là một lợi thế.
- Các yêu cầu về bảo trợ thị thực Vương quốc Anh sẽ được đánh giá trong quá trình ứng tuyển.
Phúc lợi
- Có thể trao đổi về hình thức làm việc bán thời gian.
- Quy trình tuyển dụng chú trọng sự đa dạng và hòa nhập.
- Được tiếp cận các công cụ AI phục vụ nghiên cứu và chuẩn bị phỏng vấn.
- Mọi hồ sơ ứng tuyển đều được con người xem xét.
- Có lựa chọn không sử dụng công cụ AI ghi chú phỏng vấn.