51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia kiểm thử tấn công an toàn AI - Hợp đồng làm việc từ xa tại Hoa Kỳ
Mercor đang tìm kiếm Chuyên gia kiểm thử tấn công an toàn AI theo hợp đồng để thử thách các mô hình AI tiên tiến và phát hiện lỗ hổng. Vai trò này tập trung vào các lĩnh vực rủi ro cao và hỗ trợ phát triển các hệ thống AI an toàn, đáng tin cậy hơn.
Mô tả
- Tạo các câu lệnh đối kháng để kiểm thử nghiêm ngặt các mô hình AI tiên tiến
- Phát hiện các hình thức vượt qua cơ chế an toàn, hành vi không an toàn, thông tin bịa đặt và việc không tuân thủ các chính sách an toàn
- Đánh giá khả năng chống chịu của mô hình trước thông tin sai lệch, an ninh mạng, an ninh sinh học, gian lận, nội dung chính trị và các lĩnh vực nhạy cảm khác
- Ghi nhận các điểm yếu được phát hiện và hỗ trợ xây dựng chuẩn đánh giá an toàn cũng như báo cáo kiểm thử tấn công
- Phối hợp với các nhà nghiên cứu AI để thúc đẩy khả năng căn chỉnh, độ vững chắc và tính an toàn của mô hình
- Góp phần bảo vệ và cải thiện các hệ thống AI tiên tiến mới nổi
- Định hình cách các mô hình AI xử lý những tình huống an toàn khó khăn trong bối cảnh thực tế
Yêu cầu
- Bằng cử nhân trở lên về khoa học máy tính, an ninh mạng, báo chí, truyền thông, tâm lý học, sinh học, hóa học, chính sách công hoặc lĩnh vực liên quan
- Ít nhất năm năm kinh nghiệm chuyên môn trong lĩnh vực an toàn AI, kiểm thử tấn công AI, tin cậy và an toàn, an ninh mạng, báo chí điều tra, khoa học sự sống hoặc lĩnh vực liên quan
- Có khả năng phán đoán phân tích tốt, khả năng phát triển câu lệnh và kỹ năng giao tiếp bằng văn bản
- Có kinh nghiệm thực tế trong việc tạo câu lệnh đối kháng hoặc đánh giá các hệ thống AI tiên tiến
- Ưu tiên: có nền tảng về kiểm thử tấn công AI, RLHF, SFT, căn chỉnh AI hoặc tin cậy và an toàn
- Ưu tiên: quen thuộc với việc đánh giá hình thức vượt qua cơ chế an toàn, kỹ thuật câu lệnh hoặc các phương pháp đánh giá đối kháng
- Ưu tiên: có chuyên môn về các lĩnh vực phức tạp như an ninh mạng, an ninh sinh học, nội dung chính trị, thông tin sai lệch hoặc an toàn khoa học
- Có thể làm việc với tư cách nhà thầu độc lập
- Không hỗ trợ ứng viên diện H-1B và STEM OPT
Phúc lợi
- Làm việc hoàn toàn từ xa
- Tự sắp xếp giờ làm việc và hoàn thành nhiệm vụ theo lịch trình linh hoạt
- Nhận thanh toán hàng tuần qua Stripe hoặc Wise
- Thời hạn dự án có thể thay đổi hoặc kết thúc sớm tùy theo nhu cầu kinh doanh và hiệu suất làm việc
- Mức thù lao cạnh tranh
- Làm việc cùng các nhà nghiên cứu AI và đội ngũ an toàn hàng đầu
- Có hỗ trợ điều chỉnh hợp lý theo yêu cầu
- Chương trình giới thiệu ứng viên, nhận tối đa 340 USD cho mỗi lượt giới thiệu thành công, tùy thuộc vào giới hạn giới thiệu