51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên viên kiểm thử an toàn AI đối kháng - Làm việc từ xa tại Hoa Kỳ
Mercor đang tìm kiếm Chuyên viên kiểm thử an toàn AI đối kháng làm việc từ xa để thử thách các mô hình AI tiên phong và phát hiện lỗ hổng trong những lĩnh vực rủi ro cao. Đây là vị trí hợp đồng hỗ trợ các phòng thí nghiệm AI phát triển và cải thiện những hệ thống tiên tiến.
Mô tả
- Tạo các câu lệnh đối kháng để thăm dò các mô hình AI tiên phong
- Phát hiện hành vi vượt rào bảo vệ, hành vi không an toàn, hiện tượng bịa đặt và vi phạm chính sách
- Đánh giá khả năng chống chịu của mô hình trước thông tin sai lệch, mối đe dọa mạng, rủi ro an ninh sinh học, gian lận, nội dung chính trị và các chủ đề nhạy cảm khác
- Ghi nhận các lỗ hổng được phát hiện và hỗ trợ xây dựng bộ tiêu chuẩn đánh giá an toàn cùng báo cáo kiểm thử đối kháng
- Phối hợp với các nhà nghiên cứu AI để tăng cường khả năng căn chỉnh, độ mạnh mẽ và tính an toàn của mô hình
- Đóng góp vào các dự án đào tạo và cải thiện hệ thống AI
Yêu cầu
- Tốt nghiệp cử nhân trở lên ngành khoa học máy tính, an ninh mạng, báo chí, truyền thông, tâm lý học, sinh học, hóa học, chính sách công hoặc lĩnh vực liên quan
- Có ít nhất năm năm kinh nghiệm chuyên môn trong lĩnh vực an toàn AI, kiểm thử đối kháng AI, tin cậy và an toàn, an ninh mạng, báo chí điều tra, khoa học sự sống hoặc lĩnh vực liên quan
- Có khả năng phán đoán phân tích tốt, khả năng thiết kế câu lệnh và kỹ năng giao tiếp bằng văn bản
- Có kinh nghiệm tạo câu lệnh đối kháng hoặc đánh giá các hệ thống AI tiên phong
- Ưu tiên ứng viên có kinh nghiệm về kiểm thử đối kháng AI, RLHF, SFT, căn chỉnh AI hoặc tin cậy và an toàn
- Ưu tiên ứng viên quen thuộc với kiểm thử vượt rào bảo vệ, kỹ thuật câu lệnh hoặc các phương pháp đánh giá đối kháng
- Ưu tiên ứng viên có chuyên môn sâu trong ít nhất một lĩnh vực khó phân định, chẳng hạn như an ninh mạng, an ninh sinh học, nội dung chính trị, thông tin sai lệch hoặc an toàn khoa học
- Có khả năng làm việc với tư cách nhà thầu độc lập
- Không hỗ trợ ứng viên H-1B và STEM OPT
Phúc lợi
- Làm việc hoàn toàn từ xa
- Lịch làm việc linh hoạt và tự chủ
- Thanh toán hằng tuần qua Stripe hoặc Wise
- Dự án có thể được gia hạn, rút ngắn hoặc kết thúc sớm tùy theo nhu cầu kinh doanh và hiệu suất
- Mức thù lao cạnh tranh
- Cộng tác với các nhà nghiên cứu AI và đội ngũ an toàn hàng đầu
- Có hỗ trợ điều chỉnh hợp lý khi được yêu cầu
- Khoản thanh toán giới thiệu lên đến 340 USD cho mỗi lượt giới thiệu thành công, tuân theo các giới hạn áp dụng