51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia kiểm thử đối kháng an toàn AI
Mercor đang tìm kiếm Chuyên gia kiểm thử đối kháng an toàn AI để kiểm tra các hệ thống AI tiên phong thông qua các thử nghiệm đối kháng cho những dự án huấn luyện AI. Vai trò này tập trung vào việc xây dựng các câu lệnh thử thách và ghi nhận lỗ hổng trong những lĩnh vực có rủi ro cao.
Mô tả
- Xây dựng các câu lệnh đối kháng để thử thách những mô hình AI tiên phong
- Phát hiện hoạt động vượt rào, hành vi không an toàn, hiện tượng bịa đặt và vi phạm chính sách
- Đánh giá khả năng chống chịu của mô hình trước thông tin sai lệch, an ninh mạng, an ninh sinh học, gian lận, nội dung chính trị và các lĩnh vực nhạy cảm khác
- Ghi nhận các lỗ hổng được phát hiện và hỗ trợ xây dựng các tiêu chuẩn đánh giá an toàn cùng báo cáo kiểm thử đối kháng
- Phối hợp với các nhà nghiên cứu AI để tăng cường tính phù hợp, độ bền vững và an toàn của mô hình
- Đóng góp vào các dự án huấn luyện và cải thiện hệ thống AI
Yêu cầu
- Bằng cử nhân trở lên về khoa học máy tính, an ninh mạng, báo chí, truyền thông, tâm lý học, sinh học, hóa học, chính sách công hoặc lĩnh vực liên quan
- Ít nhất năm năm kinh nghiệm chuyên môn trong lĩnh vực an toàn AI, kiểm thử đối kháng AI, an toàn và tin cậy, an ninh mạng, báo chí điều tra, khoa học sự sống hoặc lĩnh vực liên quan
- Khả năng tư duy phân tích, xây dựng câu lệnh và giao tiếp bằng văn bản tốt
- Có kinh nghiệm xây dựng câu lệnh đối kháng hoặc đánh giá các hệ thống AI tiên phong
- Cư trú tại một trong các địa điểm đủ điều kiện được liệt kê
- Không hỗ trợ ứng viên H-1B và STEM OPT
Phúc lợi
- Làm việc hoàn toàn từ xa
- Chọn lịch làm việc linh hoạt và hoàn thành công việc vào thời gian phù hợp với bạn
- Nhận thanh toán hàng tuần qua Stripe hoặc Wise
- Cộng tác với các nhà nghiên cứu AI và đội ngũ an toàn hàng đầu
- Góp phần định hình tính an toàn và phù hợp của các hệ thống AI tiên phong
- Thời hạn dự án có thể thay đổi hoặc kết thúc sớm tùy theo nhu cầu kinh doanh và hiệu suất làm việc
- Nhận khoản giới thiệu lên đến 340 USD cho mỗi lượt giới thiệu thành công, tùy thuộc vào giới hạn giới thiệu