51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia An toàn AI, Tiếng Anh và Tiếng Hà Lan (Hợp đồng từ xa)
Mercor đang tìm kiếm các chuyên gia an toàn AI sử dụng tiếng Anh và tiếng Hà Lan để kiểm thử đối kháng các mô hình và tác nhân hội thoại. Công việc bao gồm tạo dữ liệu lỗ hổng, kịch bản tấn công và báo cáo an toàn có thể tái lập cho hoạt động phát triển AI tiên tiến.
Mô tả
- Kiểm thử các mô hình và tác nhân AI hội thoại bằng jailbreak, tiêm prompt, các kịch bản lạm dụng, khai thác thiên lệch và thao túng nhiều lượt
- Tạo dữ liệu do con người thực hiện bằng cách chú thích lỗi, phân loại lỗ hổng và xác định các rủi ro mang tính hệ thống
- Sử dụng các hệ thống phân loại, bộ điểm chuẩn và playbook để hỗ trợ kiểm thử an toàn nhất quán
- Xây dựng các báo cáo, bộ dữ liệu và trường hợp tấn công có thể tái lập cho khách hàng
- Tìm kiếm các lỗ hổng mà kiểm thử tự động có thể bỏ sót
- Mở rộng phạm vi đánh giá để giúp giảm thiểu các rủi ro bất ngờ trong môi trường sản xuất
- Làm việc với các nhà nghiên cứu hàng đầu để đào tạo và cải thiện các hệ thống AI tiên tiến
Yêu cầu
- Thành thạo tiếng Anh và tiếng Hà Lan ở trình độ bản ngữ
- Có kinh nghiệm trước đây về kiểm thử đối kháng AI, an ninh mạng đối kháng hoặc khảo sát rủi ro xã hội-kỹ thuật
- Có khả năng kiểm thử hệ thống AI theo hướng đối kháng và thúc đẩy chúng đến các điều kiện thất bại
- Có kinh nghiệm áp dụng các khung hoặc bộ điểm chuẩn vào hoạt động kiểm thử có cấu trúc
- Có khả năng truyền đạt rủi ro rõ ràng đến các đối tượng kỹ thuật và phi kỹ thuật
- Có khả năng thích ứng với nhiều dự án và khách hàng khác nhau
- Kinh nghiệm về học máy đối kháng với bộ dữ liệu jailbreak, tiêm prompt, các cuộc tấn công RLHF/DPO hoặc trích xuất mô hình là một lợi thế
- Kinh nghiệm an ninh mạng trong kiểm thử thâm nhập, phát triển khai thác hoặc kỹ nghệ ngược là một lợi thế
- Kinh nghiệm về rủi ro xã hội-kỹ thuật liên quan đến khảo sát hành vi quấy rối hoặc thông tin sai lệch, phân tích lạm dụng hoặc kiểm thử AI hội thoại là một lợi thế
- Kinh nghiệm khảo sát sáng tạo trong tâm lý học, diễn xuất hoặc viết lách là một lợi thế
- Phải có khả năng làm việc với tư cách nhà thầu độc lập
- Không hỗ trợ ứng viên H-1B và STEM OPT
Phúc lợi
- Làm việc hoàn toàn từ xa
- Lịch làm việc linh hoạt, có thể tự sắp xếp giờ làm
- Thanh toán hàng tuần qua Stripe hoặc Wise dựa trên dịch vụ đã cung cấp
- Dự án có thể được gia hạn, rút ngắn hoặc kết thúc sớm tùy theo nhu cầu kinh doanh và hiệu quả công việc
- Có thể tự nguyện tham gia các dự án có độ nhạy cảm cao hơn
- Cung cấp hướng dẫn về nội dung và các nguồn lực hỗ trợ sức khỏe tinh thần
- Có thể yêu cầu hỗ trợ hợp lý
- Mức thù lao theo giờ cạnh tranh
- Cơ hội giới thiệu ứng viên với khoản thưởng lên đến 250 USD cho mỗi lượt giới thiệu thành công, tùy theo giới hạn