51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia Red Team An toàn AI – Tiếng Anh và Tiếng Phần Lan, Làm việc từ xa tại Hoa Kỳ
Thực hiện kiểm thử đối kháng các mô hình và tác nhân AI hội thoại cho các dự án AI sử dụng dữ liệu con người của Mercor. Tạo dữ liệu lỗ hổng có thể tái lập để góp phần củng cố các hệ thống AI tiên phong.
Mô tả
- Kiểm thử các mô hình và tác nhân AI hội thoại bằng jailbreak, chèn prompt, các kịch bản lạm dụng, khai thác thiên lệch và thao túng qua nhiều lượt hội thoại
- Chú thích các lỗi, phân loại lỗ hổng và xác định rủi ro mang tính hệ thống
- Áp dụng các hệ thống phân loại, bộ tiêu chuẩn đánh giá và playbook hiện có để đảm bảo tính nhất quán trong đánh giá
- Tạo báo cáo, bộ dữ liệu và tình huống tấn công có thể tái lập cho khách hàng
- Xác định các lỗ hổng mà kiểm thử tự động có thể bỏ sót
- Mở rộng phạm vi đánh giá và góp phần giảm các vấn đề bất ngờ trong môi trường sản xuất
- Phối hợp với các nhà nghiên cứu hàng đầu trong những dự án đào tạo và cải thiện hệ thống AI
Yêu cầu
- Thông thạo hoặc là người bản ngữ tiếng Anh và tiếng Phần Lan
- Có kinh nghiệm red team trước đây trong công việc đối kháng với AI, an ninh mạng hoặc thăm dò xã hội-kỹ thuật
- Có khả năng kiểm thử hệ thống AI theo hướng đối kháng và thúc đẩy chúng đến các điểm thất bại
- Có kinh nghiệm áp dụng các khung phương pháp hoặc bộ tiêu chuẩn đánh giá cho kiểm thử có cấu trúc
- Có khả năng truyền đạt rõ ràng các rủi ro cho cả đối tượng kỹ thuật và phi kỹ thuật
- Có khả năng thích ứng với nhiều dự án và yêu cầu của khách hàng
- Có thể tham gia theo hình thức hợp đồng độc lập
- Không phải là ứng viên H-1B hoặc STEM OPT
- Ưu tiên: có kinh nghiệm về học máy đối kháng, bao gồm bộ dữ liệu jailbreak, chèn prompt, tấn công RLHF/DPO hoặc trích xuất mô hình
- Ưu tiên: có kinh nghiệm an ninh mạng trong kiểm thử thâm nhập, phát triển mã khai thác hoặc kỹ thuật đảo ngược
- Ưu tiên: có kinh nghiệm về rủi ro xã hội-kỹ thuật trong thăm dò quấy rối hoặc thông tin sai lệch, phân tích lạm dụng hoặc kiểm thử AI hội thoại
- Ưu tiên: có kinh nghiệm về tâm lý học, diễn xuất hoặc viết lách hỗ trợ tư duy đối kháng theo hướng khác thường
Phúc lợi
- Làm việc hoàn toàn từ xa
- Lịch làm việc linh hoạt
- Thanh toán hàng tuần qua Stripe hoặc Wise
- Tài nguyên chăm sóc sức khỏe và hướng dẫn rõ ràng cho các dự án có độ nhạy cảm cao hơn
- Cơ hội tích lũy kinh nghiệm về red team AI sử dụng dữ liệu con người
- Cơ hội trực tiếp góp phần làm cho các hệ thống AI mạnh mẽ, an toàn và đáng tin cậy hơn
- Mức thù lao cạnh tranh
- Thưởng giới thiệu lên đến 250 USD cho mỗi lượt giới thiệu thành công