51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia Red Team an toàn AI – Tiếng Anh và Tamil, hợp đồng làm việc từ xa
Kiểm thử các mô hình và tác tử AI hội thoại để phát hiện lỗ hổng thông qua thăm dò đối nghịch và phân tích red team có cấu trúc. Tạo các trường hợp tấn công, dữ liệu lỗ hổng và báo cáo có thể tái lập cho khách hàng phòng thí nghiệm AI của Mercor.
Mô tả
- Thăm dò các mô hình và tác tử AI hội thoại bằng jailbreak, prompt injection, kịch bản sử dụng sai mục đích, khai thác thiên lệch và thao túng qua nhiều lượt
- Tạo dữ liệu do con người gắn nhãn bằng cách ghi nhận lỗi, phân loại lỗ hổng và xác định các rủi ro mang tính hệ thống
- Sử dụng các hệ thống phân loại, bộ chuẩn đối sánh và playbook đã được thiết lập để duy trì đánh giá nhất quán
- Phát triển báo cáo, bộ dữ liệu và các trường hợp tấn công có thể tái lập cho khách hàng
- Đánh giá đầu ra AI liên quan đến thiên lệch, thông tin sai lệch, hành vi gây hại và các chủ đề nhạy cảm khác
- Xác định những điểm yếu mà kiểm thử tự động có thể bỏ sót
- Mở rộng phạm vi đánh giá và góp phần ngăn ngừa các vấn đề bất ngờ trong môi trường vận hành
- Cải thiện các hệ thống AI của khách hàng và đóng góp vào những mô hình an toàn, đáng tin cậy hơn
Yêu cầu
- Thông thạo ở cấp độ bản ngữ cả tiếng Anh và tiếng Tamil
- Có khả năng phán đoán tốt khi đánh giá ngôn ngữ và nội dung
- Có khả năng xác định liệu phản hồi của AI có chính xác, đầy đủ và phù hợp hay không, đồng thời giải thích được đánh giá của mình
- Chú ý cẩn thận đến các lỗi nhỏ, điểm không nhất quán và nội dung bị bỏ sót
- Có khả năng áp dụng nhất quán các hướng dẫn và tiêu chuẩn chất lượng
- Truyền đạt rõ ràng lập luận cho cả đối tượng kỹ thuật và phi kỹ thuật
- Linh hoạt khi làm việc với nhiều dự án, định dạng nhiệm vụ và khách hàng
- Ưu tiên: có kinh nghiệm về học máy đối nghịch với bộ dữ liệu jailbreak, prompt injection, tấn công RLHF hoặc DPO, hay trích xuất mô hình
- Ưu tiên: có nền tảng an ninh mạng về kiểm thử thâm nhập, phát triển khai thác hoặc kỹ nghệ đảo ngược
- Ưu tiên: có kinh nghiệm về các rủi ro xã hội-kỹ thuật như thăm dò hành vi quấy rối và thông tin sai lệch, phân tích lạm dụng hoặc kiểm thử AI hội thoại
- Ưu tiên: có kinh nghiệm thăm dò sáng tạo trong tâm lý học, diễn xuất hoặc viết lách
- Phải làm việc với tư cách nhà thầu độc lập
- Không hỗ trợ ứng viên H-1B và STEM OPT
Phúc lợi
- Làm việc hoàn toàn từ xa
- Lịch làm việc linh hoạt với khả năng tự sắp xếp giờ làm
- Thanh toán hàng tuần qua Stripe hoặc Wise
- Mức thù lao theo giờ cạnh tranh
- Cơ hội tích lũy kinh nghiệm về red teaming AI dựa trên dữ liệu do con người tạo, tập trung vào an toàn AI tiên tiến
- Đóng góp trực tiếp vào các hệ thống AI mạnh mẽ, an toàn và đáng tin cậy hơn
- Có thể tự nguyện tham gia các dự án có độ nhạy cảm cao hơn
- Có hướng dẫn và nguồn lực chăm sóc sức khỏe cho các dự án liên quan đến nội dung nhạy cảm
- Có thể yêu cầu hỗ trợ hợp lý
- Chương trình giới thiệu mang lại tối đa 90 USD cho mỗi lượt giới thiệu thành công, tùy thuộc vào giới hạn giới thiệu