51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia An toàn AI – Tiếng Anh và Tiếng Assam | Hợp đồng từ xa Mercor
Thực hiện kiểm thử đối kháng các mô hình AI tiên tiến để phát hiện jailbreak, thiên kiến, lạm dụng và các rủi ro an toàn khác. Tạo chú thích dữ liệu do con người cung cấp, phân loại lỗ hổng và bằng chứng tấn công có thể tái lập cho khách hàng của Mercor.
Mô tả
- Kiểm thử đối kháng các mô hình và tác nhân AI hội thoại để phát hiện jailbreak, prompt injection, lạm dụng, khai thác thiên kiến và thao túng qua nhiều lượt
- Tạo chú thích dữ liệu do con người cung cấp, phân loại lỗi và xác định các rủi ro mang tính hệ thống
- Sử dụng các hệ thống phân loại, bộ đo chuẩn và quy trình có sẵn để chuẩn hóa đánh giá
- Cung cấp báo cáo, tập dữ liệu và trường hợp tấn công có thể tái lập cho khách hàng
- Đánh giá phản hồi của AI liên quan đến thiên kiến, thông tin sai lệch, hành vi gây hại và các chủ đề nhạy cảm khác
- Tìm ra những điểm yếu mà kiểm thử tự động không phát hiện được
- Mở rộng phạm vi đánh giá để giúp ngăn ngừa các vấn đề bất ngờ trong môi trường sản xuất
- Cải thiện hệ thống AI của khách hàng thông qua kiểm thử đối kháng có cấu trúc
Yêu cầu
- Thông thạo bản ngữ tiếng Anh và tiếng Assam
- Có khả năng phán đoán tốt khi đánh giá ngôn ngữ và nội dung về độ chính xác, đầy đủ và phù hợp
- Có khả năng phát hiện lỗi, điểm không nhất quán và thiếu sót tinh vi
- Tuân thủ nhất quán các hướng dẫn và tiêu chuẩn chất lượng
- Trình bày rõ ràng cơ sở lập luận với cả đối tượng kỹ thuật và phi kỹ thuật
- Linh hoạt với các dự án, định dạng nhiệm vụ và nhu cầu của khách hàng
- Ưu tiên: có kinh nghiệm về học máy đối kháng với bộ dữ liệu jailbreak, prompt injection, tấn công RLHF hoặc DPO, hay trích xuất mô hình
- Ưu tiên: có kinh nghiệm an ninh mạng trong kiểm thử xâm nhập, phát triển khai thác hoặc kỹ thuật đảo ngược
- Ưu tiên: có kinh nghiệm về rủi ro xã hội-kỹ thuật trong việc thăm dò quấy rối hoặc thông tin sai lệch, phân tích lạm dụng hoặc kiểm thử AI hội thoại
- Ưu tiên: có kinh nghiệm về tâm lý học, diễn xuất hoặc viết lách, hỗ trợ tư duy đối kháng theo cách khác thường
- Phải làm việc với tư cách nhà thầu độc lập
- Không hỗ trợ ứng viên H-1B và STEM OPT
Phúc lợi
- Làm việc hoàn toàn từ xa
- Tự chọn lịch làm việc
- Nhận thanh toán hàng tuần qua Stripe hoặc Wise
- Tích lũy kinh nghiệm thực tiễn về red teaming AI dựa trên dữ liệu do con người cung cấp
- Góp phần làm cho các hệ thống AI mạnh mẽ, an toàn và đáng tin cậy hơn
- Làm việc với các nhà nghiên cứu hàng đầu
- Có hỗ trợ điều chỉnh hợp lý theo yêu cầu
- Nhận khoản thanh toán giới thiệu lên đến 90 USD cho mỗi lượt giới thiệu thành công