51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia an toàn AI – Tiếng Anh và Marathi (Từ xa)
Mercor đang tìm kiếm các chuyên gia an toàn AI sử dụng tiếng Anh và Marathi để kiểm thử đối kháng các mô hình và tác tử hội thoại. Công việc bao gồm xác định lỗ hổng, đánh giá đầu ra nhạy cảm và tạo dữ liệu an toàn có thể tái lập cho các phòng thí nghiệm AI và khách hàng.
Mô tả
- Tiến hành kiểm thử đối kháng các mô hình và tác tử AI hội thoại bằng kỹ thuật vượt rào bảo vệ, chèn lời nhắc, các kịch bản lạm dụng, khai thác thiên kiến và thao túng nhiều lượt
- Tạo dữ liệu đánh giá bởi con người bằng cách chú thích lỗi, phân loại lỗ hổng và xác định rủi ro mang tính hệ thống
- Sử dụng các hệ thống phân loại, bộ điểm chuẩn và quy trình kiểm thử đã được thiết lập để hỗ trợ đánh giá nhất quán
- Phát triển báo cáo, bộ dữ liệu và trường hợp tấn công có thể tái lập cho khách hàng
- Đánh giá đầu ra AI liên quan đến thiên kiến, thông tin sai lệch, hành vi gây hại và các chủ đề nhạy cảm khác
- Xác định những lỗ hổng mà kiểm thử tự động có thể bỏ sót
- Mở rộng phạm vi đánh giá để giúp giảm thiểu các vấn đề bất ngờ trong môi trường sản xuất
- Hỗ trợ khách hàng cải thiện tính an toàn, độ vững chắc và độ đáng tin cậy của hệ thống AI
Yêu cầu
- Thông thạo bản ngữ cả tiếng Anh và tiếng Marathi
- Có khả năng phán đoán tốt khi đánh giá ngôn ngữ và nội dung, bao gồm mức độ chính xác, đầy đủ và phù hợp của phản hồi AI
- Có khả năng phát hiện các lỗi, điểm không nhất quán và thiếu sót tinh vi
- Có khả năng tuân thủ nhất quán các hướng dẫn và tiêu chuẩn chất lượng
- Có khả năng trình bày rõ ràng lập luận cho cả đối tượng kỹ thuật và phi kỹ thuật
- Thích ứng tốt với nhiều dự án, loại nhiệm vụ và khách hàng khác nhau
- Có khả năng làm việc với tư cách nhà thầu độc lập
- Không cần hỗ trợ H-1B hoặc STEM OPT
- Ưu tiên: có kinh nghiệm về học máy đối kháng với bộ dữ liệu jailbreak, chèn lời nhắc, tấn công RLHF hoặc DPO hay trích xuất mô hình
- Ưu tiên: có kinh nghiệm an ninh mạng về kiểm thử xâm nhập, phát triển khai thác hoặc kỹ thuật đảo ngược
- Ưu tiên: có kinh nghiệm về rủi ro xã hội-kỹ thuật trong thăm dò quấy rối hoặc thông tin sai lệch, phân tích lạm dụng hoặc kiểm thử AI hội thoại
- Ưu tiên: có kinh nghiệm về tâm lý học, diễn xuất hoặc viết lách hỗ trợ tư duy đối kháng khác thường
Phúc lợi
- Làm việc hoàn toàn từ xa theo lịch trình của riêng bạn
- Thanh toán hàng tuần qua Stripe hoặc Wise
- Có thể tự nguyện tham gia các dự án có độ nhạy cảm cao hơn
- Hướng dẫn rõ ràng và nguồn lực hỗ trợ sức khỏe tinh thần cho công việc liên quan đến nội dung nhạy cảm
- Mức thù lao cạnh tranh
- Cơ hội hợp tác với các nhà nghiên cứu hàng đầu
- Khoản thưởng giới thiệu lên đến 90 USD cho mỗi lượt giới thiệu thành công, tùy theo giới hạn