51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia An toàn AI (Tiếng Anh và Gujarati) – Hợp đồng làm việc từ xa
Thực hiện đánh giá tấn công mô hình và tác nhân AI hội thoại cho Mercor, đối tác phòng thí nghiệm AI tập trung vào việc huấn luyện các hệ thống tiên phong. Tạo dữ liệu lỗ hổng, kịch bản tấn công và báo cáo an toàn có thể tái lập.
Mô tả
- Kiểm thử các mô hình và tác nhân AI hội thoại bằng kỹ thuật bẻ khóa, chèn lời nhắc, các kịch bản lạm dụng, khai thác thiên kiến và thao túng qua nhiều lượt tương tác
- Tạo dữ liệu do con người gán nhãn bằng cách chú thích các lỗi, phân loại lỗ hổng và xác định các rủi ro mang tính hệ thống
- Sử dụng các hệ thống phân loại, bộ tiêu chuẩn và quy trình hướng dẫn đã được thiết lập để bảo đảm đánh giá nhất quán
- Xây dựng báo cáo, bộ dữ liệu và kịch bản tấn công có thể tái lập
- Đánh giá phản hồi của AI liên quan đến thiên kiến, thông tin sai lệch, hành vi gây hại và các chủ đề nhạy cảm khác
- Xác định những điểm yếu mà kiểm thử tự động có thể bỏ sót
- Mở rộng phạm vi đánh giá để giúp hạn chế các vấn đề không lường trước trong môi trường sản xuất
- Cải thiện các hệ thống AI của khách hàng bằng những sản phẩm đánh giá rõ ràng, có thể tái lập
Yêu cầu
- Thông thạo tiếng Anh và tiếng Gujarati ở mức bản ngữ hoặc lưu loát
- Có khả năng phán đoán tốt khi đánh giá ngôn ngữ và nội dung
- Có khả năng xác định phản hồi của AI có chính xác, đầy đủ và phù hợp hay không, đồng thời giải thích được đánh giá của mình
- Chú ý cẩn thận đến các lỗi, điểm không nhất quán và thiếu sót tinh vi
- Tuân thủ nhất quán các hướng dẫn và yêu cầu chất lượng
- Có khả năng trình bày lập luận rõ ràng với cả đối tượng kỹ thuật và phi kỹ thuật
- Linh hoạt khi làm việc với nhiều dự án, định dạng nhiệm vụ và khách hàng
- Ưu tiên có chuyên môn về học máy đối kháng, an ninh mạng, rủi ro xã hội-kỹ thuật hoặc thăm dò sáng tạo
- Có thể làm việc với tư cách nhà thầu độc lập
- Không hỗ trợ ứng viên H-1B và STEM OPT
Phúc lợi
- Làm việc hoàn toàn từ xa
- Tự lựa chọn lịch làm việc
- Nhận thanh toán hàng tuần qua Stripe hoặc Wise
- Mức thù lao theo giờ cạnh tranh
- Có thể tham gia các dự án liên quan đến nội dung có độ nhạy cảm cao hơn
- Được cung cấp hướng dẫn rõ ràng và nguồn lực chăm sóc sức khỏe tinh thần khi làm việc với nội dung nhạy cảm
- Có hỗ trợ điều chỉnh hợp lý theo yêu cầu
- Nhận khoản thanh toán giới thiệu lên đến 90 USD cho mỗi lượt giới thiệu thành công