51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia An toàn AI Từ xa (Tiếng Anh và Odia) – Hợp đồng
Mercor đang tìm kiếm chuyên gia an toàn AI thông thạo tiếng Anh và tiếng Odia để kiểm thử đối kháng các mô hình AI hội thoại phục vụ đào tạo mô hình tiên phong. Công việc bao gồm tạo chú thích lỗ hổng, tình huống tấn công, bộ dữ liệu và báo cáo an toàn có thể tái lập.
Mô tả
- Kiểm thử các mô hình và tác nhân AI hội thoại bằng jailbreak, tiêm lệnh, kịch bản lạm dụng, khai thác thiên kiến và thao túng nhiều lượt.
- Ghi nhận lỗi, phân loại lỗ hổng và xác định các rủi ro mang tính hệ thống.
- Sử dụng các hệ thống phân loại, bộ benchmark và playbook hiện có để duy trì tính nhất quán trong đánh giá.
- Tạo báo cáo an toàn, bộ dữ liệu và tình huống tấn công có thể tái lập.
- Điều tra đầu ra của mô hình để phát hiện thiên kiến, thông tin sai lệch và hành vi gây hại.
- Hỗ trợ đào tạo và cải thiện các hệ thống AI tiên phong cho phòng thí nghiệm AI của Mercor và khách hàng doanh nghiệp.
Yêu cầu
- Thông thạo tiếng Anh và tiếng Odia ở trình độ bản ngữ.
- Có khả năng phán đoán tốt khi đánh giá ngôn ngữ và nội dung.
- Có khả năng xác định phản hồi của AI có chính xác, đầy đủ và phù hợp hay không, đồng thời giải thích được lý do.
- Chú ý cao đến các lỗi, điểm không nhất quán và thiếu sót nhỏ.
- Có khả năng tuân thủ hướng dẫn và tiêu chuẩn chất lượng một cách đáng tin cậy.
- Có khả năng truyền đạt lập luận rõ ràng với cả đối tượng kỹ thuật và phi kỹ thuật.
- Linh hoạt làm việc trong nhiều dự án, định dạng nhiệm vụ và nhóm khách hàng khác nhau.
- Sẵn sàng làm việc với tư cách nhà thầu độc lập.
- Ứng viên không được thuộc diện H-1B hoặc STEM OPT.
- Kinh nghiệm hoặc chuyên môn về học máy đối kháng, an ninh mạng, rủi ro xã hội-kỹ thuật hoặc kiểm thử sáng tạo là một lợi thế.
Phúc lợi
- Làm việc hoàn toàn từ xa.
- Lịch làm việc linh hoạt.
- Có thể tự nguyện tham gia các dự án có mức độ nhạy cảm cao hơn.
- Được cung cấp hướng dẫn và nguồn lực chăm sóc sức khỏe tinh thần cho các dự án liên quan đến nội dung nhạy cảm.
- Thanh toán hằng tuần qua Stripe hoặc Wise.
- Mức thù lao cạnh tranh.
- Cơ hội cộng tác với các nhà nghiên cứu hàng đầu.
- Khoản thưởng giới thiệu lên đến 90 USD cho mỗi lượt giới thiệu thành công.