51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia An toàn AI từ xa (Tiếng Anh và Tiếng Gujarati) – Hợp đồng
Mercor đang tìm kiếm chuyên gia an toàn AI làm việc theo hợp đồng, thông thạo tiếng Anh và tiếng Gujarati, để kiểm thử đối kháng các mô hình AI tiên tiến. Công việc bao gồm kiểm tra lỗ hổng, đánh giá lỗi và tạo các bộ dữ liệu cùng tình huống tấn công có thể tái lập.
Mô tả
- Kiểm thử các mô hình và tác nhân AI hội thoại để phát hiện hành vi vượt rào bảo vệ, chèn lời nhắc, các tình huống lạm dụng, khai thác thiên kiến và thao túng qua nhiều lượt hội thoại
- Tạo dữ liệu do con người tạo bằng cách chú thích lỗi, phân loại lỗ hổng và xác định các rủi ro mang tính hệ thống
- Sử dụng các hệ thống phân loại, bộ chuẩn đối sánh và quy trình hướng dẫn đã được thiết lập để tiến hành đánh giá nhất quán
- Xây dựng các báo cáo khách hàng, bộ dữ liệu và tình huống tấn công có thể tái lập
- Đánh giá đầu ra của AI về các vấn đề nhạy cảm, bao gồm thiên kiến, thông tin sai lệch và hành vi có hại
- Tìm ra những điểm yếu mà kiểm thử tự động không phát hiện được
- Mở rộng phạm vi đánh giá để góp phần ngăn ngừa các vấn đề bất ngờ trong môi trường sản xuất
- Đóng góp vào các dự án đào tạo và cải thiện các hệ thống AI tiên tiến
Yêu cầu
- Thông thạo hoặc sử dụng tiếng Anh và tiếng Gujarati như ngôn ngữ bản địa
- Có phán đoán tốt khi đánh giá ngôn ngữ và nội dung về độ chính xác, đầy đủ và phù hợp
- Có khả năng phát hiện các lỗi tinh vi, điểm không nhất quán và phần bị bỏ sót
- Tuân thủ nhất quán các hướng dẫn và tiêu chuẩn chất lượng đã thiết lập
- Trình bày rõ ràng cơ sở lập luận cho cả đối tượng kỹ thuật và phi kỹ thuật
- Linh hoạt với nhiều dự án, định dạng nhiệm vụ và nhu cầu của khách hàng
- Làm việc với tư cách nhà thầu độc lập
- Ứng viên H-1B và STEM OPT không đủ điều kiện
- Ưu tiên: có kinh nghiệm về học máy đối kháng với bộ dữ liệu vượt rào bảo vệ, chèn lời nhắc, tấn công RLHF/DPO hoặc trích xuất mô hình
- Ưu tiên: có kinh nghiệm về an ninh mạng trong kiểm thử thâm nhập, phát triển khai thác hoặc kỹ thuật đảo ngược
- Ưu tiên: có kinh nghiệm về rủi ro xã hội-kỹ thuật, bao gồm thăm dò hành vi quấy rối hoặc thông tin sai lệch, phân tích lạm dụng hoặc kiểm thử AI hội thoại
- Ưu tiên: có kinh nghiệm về tâm lý học, diễn xuất hoặc viết lách, hỗ trợ tư duy đối kháng theo những cách khác thường
Phúc lợi
- Làm việc từ xa tại Hoa Kỳ
- Chọn lịch làm việc linh hoạt phù hợp với thời gian sẵn có
- Nhận thanh toán hằng tuần qua Stripe hoặc Wise
- Tự chọn tham gia hoặc không tham gia các dự án có độ nhạy cảm cao hơn
- Được cung cấp hướng dẫn rõ ràng và các nguồn hỗ trợ sức khỏe tinh thần cho nhiệm vụ có nội dung nhạy cảm
- Mức thù lao theo giờ cạnh tranh
- Có thể yêu cầu hỗ trợ hợp lý
- Cơ hội nhận tối đa 90 USD cho mỗi lượt giới thiệu thành công, tùy thuộc vào các giới hạn áp dụng