51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia An toàn AI – Tiếng Anh và Marathi (Hợp đồng từ xa)
Mercor tìm kiếm chuyên gia an toàn AI thông thạo tiếng Anh và Marathi để kiểm thử đối kháng các hệ thống AI hội thoại. Vai trò hợp đồng này tập trung vào kiểm thử tấn công, phân tích lỗ hổng và báo cáo rõ ràng cho các dự án dữ liệu con người và AI tiên phong.
Mô tả
- Kiểm thử các mô hình và tác nhân AI hội thoại trước các cuộc tấn công jailbreak, chèn prompt, kịch bản sử dụng sai mục đích, khai thác thiên kiến và thao túng nhiều lượt
- Tạo tài sản dữ liệu con người bằng cách gắn nhãn các lỗi, phân loại lỗ hổng và xác định rủi ro mang tính hệ thống
- Sử dụng các hệ thống phân loại, tiêu chuẩn đánh giá và hướng dẫn kiểm thử đã được thiết lập để bảo đảm việc đánh giá nhất quán
- Cung cấp các trường hợp tấn công có thể tái lập, bộ dữ liệu và báo cáo hướng đến khách hàng
- Đánh giá phản hồi của AI về các chủ đề nhạy cảm, bao gồm thiên kiến, thông tin sai lệch và hành vi gây hại
- Tìm ra những điểm yếu mà các phương pháp đánh giá tự động có thể bỏ sót
- Mở rộng phạm vi kiểm thử để giúp ngăn ngừa các vấn đề ngoài dự kiến trong môi trường sản xuất
- Hỗ trợ khách hàng cải thiện tính an toàn, độ vững và độ tin cậy của hệ thống AI
- Làm việc với các nhà nghiên cứu hàng đầu trong những sáng kiến đào tạo và phát triển các mô hình AI tiên phong
Yêu cầu
- Kỹ năng tiếng Anh và Marathi ở trình độ bản ngữ hoặc thành thạo
- Khả năng phán đoán tốt khi đánh giá ngôn ngữ và nội dung
- Khả năng xác định liệu phản hồi của AI có chính xác, đầy đủ và phù hợp hay không, kèm theo lời giải thích rõ ràng
- Chú ý cẩn thận đến các lỗi tinh vi, điểm không nhất quán và nội dung bị bỏ sót
- Tuân thủ đáng tin cậy các hướng dẫn kiểm thử và yêu cầu chất lượng
- Truyền đạt rõ ràng lập luận cho cả đối tượng kỹ thuật và phi kỹ thuật
- Linh hoạt làm việc trên nhiều dự án, nhiệm vụ và khách hàng khác nhau
- Có khả năng làm việc với tư cách nhà thầu độc lập
- Không yêu cầu bảo lãnh H-1B hoặc STEM OPT
- Ưu tiên: có kinh nghiệm về học máy đối kháng với bộ dữ liệu jailbreak, chèn prompt, tấn công RLHF/DPO hoặc trích xuất mô hình
- Ưu tiên: có kinh nghiệm an ninh mạng trong kiểm thử xâm nhập, phát triển khai thác hoặc kỹ nghệ đảo ngược
- Ưu tiên: có kinh nghiệm về rủi ro xã hội-kỹ thuật trong thăm dò quấy rối hoặc thông tin sai lệch, phân tích lạm dụng hoặc kiểm thử AI hội thoại
- Ưu tiên: có kinh nghiệm về tâm lý học, diễn xuất hoặc viết lách hỗ trợ tư duy đối kháng khác biệt
Phúc lợi
- Công việc hợp đồng từ xa hoàn toàn
- Lịch làm việc linh hoạt với khả năng tự sắp xếp giờ làm
- Thanh toán hàng tuần qua Stripe hoặc Wise
- Thời hạn dự án có thể thay đổi hoặc kết thúc sớm tùy theo nhu cầu kinh doanh và hiệu suất
- Tùy chọn tham gia các dự án có nội dung nhạy cảm hơn
- Có hướng dẫn cụ thể và nguồn lực hỗ trợ sức khỏe tinh thần cho các nhiệm vụ có nội dung nhạy cảm
- Có thể yêu cầu hỗ trợ điều chỉnh hợp lý
- Khoản giới thiệu lên đến 90 USD cho mỗi lượt giới thiệu thành công