51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia An toàn AI – Tiếng Anh và Tiếng Telugu (Hợp đồng từ xa)
Thực hiện đánh giá tấn công mô hình và tác nhân AI hội thoại cho Mercor, xác định lỗ hổng thông qua kiểm thử đối kháng. Tạo các bộ dữ liệu, tình huống tấn công chất lượng cao và báo cáo rõ ràng, tập trung vào hiệu suất bằng tiếng Anh và tiếng Telugu.
Mô tả
- Kiểm thử các mô hình và tác nhân AI hội thoại trước các cuộc tấn công bẻ khóa, tiêm lệnh, kịch bản lạm dụng, khai thác thiên kiến và thao túng nhiều lượt
- Tạo dữ liệu do con người xây dựng bằng cách gắn nhãn lỗi, phân loại lỗ hổng và xác định các rủi ro mang tính hệ thống
- Sử dụng các hệ thống phân loại, chuẩn đánh giá và sổ tay hướng dẫn hiện có để bảo đảm việc đánh giá nhất quán
- Xây dựng các báo cáo, bộ dữ liệu và tình huống tấn công đối kháng có thể tái lập
- Đánh giá phản hồi của AI liên quan đến thiên kiến, thông tin sai lệch, hành vi có hại và các chủ đề nhạy cảm khác
- Xác định những điểm yếu mà các phương pháp đánh giá tự động có thể bỏ sót
- Mở rộng phạm vi đánh giá để giúp ngăn ngừa các vấn đề bất ngờ trong môi trường sản xuất
- Cải thiện các hệ thống AI của khách hàng thông qua kiểm thử đối kháng có cấu trúc
Yêu cầu
- Thông thạo tiếng Anh và tiếng Telugu ở trình độ bản ngữ
- Có khả năng phán đoán tốt khi đánh giá ngôn ngữ và nội dung
- Có khả năng xác định phản hồi của AI có chính xác, đầy đủ và phù hợp hay không, đồng thời giải thích được lý do
- Đặc biệt chú ý đến những lỗi, điểm không nhất quán và thiếu sót tinh vi
- Tuân thủ nhất quán các hướng dẫn và tiêu chuẩn chất lượng
- Có khả năng trình bày lập luận rõ ràng với đối tượng kỹ thuật và phi kỹ thuật
- Linh hoạt làm việc trong các dự án, định dạng nhiệm vụ và nhóm khách hàng khác nhau
- Có khả năng làm việc với tư cách nhà thầu độc lập
- Không cần hỗ trợ visa H-1B hoặc STEM OPT
- Ưu tiên có kinh nghiệm về học máy đối kháng, an ninh mạng, rủi ro xã hội-kỹ thuật hoặc thăm dò sáng tạo
Phúc lợi
- Làm việc hoàn toàn từ xa
- Chọn lịch làm việc linh hoạt phù hợp với thời gian của bạn
- Nhận thanh toán hằng tuần qua Stripe hoặc Wise
- Thời lượng dự án có thể thay đổi hoặc kết thúc sớm tùy theo nhu cầu kinh doanh và hiệu suất
- Tiếp cận các nguồn lực chăm sóc sức khỏe và hướng dẫn rõ ràng cho những nhiệm vụ có độ nhạy cảm cao hơn
- Tích lũy kinh nghiệm về kiểm thử tấn công AI dựa trên dữ liệu do con người tạo ra
- Góp phần làm cho các hệ thống AI mạnh mẽ, an toàn và đáng tin cậy hơn
- Nhận mức thù lao cạnh tranh
- Cộng tác với các nhà nghiên cứu hàng đầu
- Có hỗ trợ điều chỉnh hợp lý theo yêu cầu