51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia an toàn AI từ xa (Tiếng Anh và Tiếng Telugu)
Mercor đang tìm kiếm chuyên gia kiểm thử tấn công an toàn AI thông thạo tiếng Anh và tiếng Telugu để xác định các lỗ hổng trong những mô hình AI tiên tiến. Công việc bao gồm tạo các tình huống kiểm thử đối nghịch, bộ dữ liệu có cấu trúc và báo cáo có thể tái lập.
Mô tả
- Kiểm thử các mô hình và tác nhân AI hội thoại bằng kỹ thuật vượt rào, chèn lời nhắc, các kịch bản sử dụng sai mục đích, khai thác thiên kiến và thao túng qua nhiều lượt tương tác
- Ghi lại các lỗi, phân loại lỗ hổng và xác định những rủi ro mang tính hệ thống
- Áp dụng các hệ thống phân loại, bộ chuẩn đánh giá và quy trình kiểm thử đã được thiết lập để đảm bảo tính nhất quán trong đánh giá
- Tạo báo cáo, bộ dữ liệu và các trường hợp tấn công đối nghịch có thể tái lập
- Đánh giá đầu ra của AI về thiên kiến, thông tin sai lệch, hành vi gây hại và các rủi ro khác liên quan đến nội dung nhạy cảm
- Mở rộng phạm vi đánh giá để tìm ra những lỗ hổng mà kiểm thử tự động có thể bỏ sót
- Đóng góp vào các dự án đào tạo và cải thiện những hệ thống AI tiên tiến
Yêu cầu
- Thông thạo tiếng Anh và tiếng Telugu ở trình độ bản ngữ
- Có phán đoán tốt khi đánh giá liệu phản hồi của AI có chính xác, đầy đủ và phù hợp hay không
- Có khả năng phát hiện các lỗi, điểm không nhất quán và thiếu sót tinh vi
- Tuân thủ nhất quán các hướng dẫn và tiêu chuẩn chất lượng
- Có khả năng trình bày rõ ràng cơ sở lập luận cho cả đối tượng kỹ thuật và không chuyên
- Linh hoạt khi làm việc với nhiều dự án, định dạng nhiệm vụ và khách hàng
- Sẵn sàng làm việc với tư cách nhà thầu độc lập
- Không cần hỗ trợ visa H-1B hoặc STEM OPT
- Kinh nghiệm về học máy đối nghịch, an ninh mạng, rủi ro xã hội-kỹ thuật hoặc kiểm thử thăm dò sáng tạo là một lợi thế
Phúc lợi
- Làm việc hoàn toàn từ xa
- Tự chọn lịch làm việc
- Nhận thanh toán hàng tuần qua Stripe hoặc Wise
- Thời hạn dự án có thể thay đổi hoặc kết thúc sớm tùy theo nhu cầu kinh doanh và hiệu suất
- Mức thù lao theo giờ cạnh tranh
- Tích lũy kinh nghiệm về kiểm thử tấn công AI dựa trên dữ liệu do con người tạo ra
- Góp phần giúp các hệ thống AI trở nên mạnh mẽ, an toàn và đáng tin cậy hơn
- Có hỗ trợ điều chỉnh hợp lý theo yêu cầu
- Nhận tối đa 90 USD cho mỗi lượt giới thiệu thành công