51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia An toàn AI từ xa (Tiếng Anh và Tiếng Tamil)
Mercor tìm kiếm chuyên gia an toàn AI sử dụng tiếng Anh và tiếng Tamil để kiểm thử đối kháng các mô hình hội thoại và tác tử. Vai trò hợp đồng này tập trung vào việc xác định lỗ hổng, đánh giá các đầu ra nhạy cảm và tạo dữ liệu an toàn có thể tái lập cho hoạt động huấn luyện AI tiên tiến.
Mô tả
- Kiểm thử đối kháng các mô hình AI hội thoại và tác tử thông qua jailbreak, tiêm lệnh, kịch bản lạm dụng, khai thác thiên kiến và thao túng nhiều lượt
- Gắn nhãn lỗi, phân loại lỗ hổng và xác định các rủi ro mang tính hệ thống
- Áp dụng nhất quán các hệ thống phân loại, bộ chuẩn đánh giá và quy trình kiểm thử đã được thiết lập
- Tạo báo cáo, tập dữ liệu và trường hợp tấn công có thể tái lập
- Đánh giá các đầu ra AI liên quan đến thiên kiến, thông tin sai lệch, hành vi gây hại và các chủ đề nhạy cảm khác
- Mở rộng phạm vi đánh giá bằng cách tìm ra những điểm yếu mà kiểm thử tự động có thể bỏ sót
- Làm việc với các nhóm dự án đang phát triển và cải thiện các hệ thống AI tiên tiến
Yêu cầu
- Sử dụng thành thạo hoặc là người bản ngữ của cả tiếng Anh và tiếng Tamil
- Có khả năng phán đoán tốt khi đánh giá ngôn ngữ và nội dung
- Có khả năng xác định liệu phản hồi của AI có chính xác, đầy đủ và phù hợp hay không
- Chú ý kỹ đến các lỗi, điểm không nhất quán và thiếu sót tinh vi
- Tuân thủ nhất quán các hướng dẫn và tiêu chuẩn chất lượng
- Có khả năng trình bày rõ ràng lập luận cho cả đối tượng kỹ thuật và phi kỹ thuật
- Linh hoạt khi làm việc với nhiều dự án, định dạng nhiệm vụ và khách hàng
- Có thể làm việc với tư cách nhà thầu độc lập
- Không được yêu cầu hỗ trợ bảo lãnh H-1B hoặc STEM OPT
- Ưu tiên có kinh nghiệm về học máy đối kháng, an ninh mạng, rủi ro xã hội-kỹ thuật hoặc kiểm thử sáng tạo
Phúc lợi
- Làm việc hoàn toàn từ xa
- Tự sắp xếp lịch làm việc linh hoạt
- Nhận thanh toán hàng tuần qua Stripe hoặc Wise
- Mức thù lao cạnh tranh
- Tích lũy kinh nghiệm trong kiểm thử đối kháng AI dựa trên dữ liệu do con người tạo ra
- Góp phần làm cho các hệ thống AI mạnh mẽ, an toàn và đáng tin cậy hơn
- Cộng tác với các nhà nghiên cứu hàng đầu
- Có hỗ trợ điều chỉnh hợp lý theo yêu cầu
- Nhận khoản thưởng giới thiệu lên đến 90 USD cho mỗi lượt giới thiệu thành công