51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia kiểm thử an toàn AI đối kháng (tiếng Anh và tiếng Punjab)
Thực hiện kiểm thử đối kháng các mô hình và tác nhân AI hội thoại bằng tiếng Anh và tiếng Punjab. Tạo chú thích lỗ hổng, tình huống tấn công, bộ dữ liệu và báo cáo an toàn có thể tái lập cho các dự án AI an toàn sử dụng dữ liệu con người của Mercor.
Mô tả
- Thăm dò các mô hình và tác nhân AI hội thoại bằng kỹ thuật jailbreak, chèn prompt, kịch bản sử dụng sai mục đích, khai thác thiên kiến và thao túng nhiều lượt
- Tạo chú thích dữ liệu do con người thực hiện bằng cách ghi nhận lỗi, phân loại lỗ hổng và xác định rủi ro mang tính hệ thống
- Sử dụng các hệ thống phân loại, bộ kiểm chuẩn và sổ tay hướng dẫn đã được thiết lập để duy trì đánh giá nhất quán
- Cung cấp báo cáo, bộ dữ liệu và tình huống tấn công có thể tái lập cho khách hàng
- Đánh giá đầu ra AI liên quan đến thiên kiến, thông tin sai lệch, hành vi gây hại và các chủ đề nhạy cảm khác
- Mở rộng phạm vi đánh giá để xác định những lỗ hổng mà kiểm thử tự động có thể bỏ sót
- Góp phần cải thiện tính an toàn, khả năng chống chịu và độ đáng tin cậy của các hệ thống AI khách hàng
Yêu cầu
- Kỹ năng tiếng Anh và tiếng Punjab ở trình độ bản ngữ hoặc thành thạo
- Khả năng phán đoán tốt khi đánh giá độ chính xác, đầy đủ và phù hợp của nội dung do AI tạo ra
- Khả năng phát hiện các lỗi, điểm không nhất quán và thiếu sót tinh vi
- Tuân thủ nhất quán các hướng dẫn, hệ thống phân loại, bộ kiểm chuẩn, sổ tay hướng dẫn và tiêu chuẩn chất lượng
- Truyền đạt rõ ràng cách lập luận cho cả đối tượng kỹ thuật và phi kỹ thuật
- Linh hoạt trong nhiều dự án, định dạng nhiệm vụ và yêu cầu của khách hàng
- Có khả năng làm việc với tư cách nhà thầu độc lập
- Không hỗ trợ ứng viên H1-B và STEM OPT
- Có nền tảng hữu ích trong học máy đối kháng, bộ dữ liệu jailbreak, tấn công chèn prompt hoặc RLHF/DPO, trích xuất mô hình, kiểm thử xâm nhập, phát triển khai thác, kỹ thuật đảo ngược, thăm dò quấy rối hoặc thông tin sai lệch, phân tích lạm dụng, kiểm thử AI hội thoại, tâm lý học, diễn xuất hoặc viết đối kháng theo cách tiếp cận khác biệt
Phúc lợi
- Làm việc hoàn toàn từ xa với lịch làm việc linh hoạt, tự quản lý
- Thanh toán hàng tuần qua Stripe hoặc Wise
- Mức thù lao cạnh tranh
- Nguồn lực hỗ trợ sức khỏe và hướng dẫn rõ ràng cho các dự án có độ nhạy cảm cao hơn
- Có thể yêu cầu hỗ trợ điều chỉnh hợp lý
- Khoản thưởng giới thiệu lên đến 90 USD cho mỗi lượt giới thiệu thành công
- Cơ hội hợp tác với các nhà nghiên cứu hàng đầu
- Kinh nghiệm thực tiễn về kiểm thử đối kháng AI sử dụng dữ liệu con người ở tuyến đầu của lĩnh vực an toàn AI