51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia An toàn AI – Tiếng Anh và Tiếng Bengali (Hợp đồng từ xa)
Mercor đang tìm kiếm chuyên gia kiểm thử tấn công an toàn AI sử dụng tiếng Anh và tiếng Bengali để xác định các lỗ hổng trong hệ thống AI hội thoại. Vai trò này bao gồm xây dựng các trường hợp tấn công có thể tái hiện và dữ liệu do con người tạo ra để các phòng thí nghiệm AI huấn luyện các mô hình tiên tiến.
Mô tả
- Kiểm thử các mô hình và tác nhân AI hội thoại bằng kỹ thuật bẻ khóa, chèn lời nhắc, các kịch bản sử dụng sai mục đích, khai thác thiên kiến và thao túng qua nhiều lượt hội thoại
- Tạo dữ liệu do con người tạo ra bằng cách chú thích các lỗi, phân loại lỗ hổng và xác định các rủi ro mang tính hệ thống
- Sử dụng các hệ thống phân loại, bộ tiêu chuẩn và hướng dẫn kiểm thử hiện có để duy trì tính nhất quán của các cuộc đánh giá
- Cung cấp cho khách hàng các báo cáo, bộ dữ liệu và trường hợp tấn công có thể tái hiện
- Đánh giá phản hồi của AI liên quan đến thiên kiến, thông tin sai lệch, hành vi gây hại và các chủ đề nhạy cảm khác
- Mở rộng phạm vi đánh giá và góp phần xây dựng các hệ thống AI mạnh mẽ hơn cho khách hàng
Yêu cầu
- Thành thạo bản ngữ hoặc lưu loát cả tiếng Anh và tiếng Bengali
- Có khả năng phán đoán tốt khi đánh giá ngôn ngữ và nội dung, bao gồm khả năng xác định liệu phản hồi của AI có chính xác, đầy đủ và phù hợp hay không, đồng thời giải thích đánh giá đó
- Chú ý cao đến các lỗi tinh vi, điểm không nhất quán và nội dung bị bỏ sót
- Tuân thủ đáng tin cậy các hướng dẫn kiểm thử và tiêu chuẩn chất lượng
- Truyền đạt rõ ràng cơ sở lập luận cho cả đối tượng kỹ thuật và phi kỹ thuật
- Sẵn sàng thích ứng với nhiều dự án, định dạng nhiệm vụ và khách hàng
- Có khả năng làm việc với tư cách nhà thầu độc lập
- Không yêu cầu hỗ trợ thị thực H-1B hoặc STEM OPT
- Ưu tiên: có kinh nghiệm về học máy đối kháng với bộ dữ liệu bẻ khóa, chèn lời nhắc, các cuộc tấn công RLHF/DPO hoặc trích xuất mô hình
- Ưu tiên: có kinh nghiệm an ninh mạng trong kiểm thử thâm nhập, phát triển khai thác hoặc kỹ nghệ đảo ngược
- Ưu tiên: có kinh nghiệm về rủi ro xã hội-kỹ thuật trong thăm dò hành vi quấy rối hoặc thông tin sai lệch, phân tích lạm dụng hoặc kiểm thử AI hội thoại
- Ưu tiên: có kinh nghiệm về tâm lý học, diễn xuất hoặc viết lách hỗ trợ tư duy đối kháng độc đáo
Phúc lợi
- Làm việc hoàn toàn từ xa
- Tự sắp xếp lịch làm việc linh hoạt theo thời gian sẵn có của bạn
- Nhận thanh toán hàng tuần qua Stripe hoặc Wise
- Tự chọn có tham gia các dự án có độ nhạy cảm cao hơn hay không
- Được tiếp cận hướng dẫn rõ ràng và các nguồn lực chăm sóc sức khỏe tinh thần cho nhiệm vụ có nội dung nhạy cảm
- Nhận mức thù lao cạnh tranh
- Tích lũy kinh nghiệm về kiểm thử tấn công AI dựa trên dữ liệu do con người tạo ra
- Cộng tác với các nhà nghiên cứu AI hàng đầu
- Nhận khoản thanh toán giới thiệu lên đến 90 USD cho mỗi lượt giới thiệu thành công