51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia An toàn AI - Tiếng Anh và Punjabi
Công việc hợp đồng từ xa dành cho chuyên gia an toàn AI thông thạo tiếng Anh và Punjabi, hỗ trợ các dự án kiểm thử đối kháng AI hội thoại của Mercor. Kiểm thử jailbreak, prompt injection, rủi ro nội dung có hại và lỗ hổng mô hình, đồng thời ghi chép các phát hiện có thể tái lập.
Mô tả
- Tiến hành kiểm thử đối kháng các mô hình và tác nhân AI hội thoại bằng jailbreak, prompt injection, các kịch bản lạm dụng, khai thác thiên kiến và thao túng nhiều lượt
- Tạo dữ liệu do con người tạo bằng cách chú thích lỗi, phân loại lỗ hổng và xác định rủi ro mang tính hệ thống
- Áp dụng các hệ thống phân loại, bộ tiêu chuẩn đánh giá và playbook hiện có để duy trì tính nhất quán trong đánh giá
- Chuẩn bị báo cáo, bộ dữ liệu và các trường hợp tấn công có thể tái lập cho khách hàng
- Đánh giá đầu ra AI về thiên kiến, thông tin sai lệch, hành vi có hại và các rủi ro nội dung nhạy cảm khác
- Xác định những điểm yếu mà các phương pháp đánh giá tự động có thể bỏ sót
- Mở rộng phạm vi đánh giá để giúp hạn chế các vấn đề bất ngờ trong môi trường sản xuất
- Cải thiện hệ thống AI của khách hàng thông qua kiểm thử đối kháng có cấu trúc
Yêu cầu
- Thông thạo bản ngữ cả tiếng Anh và Punjabi
- Có khả năng phán đoán tốt khi đánh giá ngôn ngữ và nội dung
- Có khả năng xác định phản hồi của AI có chính xác, đầy đủ và phù hợp hay không, đồng thời giải thích được đánh giá đó
- Chú ý kỹ đến các lỗi nhỏ, điểm không nhất quán và thiếu sót
- Tuân thủ nhất quán các hướng dẫn và tiêu chuẩn chất lượng
- Truyền đạt rõ ràng cách lập luận cho cả đối tượng kỹ thuật và phi kỹ thuật
- Có khả năng thích ứng với nhiều dự án, định dạng nhiệm vụ và khách hàng
- Tư cách nhà thầu độc lập
- Không phải là ứng viên H-1B hoặc STEM OPT
- Ưu tiên: có kinh nghiệm về học máy đối kháng với bộ dữ liệu jailbreak, prompt injection, tấn công RLHF/DPO hoặc trích xuất mô hình
- Ưu tiên: có kinh nghiệm an ninh mạng trong kiểm thử xâm nhập, phát triển khai thác hoặc kỹ thuật đảo ngược
- Ưu tiên: có kinh nghiệm về rủi ro xã hội-kỹ thuật, bao gồm thăm dò hành vi quấy rối hoặc thông tin sai lệch, phân tích lạm dụng hoặc kiểm thử AI hội thoại
- Ưu tiên: có kinh nghiệm về tâm lý học, diễn xuất hoặc viết lách hỗ trợ tư duy đối kháng khác biệt
Phúc lợi
- Làm việc hoàn toàn từ xa
- Lịch làm việc linh hoạt, có thể làm theo lịch riêng
- Thanh toán hằng tuần qua Stripe hoặc Wise
- Dự án có thể được gia hạn, rút ngắn hoặc kết thúc sớm tùy theo nhu cầu kinh doanh và hiệu suất
- Tùy chọn tham gia các dự án có độ nhạy cảm cao hơn
- Cung cấp hướng dẫn về nội dung và tài nguyên hỗ trợ sức khỏe tinh thần
- Mức thù lao cạnh tranh
- Có hỗ trợ điều chỉnh hợp lý theo yêu cầu
- Khoản thưởng giới thiệu lên đến 90 USD cho mỗi lượt giới thiệu thành công, tùy thuộc vào giới hạn giới thiệu