51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia Red Team An toàn AI (Tiếng Anh và Tiếng Punjabi)
Mercor đang tìm kiếm chuyên gia an toàn AI sử dụng tiếng Anh và tiếng Punjabi để kiểm thử đối kháng các mô hình và tác tử hội thoại. Vai trò hợp đồng này tập trung vào việc phát hiện lỗ hổng, tạo các tình huống tấn công và lập báo cáo an toàn có thể tái hiện cho khách hàng nghiên cứu AI.
Mô tả
- Kiểm thử các mô hình và tác tử AI hội thoại bằng kỹ thuật vượt rào bảo vệ, tiêm lời nhắc, các tình huống sử dụng sai mục đích, khai thác thiên kiến và thao túng qua nhiều lượt hội thoại
- Đánh giá đầu ra của mô hình về các chủ đề nhạy cảm, bao gồm thiên kiến, thông tin sai lệch và hành vi gây hại
- Ghi nhận lỗi, phân loại lỗ hổng và xác định các rủi ro mang tính hệ thống
- Sử dụng các hệ thống phân loại, bộ chuẩn đánh giá và hướng dẫn kiểm thử hiện có để duy trì đánh giá nhất quán
- Tạo báo cáo, bộ dữ liệu và tình huống tấn công có thể tái hiện cho khách hàng
- Điều tra các điểm yếu của hệ thống AI mà kiểm thử tự động có thể bỏ sót
- Mở rộng phạm vi đánh giá để giúp hạn chế các vấn đề bất ngờ trong môi trường sản xuất
- Cải thiện hệ thống AI của khách hàng thông qua hoạt động kiểm thử đối kháng do con người thực hiện dựa trên dữ liệu
Yêu cầu
- Thành thạo hoặc sử dụng tiếng Anh và tiếng Punjabi như ngôn ngữ bản địa
- Có khả năng phán đoán tốt khi đánh giá ngôn ngữ và nội dung
- Có khả năng xác định phản hồi của AI có chính xác, đầy đủ và phù hợp hay không, đồng thời giải thích được đánh giá
- Chú ý tỉ mỉ đến các lỗi nhỏ, điểm không nhất quán và phần bị bỏ sót
- Tuân thủ nhất quán các hướng dẫn kiểm thử và tiêu chuẩn chất lượng
- Có khả năng trình bày lập luận rõ ràng với cả đối tượng kỹ thuật và phi kỹ thuật
- Linh hoạt làm việc với nhiều dự án, định dạng nhiệm vụ và khách hàng
- Có thể tham gia với tư cách nhà thầu độc lập
- Không yêu cầu hỗ trợ H-1B hoặc STEM OPT
- Kinh nghiệm ưu tiên có thể bao gồm học máy đối kháng, bộ dữ liệu vượt rào bảo vệ, tấn công tiêm lời nhắc, tấn công RLHF/DPO, trích xuất mô hình, kiểm thử xâm nhập, phát triển khai thác, kỹ thuật đảo ngược, kiểm tra hành vi quấy rối hoặc thông tin sai lệch, phân tích lạm dụng, kiểm thử AI hội thoại, tâm lý học, diễn xuất hoặc viết lách
Phúc lợi
- Làm việc từ xa ở bất kỳ đâu được vai trò cho phép
- Tự thiết lập lịch làm việc
- Nhận thanh toán hàng tuần qua Stripe hoặc Wise cho các dịch vụ đã cung cấp
- Dự án có thể được gia hạn, thu hẹp hoặc kết thúc sớm tùy theo nhu cầu kinh doanh và hiệu quả công việc
- Được tiếp cận các nguồn lực chăm sóc sức khỏe và hướng dẫn rõ ràng cho những dự án có độ nhạy cảm cao hơn
- Tích lũy kinh nghiệm về kiểm thử đối kháng AI dựa trên dữ liệu do con người tạo ra
- Góp phần làm cho các hệ thống AI mạnh mẽ, an toàn và đáng tin cậy hơn
- Mức thù lao cạnh tranh
- Cộng tác với các nhà nghiên cứu AI hàng đầu