51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia An toàn AI từ xa (Tiếng Anh và Tiếng Marathi) tại Mercor
Kiểm tra các mô hình AI đàm thoại để phát hiện lỗ hổng thông qua hoạt động kiểm thử red team bằng tiếng Anh và tiếng Marathi. Tạo các tập dữ liệu, tình huống tấn công và báo cáo có thể tái lập cho các dự án an toàn AI dựa trên dữ liệu con người.
Mô tả
- Tiến hành kiểm thử red team đối với các mô hình và tác nhân AI đàm thoại bằng kỹ thuật bẻ khóa, tiêm lệnh, các tình huống sử dụng sai mục đích, khai thác thiên kiến và thao túng qua nhiều lượt hội thoại
- Tạo dữ liệu con người bằng cách chú thích các lỗi, phân loại lỗ hổng và xác định rủi ro mang tính hệ thống
- Sử dụng các hệ phân loại, bộ chuẩn đánh giá và sổ tay quy trình để duy trì hoạt động đánh giá nhất quán
- Phát triển các báo cáo, tập dữ liệu và tình huống tấn công có thể tái lập cho khách hàng
- Đánh giá đầu ra của AI liên quan đến các chủ đề nhạy cảm, bao gồm thiên kiến, thông tin sai lệch và hành vi gây hại
- Xác định những điểm yếu mà hoạt động kiểm thử tự động có thể bỏ sót
- Mở rộng phạm vi đánh giá để giúp ngăn ngừa các vấn đề ngoài dự kiến trong môi trường vận hành
- Hỗ trợ khách hàng cải thiện tính an toàn, khả năng chống chịu và độ đáng tin cậy của hệ thống AI
Yêu cầu
- Yêu cầu có khả năng sử dụng tiếng Anh và tiếng Marathi lưu loát hoặc như người bản ngữ
- Có khả năng phán đoán tốt về ngôn ngữ và nội dung, bao gồm khả năng đánh giá xem phản hồi của AI có chính xác, đầy đủ và phù hợp hay không, đồng thời giải thích được lý do
- Đặc biệt chú ý đến các lỗi tinh vi, điểm không nhất quán và nội dung bị bỏ sót
- Tuân thủ nhất quán các hướng dẫn và tiêu chuẩn chất lượng đã được thiết lập
- Truyền đạt rõ ràng lập luận cho cả đối tượng kỹ thuật và phi kỹ thuật
- Có khả năng thích ứng với nhiều dự án, định dạng nhiệm vụ và khách hàng
- Phải làm việc với tư cách nhà thầu độc lập
- Không hỗ trợ ứng viên H1-B và STEM OPT
- Ưu tiên: có kinh nghiệm về học máy đối kháng với các tập dữ liệu bẻ khóa, tiêm lệnh, tấn công RLHF hoặc DPO hay trích xuất mô hình
- Ưu tiên: có kinh nghiệm an ninh mạng trong kiểm thử xâm nhập, phát triển khai thác hoặc kỹ thuật đảo ngược
- Ưu tiên: có kinh nghiệm về rủi ro xã hội-kỹ thuật liên quan đến việc thăm dò hành vi quấy rối hoặc thông tin sai lệch, phân tích lạm dụng hoặc kiểm thử AI đàm thoại
- Ưu tiên: có kinh nghiệm về tâm lý học, diễn xuất hoặc viết lách, hỗ trợ tư duy đối kháng theo cách khác thường
Phúc lợi
- Làm việc hoàn toàn từ xa
- Lịch làm việc linh hoạt với khả năng tự chọn giờ làm
- Thanh toán hàng tuần qua Stripe hoặc Wise dựa trên dịch vụ đã cung cấp
- Thời lượng dự án có thể được gia hạn, rút ngắn hoặc kết thúc sớm tùy theo nhu cầu kinh doanh và hiệu suất
- Có các nguồn lực hỗ trợ sức khỏe và hướng dẫn rõ ràng cho những dự án liên quan đến nội dung có độ nhạy cảm cao hơn
- Có hỗ trợ điều chỉnh hợp lý theo yêu cầu
- Chương trình giới thiệu trả tối đa 90 USD cho mỗi lượt giới thiệu thành công, không giới hạn số lượt giới thiệu
- Cơ hội hợp tác với các nhà nghiên cứu hàng đầu
- Có kinh nghiệm tiến hành hoạt động red team AI dựa trên dữ liệu con người ở tuyến đầu của lĩnh vực an toàn AI