51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia An toàn AI (Tiếng Anh và Tamil) – Hợp đồng từ xa
Mercor đang tìm kiếm chuyên gia an toàn AI sử dụng tiếng Anh và Tamil để kiểm thử đối kháng các mô hình và tác nhân hội thoại. Vị trí hợp đồng tập trung vào việc xác định lỗ hổng, tạo dữ liệu đánh giá và lập báo cáo an toàn có thể tái lập.
Mô tả
- Tiến hành kiểm thử đối kháng các mô hình và tác nhân AI hội thoại bằng kỹ thuật bẻ khóa, chèn lời nhắc, các kịch bản lạm dụng, khai thác thiên lệch và thao túng qua nhiều lượt hội thoại.
- Tạo dữ liệu do con người thực hiện bằng cách chú thích các lỗi, phân loại lỗ hổng và xác định rủi ro mang tính hệ thống.
- Sử dụng các hệ thống phân loại, bộ chuẩn đối sánh và cẩm nang đã được thiết lập để duy trì việc đánh giá nhất quán.
- Cung cấp cho khách hàng các báo cáo, bộ dữ liệu và trường hợp tấn công có thể tái lập.
- Đánh giá các đầu ra AI liên quan đến những chủ đề nhạy cảm, bao gồm thiên lệch, thông tin sai lệch và hành vi gây hại.
- Xác định những điểm yếu mà các phương pháp đánh giá tự động có thể bỏ sót.
- Mở rộng phạm vi đánh giá để giúp giảm thiểu các vấn đề bất ngờ trong môi trường sản xuất.
- Cải thiện hệ thống AI của khách hàng thông qua kiểm thử đối kháng có cấu trúc.
Yêu cầu
- Có khả năng sử dụng tiếng Anh và Tamil ở trình độ bản ngữ hoặc thành thạo.
- Có phán đoán tốt khi đánh giá ngôn ngữ và nội dung.
- Có khả năng xác định liệu phản hồi của AI có chính xác, đầy đủ và phù hợp hay không, đồng thời giải thích được lý do.
- Chú ý cao đến các lỗi nhỏ, điểm không nhất quán và nội dung bị bỏ sót.
- Tuân thủ nhất quán các hướng dẫn và tiêu chuẩn chất lượng.
- Có khả năng trình bày rõ ràng lập luận cho cả đối tượng kỹ thuật và phi kỹ thuật.
- Thích ứng tốt với nhiều dự án, định dạng nhiệm vụ và khách hàng.
- Có khả năng làm việc với tư cách nhà thầu độc lập.
- Không hỗ trợ ứng viên H1-B và STEM OPT.
- Ưu tiên: Có kinh nghiệm về học máy đối kháng với các bộ dữ liệu bẻ khóa, chèn lời nhắc, tấn công RLHF hoặc DPO, hoặc trích xuất mô hình.
- Ưu tiên: Có kinh nghiệm về an ninh mạng trong kiểm thử xâm nhập, phát triển mã khai thác hoặc kỹ thuật dịch ngược.
- Ưu tiên: Có kinh nghiệm về rủi ro xã hội-kỹ thuật liên quan đến việc thăm dò hành vi quấy rối hoặc thông tin sai lệch, phân tích lạm dụng hoặc kiểm thử AI hội thoại.
- Ưu tiên: Có kinh nghiệm thăm dò sáng tạo trong tâm lý học, diễn xuất hoặc viết lách.
Phúc lợi
- Làm việc hoàn toàn từ xa.
- Lịch làm việc linh hoạt, có thể tự chọn giờ làm.
- Thanh toán hằng tuần qua Stripe hoặc Wise.
- Có thể tự nguyện tham gia các dự án có mức độ nhạy cảm cao hơn.
- Có hướng dẫn rõ ràng và nguồn lực hỗ trợ sức khỏe tinh thần cho công việc liên quan đến nội dung nhạy cảm.
- Mức thù lao theo giờ cạnh tranh.
- Cơ hội cộng tác với các nhà nghiên cứu hàng đầu.
- Khoản thanh toán giới thiệu lên đến 90 USD cho mỗi lượt giới thiệu thành công, tuân theo các giới hạn áp dụng.
- Có hỗ trợ điều chỉnh hợp lý theo yêu cầu.