51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia An toàn AI từ xa – Tiếng Anh và tiếng Assam (Hợp đồng)
Mercor đang tìm kiếm chuyên gia an toàn AI làm việc từ xa theo hợp đồng, thông thạo tiếng Anh và tiếng Assam, để kiểm thử đối kháng các mô hình tiên tiến, đánh giá lỗ hổng và tạo dữ liệu chất lượng cao cho các dự án an toàn AI.
Mô tả
- Kiểm thử đối kháng các mô hình và tác nhân AI hội thoại bằng cách sử dụng jailbreak, chèn prompt, các kịch bản lạm dụng, khai thác thiên kiến và thao túng qua nhiều lượt hội thoại
- Tạo dữ liệu do con người gán nhãn bằng cách chú thích lỗi, phân loại lỗ hổng và xác định các rủi ro mang tính hệ thống
- Sử dụng hệ thống phân loại, bộ tiêu chuẩn đánh giá và sổ tay hướng dẫn để bảo đảm các cuộc đánh giá nhất quán
- Xây dựng các báo cáo, bộ dữ liệu và trường hợp tấn công có thể tái lập cho khách hàng
- Đánh giá đầu ra của AI liên quan đến các chủ đề nhạy cảm, bao gồm thiên kiến, thông tin sai lệch và hành vi có hại
- Xác định các lỗ hổng mà kiểm thử tự động không phát hiện được
- Mở rộng phạm vi đánh giá để giúp giảm thiểu các vấn đề ngoài dự kiến trong môi trường sản xuất
- Đóng góp cho các dự án đào tạo và cải thiện các hệ thống AI tiên tiến
Yêu cầu
- Thông thạo tiếng Anh và tiếng Assam ở trình độ bản ngữ
- Có phán đoán tốt khi đánh giá chất lượng ngôn ngữ và nội dung
- Có khả năng xác định liệu phản hồi của AI có chính xác, đầy đủ và phù hợp hay không
- Có khả năng trình bày lập luận rõ ràng với đối tượng kỹ thuật và phi kỹ thuật
- Đặc biệt chú ý đến các lỗi tinh vi, điểm không nhất quán và nội dung bị bỏ sót
- Có khả năng áp dụng nhất quán các hướng dẫn, hệ thống phân loại, bộ tiêu chuẩn đánh giá, sổ tay hướng dẫn và tiêu chuẩn chất lượng
- Linh hoạt làm việc trên nhiều dự án, định dạng nhiệm vụ và nhu cầu của khách hàng
- Phải làm việc với tư cách nhà thầu độc lập
- Hiện chưa thể hỗ trợ ứng viên H-1B và STEM OPT
- Các lĩnh vực chuyên môn được ưu tiên bao gồm học máy đối kháng, an ninh mạng, rủi ro xã hội-kỹ thuật, đánh giá AI hội thoại, tâm lý học, diễn xuất và viết lách
Phúc lợi
- Làm việc hoàn toàn từ xa
- Tự sắp xếp lịch làm việc phù hợp với bạn
- Nhận thanh toán hàng tuần qua Stripe hoặc Wise
- Tích lũy kinh nghiệm thực tiễn về kiểm thử đối kháng AI dựa trên dữ liệu do con người tạo ra
- Góp phần giúp các hệ thống AI mạnh mẽ, an toàn và đáng tin cậy hơn
- Cộng tác với các nhà nghiên cứu AI hàng đầu
- Có thể yêu cầu hỗ trợ hợp lý khi cần
- Nhận khoản thưởng giới thiệu lên đến 90 USD cho mỗi lượt giới thiệu thành công, tùy theo các giới hạn áp dụng