51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia An toàn AI (Tiếng Anh và Telugu) – Hợp đồng Từ xa
Thực hiện đánh giá red-team đối với các mô hình và tác nhân AI hội thoại cho Mercor, tập trung vào an toàn ngôn ngữ tiếng Anh và Telugu. Tạo dữ liệu lỗ hổng, tình huống tấn công và báo cáo có thể tái lập để hỗ trợ phát triển AI an toàn hơn.
Mô tả
- Kiểm thử các mô hình và tác nhân AI hội thoại bằng jailbreak, prompt injection, tình huống sử dụng sai mục đích, khai thác thiên kiến và thao túng nhiều lượt
- Chú thích các lỗi, phân loại lỗ hổng và xác định rủi ro mang tính hệ thống
- Sử dụng hệ thống phân loại, bộ tiêu chuẩn đánh giá và quy trình hướng dẫn để duy trì hoạt động đánh giá nhất quán
- Tạo báo cáo, bộ dữ liệu và tình huống tấn công có thể tái lập cho khách hàng
- Đánh giá đầu ra AI liên quan đến thiên kiến, thông tin sai lệch, hành vi gây hại và các chủ đề nhạy cảm khác
- Đóng góp vào các dự án đào tạo và cải thiện hệ thống AI
- Xác định những lỗ hổng mà kiểm thử tự động không phát hiện được
- Mở rộng phạm vi đánh giá để giúp giảm các vấn đề không lường trước trong môi trường sản xuất
Yêu cầu
- Thông thạo tiếng Anh và tiếng Telugu ở trình độ bản ngữ hoặc tương đương
- Có khả năng phán đoán tốt khi đánh giá liệu phản hồi của AI có chính xác, đầy đủ và phù hợp hay không
- Có khả năng trình bày rõ ràng lập luận cho cả đối tượng kỹ thuật và phi kỹ thuật
- Tỉ mỉ trong việc phát hiện các lỗi nhỏ, điểm không nhất quán và nội dung bị bỏ sót
- Tuân thủ nhất quán các hướng dẫn và tiêu chuẩn chất lượng
- Linh hoạt khi làm việc với nhiều dự án, định dạng nhiệm vụ và khách hàng
- Sẵn sàng làm việc với tư cách nhà thầu độc lập
- Không phải là ứng viên H-1B hoặc STEM OPT; các chuyên môn liên quan có thể bao gồm học máy đối kháng, bộ dữ liệu jailbreak, prompt injection, tấn công RLHF/DPO, trích xuất mô hình, kiểm thử xâm nhập, phát triển khai thác, kỹ thuật dịch ngược, kiểm tra hành vi quấy rối hoặc thông tin sai lệch, phân tích lạm dụng, kiểm thử AI hội thoại, tâm lý học, diễn xuất hoặc viết lách.
- phúc lợi
Phúc lợi
- Làm việc hoàn toàn từ xa theo lịch do bạn tự sắp xếp
- Nhận thanh toán hàng tuần qua Stripe hoặc Wise cho các dịch vụ đã cung cấp
- Tích lũy kinh nghiệm về red-team AI dựa trên dữ liệu do con người tạo, tập trung vào an toàn AI tiên tiến
- Góp phần giúp các hệ thống AI trở nên mạnh mẽ, an toàn và đáng tin cậy hơn
- Tự lựa chọn có tham gia các dự án có độ nhạy cảm cao hay không
- Được tiếp cận hướng dẫn rõ ràng và các nguồn lực hỗ trợ sức khỏe tinh thần cho các dự án có độ nhạy cảm cao
- Có thể yêu cầu các điều chỉnh hợp lý
- Nhận tối đa 90 đô la cho mỗi lượt giới thiệu thành công, không nêu giới hạn số lượt giới thiệu