51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia kiểm thử an toàn AI (Tiếng Anh và Telugu) - Hợp đồng từ xa
Kiểm thử các mô hình AI hội thoại để phát hiện jailbreak, prompt injection, hành vi lạm dụng, thiên kiến và các lỗi an toàn khác. Ghi chép các lỗ hổng có thể tái hiện và dữ liệu đánh giá phục vụ khách hàng nghiên cứu AI.
Mô tả
- Kiểm thử đối kháng các mô hình và tác nhân AI hội thoại để phát hiện jailbreak, prompt injection, hành vi lạm dụng, khai thác thiên kiến và thao túng qua nhiều lượt hội thoại
- Gắn nhãn các lỗi trong quá trình kiểm thử, phân loại lỗ hổng và xác định rủi ro mang tính hệ thống
- Áp dụng các hệ thống phân loại, bộ kiểm chuẩn và quy trình có sẵn để duy trì hoạt động đánh giá nhất quán
- Tạo báo cáo, bộ dữ liệu và kịch bản tấn công có thể tái hiện cho khách hàng
- Đánh giá phản hồi của AI về các chủ đề nhạy cảm, bao gồm thiên kiến, thông tin sai lệch và hành vi có hại
- Tìm ra những điểm yếu mà các phương pháp đánh giá tự động không phát hiện được
- Mở rộng phạm vi đánh giá để giúp ngăn ngừa các vấn đề bất ngờ trong môi trường sản xuất
- Cải thiện hệ thống AI của khách hàng thông qua hoạt động kiểm thử đối kháng có thể lặp lại
Yêu cầu
- Thông thạo như người bản ngữ cả tiếng Anh và tiếng Telugu
- Có phán đoán tốt khi đánh giá ngôn ngữ và nội dung về độ chính xác, đầy đủ và phù hợp
- Có khả năng trình bày rõ ràng cách lập luận với cả đối tượng kỹ thuật và không chuyên môn
- Cẩn thận chú ý đến các lỗi, điểm không nhất quán và thiếu sót tinh vi
- Có khả năng tuân thủ nhất quán các hướng dẫn và tiêu chuẩn chất lượng
- Linh hoạt khi làm việc với nhiều dự án, định dạng nhiệm vụ và khách hàng
- Làm việc với tư cách nhà thầu độc lập
- Có khả năng làm việc mà không sử dụng thông tin mật hoặc độc quyền của bất kỳ nhà tuyển dụng, khách hàng hay tổ chức nào
- Không hỗ trợ ứng viên H-1B và STEM OPT
Phúc lợi
- Làm việc hoàn toàn từ xa theo lịch trình tự chủ
- Thanh toán hằng tuần qua Stripe hoặc Wise cho các dịch vụ đã cung cấp
- Có thể tự nguyện tham gia các dự án liên quan đến nội dung nhạy cảm hơn
- Được cung cấp hướng dẫn và tài nguyên chăm sóc sức khỏe tinh thần cho công việc liên quan đến nội dung nhạy cảm
- Tích lũy kinh nghiệm xây dựng chuyên môn kiểm thử đối kháng AI dựa trên dữ liệu do con người tạo ra
- Cơ hội góp phần làm cho các hệ thống AI an toàn hơn, mạnh mẽ hơn và đáng tin cậy hơn
- Có cơ hội hợp tác với các nhà nghiên cứu hàng đầu
- Khoản thưởng giới thiệu lên đến 90 USD cho mỗi lượt giới thiệu thành công, tùy theo các giới hạn áp dụng