51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia an toàn AI – Tiếng Anh và Gujarati (Hợp đồng từ xa)
Kiểm thử các mô hình và tác tử AI tiên phong để phát hiện lỗ hổng an toàn thông qua các cuộc hội thoại đối kháng, bao gồm bẻ khóa, tiêm lời nhắc, lạm dụng, thiên kiến và thao túng. Tạo bộ dữ liệu có chú thích, kịch bản tấn công và báo cáo an toàn có thể tái lập bằng tiếng Anh và tiếng Gujarati.
Mô tả
- Kiểm thử đối kháng các mô hình và tác tử AI hội thoại để phát hiện bẻ khóa, tiêm lời nhắc, lạm dụng, khai thác thiên kiến và thao túng qua nhiều lượt
- Tạo dữ liệu do con người thực hiện bằng cách chú thích các lỗi, phân loại lỗ hổng và xác định rủi ro mang tính hệ thống
- Sử dụng các hệ thống phân loại, bộ kiểm chuẩn và sổ tay hướng dẫn đã được thiết lập để duy trì hoạt động đánh giá nhất quán
- Xây dựng các báo cáo, bộ dữ liệu và kịch bản tấn công có thể tái lập
- Đánh giá đầu ra của AI liên quan đến các chủ đề nhạy cảm, bao gồm thiên kiến, thông tin sai lệch và hành vi gây hại
- Xác định những điểm yếu mà các phương pháp đánh giá tự động không phát hiện được
- Mở rộng phạm vi đánh giá để giúp hạn chế các vấn đề ngoài dự kiến trong môi trường vận hành
- Cải thiện các hệ thống AI của khách hàng thông qua kiểm thử đối kháng có cấu trúc
Yêu cầu
- Thành thạo tiếng Anh và tiếng Gujarati ở trình độ bản ngữ
- Có khả năng phán đoán tốt khi đánh giá ngôn ngữ và nội dung
- Có khả năng xác định liệu phản hồi của AI có chính xác, đầy đủ và phù hợp hay không, đồng thời giải thích được đánh giá của mình
- Cẩn thận và chú ý đến các lỗi, điểm không nhất quán và thiếu sót nhỏ
- Sử dụng nhất quán các hệ thống phân loại, bộ kiểm chuẩn, sổ tay hướng dẫn, chỉ dẫn và tiêu chuẩn chất lượng
- Có khả năng truyền đạt rõ ràng lập luận cho cả đối tượng kỹ thuật và phi kỹ thuật
- Linh hoạt làm việc với nhiều dự án, định dạng nhiệm vụ và khách hàng khác nhau
- Ưu tiên nền tảng về học máy đối kháng, an ninh mạng, rủi ro xã hội-kỹ thuật hoặc thăm dò AI sáng tạo
- Phải làm việc với tư cách nhà thầu độc lập
- Không hỗ trợ ứng viên H-1B và STEM OPT
Phúc lợi
- Vị trí làm việc hoàn toàn từ xa
- Lịch làm việc linh hoạt, cho phép tự chọn giờ làm
- Thanh toán hàng tuần qua Stripe hoặc Wise
- Dự án có thể được gia hạn, rút ngắn hoặc kết thúc sớm tùy theo nhu cầu kinh doanh và hiệu suất
- Có thể tự nguyện tham gia các dự án liên quan đến nội dung có độ nhạy cảm cao hơn
- Có hướng dẫn cụ thể và nguồn lực chăm sóc sức khỏe cho các nhiệm vụ liên quan đến nội dung nhạy cảm
- Có thể yêu cầu hỗ trợ điều chỉnh hợp lý
- Cơ hội phát triển kinh nghiệm về red teaming AI dựa trên dữ liệu do con người tạo ra
- Làm việc cùng các nhà nghiên cứu hàng đầu
- Khoản thưởng giới thiệu lên đến 90 USD cho mỗi lượt giới thiệu thành công, tùy thuộc vào các giới hạn áp dụng