51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia An toàn AI Mercor – Tiếng Anh và Gujarati, Hợp đồng Làm việc Từ xa tại Hoa Kỳ
Tiến hành đánh giá red team có sự tham gia của con người đối với các mô hình và tác nhân AI hội thoại cho Mercor. Tạo dữ liệu về lỗ hổng, kịch bản tấn công và đánh giá an toàn có thể tái lập bằng tiếng Anh và Gujarati.
Mô tả
- Kiểm thử red team các mô hình và tác nhân AI hội thoại bằng cách sử dụng kỹ thuật vượt rào, tiêm lệnh, các kịch bản sử dụng sai mục đích, khai thác thiên lệch và thao túng qua nhiều lượt hội thoại
- Ghi chú các lỗi, phân loại lỗ hổng và báo cáo các rủi ro mang tính hệ thống
- Sử dụng các hệ thống phân loại, bộ tiêu chuẩn đánh giá và quy trình có sẵn để duy trì tính nhất quán trong đánh giá
- Tạo báo cáo, bộ dữ liệu và kịch bản tấn công có thể tái lập
- Đánh giá đầu ra của AI liên quan đến thiên lệch, thông tin sai lệch, hành vi gây hại và các chủ đề nhạy cảm khác
- Phát hiện những điểm yếu mà kiểm thử tự động có thể bỏ sót
- Mở rộng phạm vi đánh giá và góp phần hạn chế các sự cố ngoài dự kiến trong môi trường sản xuất
- Cải thiện hệ thống AI của khách hàng thông qua hoạt động red team dựa trên dữ liệu do con người tạo ra
Yêu cầu
- Thông thạo tiếng Anh và tiếng Gujarati ở trình độ bản ngữ
- Có khả năng phán đoán tốt khi đánh giá ngôn ngữ và nội dung
- Có khả năng xác định liệu phản hồi của AI có chính xác, đầy đủ và phù hợp hay không, đồng thời giải thích được đánh giá của mình
- Rất chú ý đến những lỗi nhỏ, điểm không nhất quán và thiếu sót
- Tuân thủ nhất quán các hướng dẫn và tiêu chuẩn chất lượng
- Truyền đạt rõ ràng lập luận cho cả đối tượng kỹ thuật và phi kỹ thuật
- Linh hoạt khi làm việc với nhiều dự án, định dạng nhiệm vụ và khách hàng
- Sẵn sàng làm việc với tư cách nhà thầu độc lập
- Không phải là ứng viên H-1B hoặc STEM OPT
- Ưu tiên có chuyên môn về học máy đối kháng, an ninh mạng, rủi ro xã hội-kỹ thuật hoặc thăm dò sáng tạo
Phúc lợi
- Công việc hợp đồng hoàn toàn từ xa
- Lịch làm việc linh hoạt
- Thanh toán hàng tuần qua Stripe hoặc Wise
- Có thể tham gia các dự án có mức độ nhạy cảm cao hơn
- Được hướng dẫn và cung cấp nguồn lực chăm sóc sức khỏe tinh thần khi làm việc với nội dung nhạy cảm
- Mức thù lao cạnh tranh
- Cơ hội hợp tác với các nhà nghiên cứu hàng đầu
- Có hỗ trợ điều chỉnh hợp lý theo yêu cầu
- Chương trình giới thiệu nhận tối đa 90 USD cho mỗi lượt giới thiệu thành công