51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia An toàn AI Từ xa (Tiếng Anh và Tiếng Kannada)
Thực hiện kiểm thử đối kháng các mô hình AI tiên tiến của Mercor bằng đầu vào tiếng Anh và tiếng Kannada để xác định lỗ hổng. Tạo dữ liệu an toàn có thể tái lập, các trường hợp tấn công và báo cáo cho khách hàng AI.
Mô tả
- Kiểm thử các mô hình và tác nhân AI hội thoại bằng jailbreak, prompt injection, kịch bản lạm dụng, khai thác thiên kiến và thao túng nhiều lượt
- Tạo dữ liệu do con người thực hiện bằng cách chú thích lỗi, phân loại lỗ hổng và xác định rủi ro mang tính hệ thống
- Sử dụng các hệ thống phân loại, bộ tiêu chuẩn và quy trình hướng dẫn đã được thiết lập để duy trì đánh giá nhất quán
- Phát triển báo cáo, tập dữ liệu và trường hợp tấn công có thể tái lập để khách hàng sử dụng
- Đánh giá đầu ra của AI về các chủ đề nhạy cảm, bao gồm thiên kiến, thông tin sai lệch và hành vi gây hại
- Tìm ra những điểm yếu mà các phương pháp đánh giá tự động có thể bỏ sót
- Mở rộng phạm vi đánh giá để giúp ngăn ngừa các vấn đề bất ngờ trong môi trường sản xuất
- Đóng góp cho các dự án đào tạo và cải thiện hệ thống AI dành cho phòng thí nghiệm AI của Mercor và khách hàng doanh nghiệp
Yêu cầu
- Thành thạo hoặc sử dụng tiếng Anh và tiếng Kannada như ngôn ngữ bản địa
- Có khả năng phán đoán tốt khi đánh giá ngôn ngữ và nội dung, bao gồm độ chính xác, tính đầy đủ và mức độ phù hợp của phản hồi AI
- Có khả năng trình bày rõ ràng lập luận với đối tượng kỹ thuật và phi kỹ thuật
- Cẩn thận và chú ý đến những lỗi nhỏ, điểm không nhất quán và nội dung bị bỏ sót
- Có khả năng áp dụng nhất quán các hệ thống phân loại, bộ tiêu chuẩn, quy trình hướng dẫn, nguyên tắc và tiêu chuẩn chất lượng
- Linh hoạt làm việc với nhiều dự án, định dạng nhiệm vụ và khách hàng khác nhau
- Phải làm việc với tư cách nhà thầu độc lập
- Ứng viên không được theo đuổi tình trạng H-1B hoặc STEM OPT
- Ưu tiên: có kinh nghiệm về học máy đối kháng với các tập dữ liệu jailbreak, prompt injection, tấn công RLHF hoặc DPO, hay trích xuất mô hình
- Ưu tiên: có nền tảng an ninh mạng về kiểm thử thâm nhập, phát triển khai thác hoặc kỹ nghệ đảo ngược
- Ưu tiên: có kinh nghiệm về rủi ro xã hội-kỹ thuật, chẳng hạn như thăm dò hành vi quấy rối hoặc thông tin sai lệch, phân tích lạm dụng hoặc kiểm thử AI hội thoại
- Ưu tiên: có kinh nghiệm về tâm lý học, diễn xuất hoặc viết lách hỗ trợ tư duy đối kháng khác biệt
Phúc lợi
- Công việc hợp đồng hoàn toàn từ xa với lịch làm việc linh hoạt
- Thanh toán hàng tuần qua Stripe hoặc Wise dựa trên dịch vụ đã cung cấp
- Cơ hội phát triển kinh nghiệm về red teaming AI dựa trên dữ liệu do con người tạo, tập trung vào an toàn AI tiên tiến
- Đóng góp thiết thực vào việc giúp các hệ thống AI trở nên mạnh mẽ, an toàn và đáng tin cậy hơn
- Có các nguồn lực chăm sóc sức khỏe và hướng dẫn cụ thể cho những dự án liên quan đến nội dung có độ nhạy cảm cao hơn
- Có thể yêu cầu các điều chỉnh hợp lý
- Khoản thanh toán giới thiệu lên đến 90 USD cho mỗi lượt giới thiệu thành công, tùy thuộc vào các hạn chế áp dụng