51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia An toàn AI (Tiếng Anh và Kannada) – Hợp đồng làm việc từ xa tại Hoa Kỳ
Mercor đang tìm kiếm chuyên gia kiểm thử tấn công AI thành thạo tiếng Anh và Kannada để kiểm tra các mô hình tiên tiến nhằm phát hiện lỗ hổng. Công việc bao gồm tạo các trường hợp tấn công có thể tái lập, bộ dữ liệu đánh giá và báo cáo rủi ro cho các dự án đào tạo AI dựa trên dữ liệu do con người tạo.
Mô tả
- Kiểm thử các mô hình và tác nhân AI hội thoại bằng jailbreak, chèn prompt, các tình huống lạm dụng, khai thác thiên kiến và thao túng qua nhiều lượt hội thoại
- Tạo chú thích dữ liệu do con người thực hiện bằng cách ghi nhận lỗi, phân loại lỗ hổng và xác định rủi ro mang tính hệ thống
- Sử dụng các hệ thống phân loại, bộ tiêu chuẩn đánh giá và sổ tay quy trình đã được thiết lập để duy trì hoạt động đánh giá nhất quán
- Chuẩn bị báo cáo hướng đến khách hàng, bộ dữ liệu và các trường hợp tấn công có thể tái lập
- Đánh giá phản hồi của AI về các chủ đề nhạy cảm, bao gồm thiên kiến, thông tin sai lệch và hành vi có hại
- Điều tra các điểm yếu trong hệ thống AI mà kiểm thử tự động có thể bỏ sót
- Mở rộng phạm vi đánh giá để giúp hạn chế các vấn đề không lường trước khi đưa vào vận hành
- Hỗ trợ đào tạo và cải thiện các mô hình tiên tiến cho phòng thí nghiệm AI của Mercor và khách hàng doanh nghiệp
Yêu cầu
- Thông thạo tiếng Anh và Kannada ở trình độ bản ngữ
- Có khả năng phán đoán tốt khi đánh giá mức độ chính xác, đầy đủ và phù hợp của phản hồi AI
- Kỹ năng giao tiếp rõ ràng để giải thích lập luận cho cả đối tượng kỹ thuật và phi kỹ thuật
- Chú ý tỉ mỉ đến những lỗi, điểm không nhất quán và thiếu sót nhỏ
- Nhất quán trong việc áp dụng các hệ thống phân loại, bộ tiêu chuẩn đánh giá, sổ tay quy trình, hướng dẫn và tiêu chuẩn chất lượng
- Linh hoạt làm việc với nhiều dự án, định dạng nhiệm vụ và khách hàng khác nhau
- Có khả năng làm việc với tư cách nhà thầu độc lập
- Không được yêu cầu hỗ trợ bảo lãnh H-1B hoặc STEM OPT; các diện bảo lãnh này không được hỗ trợ
- Kinh nghiệm liên quan trong học máy đối kháng, an ninh mạng, rủi ro xã hội-kỹ thuật, kiểm thử AI hội thoại, tâm lý học, diễn xuất hoặc viết đối kháng theo cách tiếp cận khác biệt là một lợi thế
Phúc lợi
- Làm việc hoàn toàn từ xa với sự linh hoạt trong việc tự sắp xếp lịch làm việc
- Nhận thanh toán hằng tuần qua Stripe hoặc Wise cho các dịch vụ đã cung cấp
- Tự lựa chọn có tham gia các dự án liên quan đến nội dung nhạy cảm ở mức cao hơn hay không
- Được cung cấp hướng dẫn rõ ràng và các nguồn lực chăm sóc sức khỏe cho nhiệm vụ liên quan đến nội dung nhạy cảm
- Nhận mức thù lao cạnh tranh
- Tích lũy kinh nghiệm thực tiễn về kiểm thử tấn công AI dựa trên dữ liệu do con người tạo
- Cộng tác với các nhà nghiên cứu hàng đầu
- Có thể yêu cầu các điều chỉnh hợp lý khi cần
- Nhận khoản thưởng giới thiệu lên đến 90 USD cho mỗi lượt giới thiệu thành công