51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia an toàn AI – Tiếng Anh và tiếng Phần Lan (Từ xa)
Mercor đang tìm kiếm các chuyên gia an toàn AI nói tiếng Anh và tiếng Phần Lan để kiểm thử đối kháng các mô hình và tác nhân AI hội thoại. Công việc bao gồm tạo dữ liệu lỗ hổng có thể tái lập và các trường hợp tấn công cho các dự án đào tạo AI tiên tiến.
Mô tả
- Tiến hành kiểm thử đối kháng các mô hình và tác nhân AI hội thoại bằng kỹ thuật jailbreak, tiêm prompt, các kịch bản sử dụng sai mục đích, khai thác thiên kiến và thao túng qua nhiều lượt hội thoại
- Ghi nhận các lỗi, phân loại lỗ hổng và xác định rủi ro mang tính hệ thống
- Áp dụng các hệ thống phân loại, bộ kiểm chuẩn và hướng dẫn quy trình hiện có để duy trì hoạt động đánh giá nhất quán
- Tạo báo cáo, tập dữ liệu và các trường hợp tấn công có thể tái lập
- Điều tra các đầu ra của mô hình liên quan đến thiên kiến, thông tin sai lệch và hành vi gây hại
- Mở rộng phạm vi đánh giá để xác định những lỗ hổng mà kiểm thử tự động có thể bỏ sót
- Phối hợp với các nhóm dự án hỗ trợ đào tạo và cải thiện các hệ thống AI tiên tiến
Yêu cầu
- Thông thạo hoặc ở trình độ bản ngữ tiếng Anh và tiếng Phần Lan
- Có kinh nghiệm trước đây về red team trong kiểm thử đối kháng AI, an ninh mạng hoặc thăm dò xã hội-kỹ thuật
- Có khả năng đã được chứng minh trong việc kiểm thử hệ thống AI theo hướng đối kháng
- Có khả năng làm việc với các khung phương pháp, hệ thống phân loại, bộ kiểm chuẩn và hướng dẫn quy trình
- Có khả năng truyền đạt rủi ro rõ ràng cho cả đối tượng kỹ thuật và phi kỹ thuật
- Khả năng thích ứng với nhiều dự án và khách hàng khác nhau
- Phải làm việc với tư cách nhà thầu độc lập
- Phải có khả năng làm việc mà không sử dụng thông tin mật hoặc độc quyền thuộc về một chủ lao động, khách hàng hoặc tổ chức khác
- Không hỗ trợ ứng viên H-1B và STEM OPT
Phúc lợi
- Vị trí hợp đồng làm việc hoàn toàn từ xa
- Lịch làm việc linh hoạt, tự chủ về giờ làm
- Có lựa chọn tham gia các dự án có mức độ nhạy cảm cao hơn
- Hướng dẫn rõ ràng và các nguồn lực hỗ trợ sức khỏe
- Thanh toán hằng tuần qua Stripe hoặc Wise
- Mức thù lao cạnh tranh
- Cơ hội giới thiệu, nhận tối đa 250 USD cho mỗi lượt giới thiệu thành công
- Có hỗ trợ điều chỉnh hợp lý theo yêu cầu