51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia kiểm thử an toàn AI (Red Team)
Mercor đang tìm Chuyên gia kiểm thử an toàn AI để dò tìm điểm yếu của các mô hình AI tiên tiến trong những lĩnh vực rủi ro cao. Công việc hỗ trợ các phòng thí nghiệm AI huấn luyện và cải thiện những hệ thống tiên tiến.
Mô tả
- Tạo câu lệnh đối kháng để kiểm thử các mô hình AI tiên tiến.
- Tìm cách vượt rào bảo vệ, hành vi không an toàn, hiện tượng bịa đặt và lỗi tuân thủ chính sách.
- Đánh giá độ vững chắc của mô hình trước thông tin sai lệch, an ninh mạng, an ninh sinh học, gian lận, nội dung chính trị và các lĩnh vực nhạy cảm khác.
- Ghi nhận lỗ hổng và hỗ trợ xây dựng bộ tiêu chuẩn an toàn cùng báo cáo kiểm thử đối kháng.
- Phối hợp với các nhà nghiên cứu AI để tăng cường khả năng căn chỉnh, độ vững chắc và tính an toàn của mô hình.
- Đóng góp vào các dự án huấn luyện và cải thiện hệ thống AI.
Yêu cầu
- Có bằng cử nhân trở lên về khoa học máy tính, an ninh mạng, báo chí, truyền thông, tâm lý học, sinh học, hóa học, chính sách công hoặc lĩnh vực liên quan.
- Có ít nhất 5 năm kinh nghiệm chuyên môn về an toàn AI, kiểm thử đối kháng AI, tin cậy và an toàn, an ninh mạng, báo chí điều tra, khoa học sự sống hoặc lĩnh vực liên quan.
- Có tư duy phân tích tốt, khả năng thiết kế câu lệnh và kỹ năng giao tiếp bằng văn bản tốt.
- Có kinh nghiệm tạo câu lệnh đối kháng hoặc đánh giá các hệ thống AI tiên tiến.
- Phải cư trú tại một trong các quốc gia đủ điều kiện được liệt kê: Albania, Áo, Bỉ, Bulgaria, Bosnia và Herzegovina, Thụy Sĩ, Czechia, Đức, Đan Mạch, Tây Ban Nha, Estonia, Phần Lan, Pháp, Vương quốc Anh, Hy Lạp, Croatia, Hungary, Ireland, Iceland, Ý, Liechtenstein, Lithuania, Luxembourg, Latvia, Monaco, Moldova, Bắc Macedonia, Malta, Hà Lan, Na Uy, Ba Lan, Bồ Đào Nha, Romania, San Marino, Serbia, Slovakia, Slovenia, Thụy Điển, Hoa Kỳ hoặc Kosovo.
- Hiện chưa thể hỗ trợ ứng viên diện H-1B và STEM OPT.
Phúc lợi
- Làm việc hoàn toàn từ xa với lịch làm việc linh hoạt.
- Thanh toán hàng tuần qua Stripe hoặc Wise cho dịch vụ đã thực hiện.
- Thời hạn dự án có thể được gia hạn, rút ngắn hoặc kết thúc sớm tùy theo nhu cầu dự án và hiệu quả công việc.
- Mức thù lao cạnh tranh.
- Cơ hội làm việc cùng các nhà nghiên cứu AI và đội ngũ an toàn hàng đầu.
- Có thể yêu cầu hỗ trợ điều chỉnh hợp lý.
- Chương trình giới thiệu ứng viên, thưởng tối đa 340 USD cho mỗi lượt giới thiệu thành công, áp dụng theo các giới hạn.