51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia kiểm thử đối kháng về an toàn mô hình AI
Thử nghiệm các mô hình AI tiên tiến của Mercor để tìm điểm yếu về an toàn bằng phương pháp kiểm thử đối kháng. Phát hiện lỗ hổng và góp phần cải thiện khả năng căn chỉnh của mô hình.
Mô tả
- Tạo câu lệnh đối kháng để thăm dò các mô hình AI tiên tiến.
- Tìm các cách vượt rào bảo vệ, hành vi không an toàn, nội dung bịa đặt và vi phạm chính sách.
- Kiểm tra khả năng chống chịu của mô hình trước thông tin sai lệch, an ninh mạng, an ninh sinh học, gian lận, nội dung chính trị và các lĩnh vực nhạy cảm khác.
- Ghi nhận lỗ hổng và hỗ trợ xây dựng bộ chuẩn an toàn cùng các báo cáo kiểm thử đối kháng.
- Phối hợp với các nhà nghiên cứu AI để tăng cường khả năng căn chỉnh, chống chịu và an toàn của mô hình.
- Góp phần bảo vệ và cải thiện thế hệ mô hình AI tiên tiến tiếp theo.
- Tham gia các dự án huấn luyện và cải thiện hệ thống AI.
Yêu cầu
- Có bằng cử nhân trở lên về khoa học máy tính, an ninh mạng, báo chí, truyền thông, tâm lý học, sinh học, hóa học, chính sách công hoặc lĩnh vực liên quan
- Có ít nhất năm năm kinh nghiệm chuyên môn trong lĩnh vực an toàn AI, kiểm thử đối kháng AI, tin cậy và an toàn, an ninh mạng, báo chí điều tra, khoa học sự sống hoặc lĩnh vực liên quan
- Có tư duy phân tích, kỹ năng thiết kế câu lệnh và viết tốt
- Có kinh nghiệm tạo câu lệnh đối kháng hoặc đánh giá các hệ thống AI tiên tiến
- Ưu tiên ứng viên có kinh nghiệm kiểm thử đối kháng AI, RLHF, tinh chỉnh có giám sát, căn chỉnh AI hoặc tin cậy và an toàn
- Ưu tiên ứng viên quen thuộc với kiểm thử vượt rào bảo vệ, kỹ thuật câu lệnh hoặc phương pháp đánh giá đối kháng
- Ưu tiên ứng viên có chuyên môn trong ít nhất một lĩnh vực nhạy cảm, chẳng hạn như an ninh mạng, an ninh sinh học, nội dung chính trị, thông tin sai lệch hoặc an toàn khoa học
- Không được cần hỗ trợ bảo lãnh H-1B hoặc STEM OPT; Mercor không thể hỗ trợ ứng viên cần một trong hai hình thức bảo lãnh này
Phúc lợi
- Làm việc hoàn toàn từ xa với lịch trình linh hoạt
- Thanh toán hàng tuần qua Stripe hoặc Wise cho dịch vụ đã thực hiện
- Thời lượng dự án có thể thay đổi hoặc kết thúc sớm tùy theo nhu cầu dự án và hiệu quả công việc
- Làm việc cùng các nhà nghiên cứu AI và nhóm an toàn hàng đầu
- Góp phần định hình cách các hệ thống AI xử lý những thách thức an toàn phức tạp trong thực tế
- Có thể yêu cầu hỗ trợ điều chỉnh hợp lý
- Nhận khoản giới thiệu lên đến 340 USD cho mỗi lượt giới thiệu thành công, tùy theo các giới hạn