51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia kiểm thử đối kháng về an toàn AI
Mercor tìm kiếm Chuyên gia kiểm thử đối kháng về an toàn AI để thăm dò các mô hình tiên tiến bằng lời nhắc đối kháng. Công việc tập trung tìm điểm yếu và hỗ trợ các đối tác phòng thí nghiệm AI cải thiện khả năng căn chỉnh, độ vững chắc và độ an toàn của mô hình.
Mô tả
- Tạo lời nhắc đối kháng để thăm dò các mô hình AI tiên tiến.
- Tìm các cách vượt rào bảo vệ, hành vi không an toàn, hiện tượng ảo giác và lỗi vi phạm chính sách.
- Đánh giá độ vững chắc của mô hình trong các lĩnh vực nhạy cảm, bao gồm thông tin sai lệch, an ninh mạng, an ninh sinh học, gian lận và nội dung chính trị.
- Ghi lại các lỗ hổng và hỗ trợ chuẩn bị bộ chuẩn đánh giá an toàn cùng báo cáo kiểm thử đối kháng.
- Phối hợp với các nhà nghiên cứu AI để củng cố khả năng căn chỉnh, độ vững chắc và độ an toàn của mô hình.
- Đóng góp vào các dự án huấn luyện và cải thiện hệ thống AI.
Yêu cầu
- Có bằng cử nhân trở lên về khoa học máy tính, an ninh mạng, báo chí, truyền thông, tâm lý học, sinh học, hóa học, chính sách công hoặc lĩnh vực liên quan.
- Có ít nhất năm năm kinh nghiệm chuyên môn trong lĩnh vực an toàn AI, kiểm thử đối kháng AI, tin cậy và an toàn, an ninh mạng, báo chí điều tra, khoa học sự sống hoặc lĩnh vực liên quan.
- Có tư duy phân tích, khả năng thiết kế lời nhắc và kỹ năng giao tiếp bằng văn bản tốt.
- Có kinh nghiệm tạo lời nhắc đối kháng hoặc đánh giá các hệ thống AI tiên tiến.
- Ưu tiên ứng viên có kinh nghiệm về kiểm thử đối kháng AI, RLHF, SFT, căn chỉnh AI hoặc tin cậy và an toàn.
- Ưu tiên ứng viên quen thuộc với việc kiểm thử vượt rào bảo vệ, kỹ thuật lời nhắc hoặc phương pháp đánh giá đối kháng.
- Ưu tiên ứng viên có chuyên môn về các lĩnh vực phức tạp như an ninh mạng, an ninh sinh học, nội dung chính trị, thông tin sai lệch hoặc an toàn khoa học.
- Có khả năng làm việc với tư cách nhà thầu độc lập.
- Không hỗ trợ ứng viên diện H-1B và STEM OPT.
Phúc lợi
- Làm việc từ xa ở bất cứ đâu tại Hoa Kỳ.
- Tự sắp xếp lịch làm việc.
- Nhận thanh toán hằng tuần qua Stripe hoặc Wise.
- Thời hạn dự án có thể được gia hạn, rút ngắn hoặc kết thúc sớm tùy theo nhu cầu dự án và hiệu quả công việc.
- Làm việc cùng các nhà nghiên cứu AI và nhóm an toàn hàng đầu.
- Góp phần định hình độ an toàn của các hệ thống AI tiên tiến.
- Có thể yêu cầu hỗ trợ điều chỉnh hợp lý.
- Nhận khoản thưởng giới thiệu lên đến 340 USD cho mỗi lượt giới thiệu thành công; áp dụng giới hạn.