51 – 200 Nhân viên
Thông tin hiện có về Mercor không bao gồm đủ dữ liệu đã được xác minh về sản phẩm, dịch vụ, khách hàng, lĩnh vực hoạt động hoặc định hướng tuyển dụng của công ty để hỗ trợ việc tổng quan chính xác. Cần có thêm tài liệu nguồn trước khi mô tả doanh nghiệp hoặc các cơ hội tại đây.
Chuyên gia kiểm thử an toàn AI - Hợp đồng từ xa (Hoa Kỳ)
Mercor đang tìm kiếm Chuyên gia kiểm thử an toàn AI để phát hiện lỗ hổng trong các mô hình AI tiên phong thông qua kiểm thử đối kháng. Công việc bao gồm thiết kế prompt và đánh giá hành vi rủi ro cao của mô hình cùng các nhà nghiên cứu an toàn AI.
Mô tả
- Tạo các prompt đối kháng để thử thách các mô hình AI tiên phong
- Phát hiện kỹ thuật bẻ khóa, hành vi không an toàn, hiện tượng ảo giác và vi phạm chính sách
- Đánh giá độ bền vững của mô hình trong các lĩnh vực thông tin sai lệch, an ninh mạng, an ninh sinh học, gian lận, nội dung chính trị và các lĩnh vực nhạy cảm khác
- Ghi nhận lỗ hổng và hỗ trợ xây dựng tiêu chuẩn đánh giá an toàn cũng như báo cáo kiểm thử đối kháng
- Phối hợp với các nhà nghiên cứu AI để tăng cường khả năng căn chỉnh, độ bền vững và tính an toàn của mô hình
- Đóng góp vào các dự án đào tạo và cải thiện hệ thống AI
Yêu cầu
- Tốt nghiệp cử nhân trở lên chuyên ngành khoa học máy tính, an ninh mạng, báo chí, truyền thông, tâm lý học, sinh học, hóa học, chính sách công hoặc lĩnh vực liên quan
- Có ít nhất năm năm kinh nghiệm chuyên môn trong lĩnh vực an toàn AI, kiểm thử đối kháng AI, tin cậy và an toàn, an ninh mạng, báo chí điều tra, khoa học sự sống hoặc lĩnh vực liên quan
- Có năng lực tư duy phân tích, thiết kế prompt và giao tiếp bằng văn bản tốt
- Có kinh nghiệm tạo prompt đối kháng hoặc đánh giá các hệ thống AI tiên phong
- Ưu tiên ứng viên có kinh nghiệm về kiểm thử đối kháng AI, RLHF, SFT, căn chỉnh AI hoặc tin cậy và an toàn
- Ưu tiên ứng viên quen thuộc với kiểm thử kỹ thuật bẻ khóa, kỹ thuật prompt hoặc các phương pháp đánh giá đối kháng
- Ưu tiên có chuyên môn trong một hoặc nhiều lĩnh vực khó phân định như an ninh mạng, an ninh sinh học, nội dung chính trị, thông tin sai lệch hoặc an toàn khoa học
- Có khả năng làm việc với tư cách nhà thầu độc lập
- Không hỗ trợ ứng viên H-1B và STEM OPT
Phúc lợi
- Làm việc hoàn toàn từ xa
- Thời gian làm việc linh hoạt
- Thanh toán hằng tuần qua Stripe hoặc Wise
- Dự án có thể được gia hạn, rút ngắn hoặc kết thúc sớm tùy theo nhu cầu kinh doanh và hiệu suất công việc
- Thực hiện kiểm thử đối kháng cùng các nhà nghiên cứu AI và đội ngũ an toàn hàng đầu
- Cơ hội góp phần định hình cách các hệ thống AI xử lý những thách thức an toàn phức tạp trong thực tế
- Có hỗ trợ điều chỉnh hợp lý theo yêu cầu
- Khoản thanh toán giới thiệu lên đến 340 USD cho mỗi lượt giới thiệu thành công, tùy thuộc vào giới hạn giới thiệu