ActiveFence là một công ty về an ninh mạng và trí tuệ nhân tạo, tập trung vào lĩnh vực niềm tin và an toàn cho các nền tảng trực tuyến. Giải pháp toàn diện của công ty kết hợp nghiên cứu tình báo, công nghệ phát hiện nội dung độc hại bằng trí tuệ nhân tạo và các công cụ kiểm duyệt nội dung, giúp các nền tảng xử lý những rủi ro như bóc lột trẻ em, thông tin sai lệch, ngôn từ thù ghét, khủng bố, nội dung khỏa thân, gian lận và các hình thức gây hại trực tuyến khác. ActiveFence hỗ trợ các đội ngũ phụ trách niềm tin và an toàn với nhiều quy mô khác nhau, góp phần bảo vệ hơn ba tỷ người dùng trên toàn thế giới qua hơn 100 ngôn ngữ.
Chuyên gia khoa học dữ liệu GenAI cấp cao tại ActiveFence (Làm việc kết hợp, Israel)
Vị trí Chuyên gia khoa học dữ liệu GenAI cấp cao tập trung vào red teaming tự động, học máy và phân tích dữ liệu quy mô lớn. Xây dựng các hệ thống giúp phát hiện những mối đe dọa bảo mật mới nổi trên các trải nghiệm trực tuyến và sản phẩm AI.
Mô tả
- Phát triển các tác tử khoa học dữ liệu có khả năng mở rộng, suy luận và thực hiện các quy trình nhiều bước để tạo và phân tích các cuộc tấn công đối kháng.
- Quản lý và diễn giải dữ liệu prompt và phản hồi từ các chiến dịch red team, hoạt động đánh giá mô hình và các cuộc tấn công tổng hợp, bao gồm làm sạch, tuyển chọn, chuẩn hóa và gắn nhãn.
- Phân tích dữ liệu có cấu trúc và phi cấu trúc để xác định xu hướng, cụm, điểm bất thường, nhóm tấn công, kỹ thuật vượt rào bảo vệ và các mẫu hình mới.
- Tạo các mô hình học máy và thuật toán dự đoán để tự động hóa các quy trình red team.
- Phát triển các quy trình đánh giá và giám sát để đo lường mức độ thành công của các cuộc tấn công và so sánh hành vi mô hình giữa các nhà cung cấp.
- Áp dụng các phương pháp thống kê và thí nghiệm để xác minh phát hiện, đồng thời hỗ trợ kết quả chính xác và có thể tái lập.
- Đưa nghiên cứu vào môi trường sản xuất thông qua các hệ thống đáng tin cậy, có khả năng mở rộng, được thiết kế để tối ưu chi phí và độ trễ, với sự hỗ trợ của kiểm thử, CI/CD và đo lường từ xa.
Yêu cầu
- Có ít nhất năm năm kinh nghiệm thực tế về khoa học dữ liệu hoặc học máy, sử dụng Python hoặc R và SQL.
- Có ít nhất ba năm kinh nghiệm với Scikit-Learn và PyTorch.
- Có kinh nghiệm thực tiễn về red teaming GenAI, kiểm thử đối kháng hoặc bảo mật LLM.
- Có kinh nghiệm xây dựng và triển khai các hệ thống sử dụng LLM hoặc học máy trong môi trường sản xuất.
- Am hiểu về các mẫu thiết kế LLM, bao gồm kỹ thuật viết prompt, gọi công cụ, đầu ra có cấu trúc và RAG.
- Hiểu sâu về phân cụm, embedding và NLP, độ tương đồng ngữ nghĩa, cũng như phát hiện điểm bất thường hoặc tính mới.
- Có kinh nghiệm phát triển các hệ thống phân loại, xếp hạng hoặc ưu tiên.
- Có nền tảng vững chắc về thống kê, thiết kế thí nghiệm và đánh giá mô hình.
- Có kinh nghiệm với Cradle, Apache Hadoop, Spark và phát triển ETL cũng như quy trình dữ liệu quy mô lớn.
- Có bằng Thạc sĩ về khoa học máy tính, kỹ thuật điện, toán học, thống kê hoặc ngành liên quan.
- Bằng Tiến sĩ là một lợi thế nhưng không bắt buộc.