FAR.AI
FAR.AI
FAR.AI là một tổ chức phi lợi nhuận hoạt động trong lĩnh vực nghiên cứu và giáo dục, với mục tiêu giúp trí tuệ nhân tạo tiên tiến trở nên an toàn và mang lại lợi ích cho mọi người. Đội ngũ của tổ chức nghiên cứu các thách thức cốt lõi trong lĩnh vực AI đáng tin cậy, bao gồm tính vững chắc, hành vi lừa dối, khả năng diễn giải và đánh giá các hệ thống AI tiên tiến. Thông qua nghiên cứu kỹ thuật, đào tạo, sự kiện, hội thảo, hoạt động tài trợ và các chương trình như FAR.Labs, FAR.AI hỗ trợ các nhà nghiên cứu và củng cố năng lực của lĩnh vực này trong việc phát triển AI an toàn và phù hợp với các giá trị của con người. Tổ chức cũng chia sẻ các phát hiện nghiên cứu, quy tụ các nhà lãnh đạo trong giới học thuật và công nghiệp, đồng thời hợp tác với các trường đại học và cơ quan công quyền về an toàn AI và chính sách.

Trưởng bộ phận Kỹ thuật, Đội Red Team AI

Dẫn dắt bộ phận kỹ thuật của FAR.AI cho chương trình kiểm thử Red Team AI tiên phong trên toàn cầu. Xây dựng đội ngũ, công cụ tác nhân và hệ thống đánh giá nhằm thúc đẩy an toàn và bảo mật AI.

Mô tả

  • Mở rộng tổ chức kỹ thuật Red Team của FAR.AI cùng các hệ thống, sản phẩm, dịch vụ, hoạt động đánh giá và tác nhân
  • Xây dựng các hệ thống Red Team dựa trên tác nhân để điều tra có hệ thống các bề mặt tấn công
  • Phát hiện các jailbreak công khai mới được công bố và tự động tích hợp chúng vào các nền tảng Red Team
  • Cải thiện phương pháp mô phỏng kẻ tấn công và đánh giá đầu ra có hại
  • Phát triển cơ sở dữ liệu lỗ hổng, năng lực phân tích thống kê và hạ tầng báo cáo
  • Triển khai các hệ thống cho những hoạt động Red Team quan trọng với các công ty AI tiên phong và chính phủ
  • Hỗ trợ xây dựng các báo cáo công khai, bộ benchmark và bảng xếp hạng
  • Tham gia kiểm thử Red Team đối với cả mô hình tiên phong có trọng số đóng và mở
  • Phát triển các quy trình công việc dựa trên tác nhân để nâng cao hiệu quả của Red Team
  • Lãnh đạo, cố vấn và hỗ trợ các thành viên kỹ thuật và Red Team
  • Lập kế hoạch công việc theo sprint và chỉ đạo việc triển khai kỹ thuật
  • Thiết lập các quy trình có khả năng mở rộng cho những hoạt động diễn ra nhanh
  • Thiết kế quy trình tuyển dụng và tuyển các quản lý kỹ thuật cùng những thành viên khác
  • Xác định các rào cản kỹ thuật và triển khai biện pháp khắc phục hiệu quả
  • Phối hợp với lãnh đạo kỹ thuật về hệ thống, phương pháp, hoạt động đánh giá và nghiên cứu kỹ thuật
  • Góp phần định hình chiến lược kỹ thuật và sản phẩm của Red Team
  • Biến các khái niệm và phát hiện kỹ thuật thành tác động thiết thực trong thực tế

Yêu cầu

  • Có kinh nghiệm đáng kể trong kỹ thuật phần mềm, AI hoặc kỹ thuật máy tính, bao gồm các lĩnh vực như an ninh mạng hoặc MLOps
  • Có thành tích nổi bật trong việc xây dựng, phát triển và lãnh đạo các đội ngũ kỹ thuật, bao gồm cả việc xây dựng startup từ giai đoạn đầu và dẫn dắt các đội ngũ quản lý
  • Có kinh nghiệm thực tế với coding agent, Python, API LLM, framework LLM cục bộ, framework đánh giá, tác nhân LLM, hạ tầng đám mây và cụm máy tính
  • Có khả năng làm việc hiệu quả trong môi trường thay đổi nhanh
  • Cam kết rõ ràng với sứ mệnh và tác động của các hệ thống AI tiên phong
  • Kỹ năng giao tiếp tốt để giải thích các giải pháp kỹ thuật cho cả đối tượng kỹ thuật và phi kỹ thuật
  • Kiên trì triển khai để đạt các mục tiêu đầy tham vọng
  • Kinh nghiệm xây dựng hoặc kiểm thử Red Team cho các LLM tiên phong hoặc hệ thống dựa trên tác nhân là một lợi thế
  • Kinh nghiệm tạo dựng đội ngũ kỹ thuật và sản phẩm trong môi trường khởi nghiệp là một lợi thế
  • Có khả năng phát hiện những lỗ hổng tinh vi, nghiêm trọng trong các hệ thống phức tạp là một lợi thế
  • Có nền tảng về học máy đối kháng hoặc bảo mật là một lợi thế
  • Từng làm việc với các phòng thí nghiệm AI, đội ngũ bảo mật hoặc viện an toàn thuộc chính phủ là một lợi thế
  • Có nghiên cứu được công bố hoặc công trình khác về an toàn, bảo mật hoặc độ vững của AI là một lợi thế
  • Sẵn sàng làm việc với một mức độ linh hoạt nhất định về múi giờ
  • Có thể làm việc toàn thời gian 40 giờ mỗi tuần

Phúc lợi

  • Chi phí đi lại phục vụ công việc được chi trả
  • Chi phí thiết bị được chi trả
  • Cung cấp bữa trưa và bữa tối tại văn phòng Berkeley
  • Có hỗ trợ visa cho Hoa Kỳ hoặc Singapore
  • Thử việc có trả lương

Việc làm liên quan

cyberunity AG

Kỹ sư IAM cấp cao

cyberunity AG

Phát triển và vận hành các giải pháp quản lý danh tính và truy cập trong môi trường kết hợp cho khách hàng doanh nghiệp. Tự động hóa tích hợp tại cyberunity AG, nhà cung cấp dịch vụ CNTT và an ninh thông tin của Thụy Sĩ.

Mở
Cisco

Kỹ sư tư vấn Cisco

Cisco

Thiết kế và triển khai các giải pháp mạng bảo mật cho môi trường khách hàng phức tạp trên khắp Vương quốc Anh. Ứng dụng SD-WAN, truy cập xác định bằng phần mềm, AI và tự động hóa để cải thiện việc triển khai hạ tầng.

Mở
GE Vernova

Kỹ sư điều khiển tua-bin gió tại GE Vernova, Salzbergen

GE Vernova

Kỹ sư đầu sự nghiệp phát triển phần mềm và phần cứng điều khiển tua-bin gió, tập trung vào công tác kiểm định. Hỗ trợ thử nghiệm, lập tài liệu kỹ thuật và xử lý sự cố tại hiện trường cho các sản phẩm GE Vernova Wind.

Mở
My Hero VA

Nhân viên đặt lịch song ngữ (Làm việc từ xa, Colombia)

My Hero VA

Gọi điện bằng tiếng Anh và tiếng Tây Ban Nha để đặt lịch tham quan trường cho một doanh nghiệp đào tạo nghề cắt tóc tại Florida. Công việc từ xa tại Colombia cũng bao gồm theo dõi khách hàng tiềm năng và xử lý công việc hành chính hằng ngày.

Mở
CONVACT - Agentur für Suchmaschinenoptimierung

Nhân viên kinh doanh từ xa – SEO và Google Ads

CONVACT - Agentur für Suchmaschinenoptimierung
1 – 10 Nhân viên
B2BTiếp thị

Chăm sóc khách hàng tiềm năng và gọi điện tiếp cận khách hàng mới cho Convact, đơn vị cung cấp dịch vụ SEO và Google Ads. Đặt lịch hẹn với các cửa hàng trực tuyến và doanh nghiệp thương mại điện tử tại khu vực DACH.

Mở