ActiveFence เป็นบริษัทด้านความปลอดภัยทางไซเบอร์และปัญญาประดิษฐ์ที่มุ่งเน้นเรื่องความน่าเชื่อถือและความปลอดภัยสำหรับแพลตฟอร์มออนไลน์ โซลูชันแบบครบวงจรของบริษัทผสานการวิจัยด้านข่าวกรอง ระบบตรวจจับเนื้อหาที่เป็นอันตรายด้วยปัญญาประดิษฐ์ และเครื่องมือกลั่นกรองเนื้อหา เพื่อช่วยให้แพลตฟอร์มรับมือกับความเสี่ยงต่าง ๆ เช่น การแสวงหาประโยชน์จากเด็ก ข้อมูลบิดเบือน ถ้อยคำสร้างความเกลียดชัง การก่อการร้าย ภาพเปลือย การฉ้อโกง และอันตรายออนไลน์รูปแบบอื่น ๆ ActiveFence สนับสนุนทีมงานด้านความน่าเชื่อถือและความปลอดภัยทุกขนาด พร้อมช่วยปกป้องผู้ใช้มากกว่าสามพันล้านคนทั่วโลกในกว่า 100 ภาษา
นักวิจัย AI อาวุโส – ทำงานแบบไฮบริดในอิสราเอล
เป็นผู้นำการประเมินการเรียนรู้แบบเสริมกำลัง การทดสอบเชิงรุก และการตรวจสอบความปลอดภัยสำหรับโมเดล AI แบบเปิดน้ำหนัก สร้างกระบวนการเบนช์มาร์กและหลังการฝึกสำหรับงานด้านความน่าเชื่อถือ ความปลอดภัย และการรักษาความมั่นคงปลอดภัยของ AI ที่ ActiveFence
รายละเอียด
- เป็นผู้นำการประเมินหลังการฝึก การทดสอบเชิงรุก และการตรวจสอบสภาพแวดล้อมการเรียนรู้แบบเสริมกำลังสำหรับโมเดลแบบเปิดน้ำหนัก
- ออกแบบวิธีการเบนช์มาร์กที่เข้มงวด
- ประเมินโมเดลภาษาขนาดใหญ่ต่อภัยคุกคามที่ซับซ้อน รวมถึงการโจมตีแบบแทรกพรอมต์ทางอ้อม
- สร้างกระบวนการประเมินหลังการฝึกที่วัดความสามารถด้านความปลอดภัยในระดับแนวหน้าอย่างสมจริง
- ดำเนินการทดลองหลังการฝึก เช่น GRPO กับโมเดลอเนกประสงค์แบบเปิดน้ำหนักในสภาพแวดล้อมการเรียนรู้แบบเสริมกำลังที่มุ่งเน้นด้านความปลอดภัย
- ตรวจสอบเส้นโค้งค่าความสูญเสียแบบสดและร่องรอยการโรลเอาต์เพื่อค้นหาการโกงรางวัล การบรรจบกันของนโยบายแบบขี้เกียจ และตัวตรวจสอบที่กำหนดไว้อย่างไม่ดี
- ประเมินงานและสภาพแวดล้อมแบบหลายเทิร์นที่เกี่ยวข้องกับการใช้เครื่องมือ การนำทางเว็บ และการใช้คอมพิวเตอร์ในด้านความสมจริง ความถูกต้องของแบบจำลองภัยคุกคาม การกระจายข้อมูล และความสมดุลของชุดข้อมูล
- จัดทำการ์ดประเมินที่ครอบคลุมการเพิ่มขึ้นของประสิทธิภาพของเช็กพอยต์ รูปแบบความล้มเหลว จำนวนโทเค็นและเทิร์นของการโรลเอาต์ และอัตราความสำเร็จระดับงาน
- ผสานรวมสภาพแวดล้อมที่ทำเป็น Docker รวมถึงสภาพแวดล้อมรูปแบบ Harbor เข้ากับเฟรมเวิร์กการฝึกภายใน
- ปรับปรุงความหมายของการรีเซ็ตและการคงสถานะ ความสามารถในการทำงานพร้อมกัน และขีดจำกัดปริมาณงาน
คุณสมบัติ
- วุฒิปริญญาโทหรือปริญญาเอกด้านวิทยาการข้อมูล การเรียนรู้ของเครื่อง วิทยาการคอมพิวเตอร์ หรือมีประสบการณ์เชิงปฏิบัติด้านการเรียนรู้เชิงลึกเทียบเท่า
- มีประสบการณ์จริงในการฝึกโมเดลขนาดใหญ่ด้วยอัลกอริทึมการเรียนรู้แบบเสริมกำลัง เช่น GRPO หรือ PPO บนสถาปัตยกรรมแบบเปิดน้ำหนัก
- มีความรู้เชิงลึกเกี่ยวกับช่องโหว่ของ LLM แนวปฏิบัติด้านการทดสอบเชิงรุก และการจัดแนวเชิงป้องกันต่อการโจมตีแบบแทรกพรอมต์ทางอ้อม
- เชี่ยวชาญ PyTorch การทำคอนเทนเนอร์ด้วย Docker และสถาปัตยกรรมการฝึกแบบกระจาย
- สามารถตีความร่องรอยการโรลเอาต์ของเอเจนต์ สร้างเกณฑ์ประเมินและตัวตรวจสอบแบบกำหนดแน่นอนได้ รวมถึงแก้ไขข้อผิดพลาดด้านการกำหนดรูปร่างรางวัลที่ซับซ้อน
- หากมีประสบการณ์กับรูปแบบสภาพแวดล้อมการเรียนรู้แบบเสริมกำลังมาตรฐาน เช่น Harbor จะได้รับการพิจารณาเป็นพิเศษ
- หากมีประสบการณ์ประเมินเวิร์กโฟลว์แบบเอเจนต์ที่ซับซ้อนในสภาพแวดล้อมการใช้เครื่องมือหรือเบราว์เซอร์เว็บจะได้รับการพิจารณาเป็นพิเศษ
- หากคุ้นเคยกับการประเมินโมเดลแบบเปิดน้ำหนักลักษณะเดียวกับ Llama หรือ Mistral ต่อภาระงานเชิงปฏิปักษ์จะได้รับการพิจารณาเป็นพิเศษ