ActiveFence เป็นบริษัทด้านความปลอดภัยทางไซเบอร์และปัญญาประดิษฐ์ที่มุ่งเน้นเรื่องความน่าเชื่อถือและความปลอดภัยสำหรับแพลตฟอร์มออนไลน์ โซลูชันแบบครบวงจรของบริษัทผสานการวิจัยด้านข่าวกรอง ระบบตรวจจับเนื้อหาที่เป็นอันตรายด้วยปัญญาประดิษฐ์ และเครื่องมือกลั่นกรองเนื้อหา เพื่อช่วยให้แพลตฟอร์มรับมือกับความเสี่ยงต่าง ๆ เช่น การแสวงหาประโยชน์จากเด็ก ข้อมูลบิดเบือน ถ้อยคำสร้างความเกลียดชัง การก่อการร้าย ภาพเปลือย การฉ้อโกง และอันตรายออนไลน์รูปแบบอื่น ๆ ActiveFence สนับสนุนทีมงานด้านความน่าเชื่อถือและความปลอดภัยทุกขนาด พร้อมช่วยปกป้องผู้ใช้มากกว่าสามพันล้านคนทั่วโลกในกว่า 100 ภาษา
นักวิทยาศาสตร์ข้อมูล GenAI อาวุโสที่ ActiveFence (ทำงานแบบไฮบริด, อิสราเอล)
ตำแหน่งนักวิทยาศาสตร์ข้อมูล GenAI อาวุโสที่มุ่งเน้นการทำ red teaming แบบอัตโนมัติ การเรียนรู้ของเครื่อง และการวิเคราะห์ข้อมูลขนาดใหญ่ สร้างระบบที่ช่วยระบุภัยคุกคามด้านความปลอดภัยที่เกิดขึ้นใหม่ในประสบการณ์ออนไลน์และผลิตภัณฑ์ AI
รายละเอียด
- พัฒนาเอเจนต์ด้านวิทยาศาสตร์ข้อมูลที่ปรับขนาดได้ สามารถใช้เหตุผลและดำเนินเวิร์กโฟลว์หลายขั้นตอนเพื่อสร้างและวิเคราะห์การโจมตีแบบปฏิปักษ์
- จัดการและตีความข้อมูลพรอมต์และการตอบกลับจากแคมเปญ red team การประเมินโมเดล และการโจมตีสังเคราะห์ รวมถึงการทำความสะอาด คัดสรร ปรับมาตรฐาน และติดป้ายกำกับข้อมูล
- ตรวจสอบข้อมูลทั้งแบบมีโครงสร้างและไม่มีโครงสร้างเพื่อระบุแนวโน้ม กลุ่ม จุดผิดปกติ ตระกูลการโจมตี เทคนิค jailbreak และรูปแบบใหม่ ๆ
- สร้างโมเดลการเรียนรู้ของเครื่องและอัลกอริทึมเชิงพยากรณ์เพื่อทำให้กระบวนการ red team เป็นอัตโนมัติ
- พัฒนาไปป์ไลน์สำหรับการประเมินและติดตามตรวจสอบ เพื่อวัดความสำเร็จของการโจมตีและเปรียบเทียบพฤติกรรมของโมเดลระหว่างผู้ให้บริการ
- ใช้วิธีการทางสถิติและการทดลองเพื่อตรวจสอบข้อค้นพบ และสนับสนุนผลลัพธ์ที่ถูกต้องและทำซ้ำได้
- นำงานวิจัยไปใช้งานจริงผ่านระบบที่เชื่อถือได้และปรับขนาดได้ ซึ่งออกแบบมาให้มีประสิทธิภาพด้านต้นทุนและเวลาแฝง พร้อมการทดสอบ CI/CD และเทเลเมทรี
คุณสมบัติ
- มีประสบการณ์ทำงานจริงด้านวิทยาศาสตร์ข้อมูลหรือการเรียนรู้ของเครื่องอย่างน้อยห้าปี โดยใช้ Python หรือ R และ SQL
- มีประสบการณ์กับ Scikit-Learn และ PyTorch อย่างน้อยสามปี
- มีประสบการณ์เชิงปฏิบัติด้าน GenAI red teaming การทดสอบแบบปฏิปักษ์ หรือความปลอดภัยของ LLM
- มีประสบการณ์สร้างและนำระบบที่ขับเคลื่อนด้วย LLM หรือระบบการเรียนรู้ของเครื่องไปใช้งานจริง
- มีความรู้เป็นอย่างดีเกี่ยวกับรูปแบบการออกแบบ LLM รวมถึง prompt engineering การเรียกใช้เครื่องมือ เอาต์พุตแบบมีโครงสร้าง และ RAG
- มีความเข้าใจอย่างดีเกี่ยวกับการจัดกลุ่ม embedding และ NLP ความคล้ายคลึงเชิงความหมาย และการตรวจจับความผิดปกติหรือความแปลกใหม่
- มีประสบการณ์พัฒนาระบบการจำแนก การจัดอันดับ หรือการจัดลำดับความสำคัญ
- มีพื้นฐานที่แข็งแกร่งด้านสถิติ การออกแบบการทดลอง และการประเมินโมเดล
- มีประสบการณ์กับ Cradle, Apache Hadoop, Spark และการพัฒนา ETL รวมถึงไปป์ไลน์ข้อมูลขนาดใหญ่
- วุฒิปริญญาโทด้านวิทยาการคอมพิวเตอร์ วิศวกรรมไฟฟ้า คณิตศาสตร์ สถิติ หรือสาขาที่เกี่ยวข้อง
- วุฒิปริญญาเอกเป็นข้อได้เปรียบแต่ไม่ใช่ข้อกำหนด