FAR.AI เป็นองค์กรไม่แสวงหาผลกำไรด้านการวิจัยและการศึกษา ซึ่งทำงานเพื่อให้ปัญญาประดิษฐ์ขั้นสูงมีความปลอดภัยและเป็นประโยชน์ต่อทุกคน ทีมงานขององค์กรศึกษาความท้าทายสำคัญด้าน AI ที่น่าเชื่อถือ รวมถึงความทนทานต่อความผิดพลาด การหลอกลวง ความสามารถในการตีความ และการประเมินระบบ AI แนวหน้า ผ่านการวิจัยเชิงเทคนิค การฝึกอบรม กิจกรรม เวิร์กช็อป การให้ทุน และโครงการต่าง ๆ เช่น FAR.Labs FAR.AI สนับสนุนนักวิจัยและเสริมสร้างศักยภาพของแวดวงนี้ในการพัฒนา AI ที่ปลอดภัยและสอดคล้องกับเป้าหมายที่เหมาะสม องค์กรยังเผยแพร่ผลการวิจัย เชื่อมโยงผู้นำจากแวดวงวิชาการและอุตสาหกรรม และร่วมมือกับมหาวิทยาลัยและหน่วยงานภาครัฐด้านความปลอดภัยของ AI และนโยบาย
หัวหน้าฝ่ายวิศวกรรม ทีม Red Team ด้าน AI
เป็นผู้นำฝ่ายวิศวกรรมของ FAR.AI สำหรับโครงการทดสอบ Red Team ของ AI แนวหน้าระดับโลก สร้างทีม เครื่องมือแบบเอเจนต์ และระบบประเมินผลเพื่อยกระดับความปลอดภัยและความมั่นคงของ AI
รายละเอียด
- ขยายองค์กรวิศวกรรม Red Team ของ FAR.AI รวมถึงระบบ ผลิตภัณฑ์ บริการ การประเมินผล และเอเจนต์ต่าง ๆ
- สร้างระบบ Red Team แบบเอเจนต์ที่ตรวจสอบพื้นผิวการโจมตีอย่างเป็นระบบ
- ค้นพบ jailbreak สาธารณะที่มีการเปิดเผยใหม่ และผสานรวมเข้ากับแพลตฟอร์ม Red Team โดยอัตโนมัติ
- ปรับปรุงวิธีจำลองผู้โจมตีและประเมินผลลัพธ์ที่เป็นอันตราย
- พัฒนาฐานข้อมูลช่องโหว่ ความสามารถด้านการวิเคราะห์ทางสถิติ และโครงสร้างพื้นฐานสำหรับการรายงาน
- ส่งมอบระบบสำหรับงาน Red Team ที่มีความสำคัญสูงร่วมกับบริษัท AI แนวหน้าและหน่วยงานรัฐบาล
- ช่วยจัดทำรายงานสาธารณะ ชุด benchmark และตารางจัดอันดับ
- มีส่วนร่วมในการทำ Red Team กับโมเดลแนวหน้าทั้งแบบปิดและแบบเปิดเผยน้ำหนัก
- พัฒนาเวิร์กโฟลว์แบบเอเจนต์เพื่อเพิ่มประสิทธิภาพของ Red Team
- นำ ให้คำปรึกษา และสนับสนุนผู้ร่วมงานด้านวิศวกรรมและ Red Team
- วางแผนงานสปรินต์และกำกับการส่งมอบงานวิศวกรรม
- จัดตั้งกระบวนการที่ขยายขนาดได้สำหรับงานที่ดำเนินไปอย่างรวดเร็ว
- ออกแบบกระบวนการสรรหาและรับสมัครผู้จัดการฝ่ายวิศวกรรมรวมถึงสมาชิกทีมคนอื่น ๆ
- ค้นหาข้อจำกัดด้านวิศวกรรมและวางมาตรการแก้ไขที่มีประสิทธิผล
- ทำงานร่วมกับผู้นำด้านเทคนิคเกี่ยวกับระบบ วิธีการ การประเมินผล และการวิจัยด้านวิศวกรรม
- ช่วยกำหนดกลยุทธ์ด้านเทคนิคและผลิตภัณฑ์ของ Red Team
- เปลี่ยนแนวคิดและข้อค้นพบทางเทคนิคให้เกิดผลกระทบที่ใช้ได้จริงในโลกจริง
คุณสมบัติ
- มีประสบการณ์อย่างมากด้านวิศวกรรมซอฟต์แวร์ AI หรือวิศวกรรมคอมพิวเตอร์ รวมถึงสาขาอย่างความปลอดภัยทางไซเบอร์หรือ MLOps
- มีผลงานโดดเด่นด้านการสร้าง พัฒนา และนำทีมเทคนิค รวมถึงการสร้างสตาร์ตอัปตั้งแต่เริ่มต้นและการนำทีมผู้จัดการ
- มีประสบการณ์ลงมือปฏิบัติกับ coding agent, Python, LLM API, เฟรมเวิร์ก LLM ภายในเครื่อง เฟรมเวิร์กการประเมินผล เอเจนต์ LLM โครงสร้างพื้นฐานคลาวด์ และคลัสเตอร์ประมวลผล
- สามารถทำงานได้อย่างมีประสิทธิภาพในสภาพแวดล้อมที่เปลี่ยนแปลงอย่างรวดเร็ว
- มีความมุ่งมั่นอย่างชัดเจนต่อพันธกิจและผลกระทบของระบบ AI แนวหน้า
- มีทักษะการสื่อสารที่ดีในการอธิบายโซลูชันทางเทคนิคแก่ผู้ฟังทั้งด้านเทคนิคและไม่ใช่ด้านเทคนิค
- มุ่งมั่นลงมือทำอย่างต่อเนื่องเพื่อบรรลุเป้าหมายที่ท้าทาย
- มีประสบการณ์สร้างหรือทำ Red Team ให้กับ LLM แนวหน้าหรือระบบแบบเอเจนต์จะได้รับการพิจารณาเป็นพิเศษ
- มีประสบการณ์สร้างทีมเทคนิคและผลิตภัณฑ์ในสภาพแวดล้อมเชิงผู้ประกอบการจะได้รับการพิจารณาเป็นพิเศษ
- สามารถค้นพบช่องโหว่ที่ละเอียดอ่อนและมีความรุนแรงสูงในระบบที่ซับซ้อนจะได้รับการพิจารณาเป็นพิเศษ
- มีพื้นฐานด้านการเรียนรู้ของเครื่องเชิงปฏิปักษ์หรือความปลอดภัยจะได้รับการพิจารณาเป็นพิเศษ
- มีประสบการณ์ทำงานกับห้องปฏิบัติการ AI ทีมรักษาความปลอดภัย หรือสถาบันความปลอดภัยของรัฐบาลจะได้รับการพิจารณาเป็นพิเศษ
- มีงานวิจัยตีพิมพ์หรือผลงานอื่นด้านความปลอดภัย ความมั่นคง หรือความแข็งแกร่งของ AI จะได้รับการพิจารณาเป็นพิเศษ
- ยินดีทำงานโดยมีความยืดหยุ่นด้านเขตเวลาในระดับหนึ่ง
- สามารถทำงานเต็มเวลา 40 ชั่วโมงต่อสัปดาห์
สวัสดิการ
- ครอบคลุมค่าเดินทางที่เกี่ยวข้องกับงาน
- ครอบคลุมค่าอุปกรณ์
- มีอาหารกลางวันและอาหารเย็นจัดให้ที่สำนักงาน Berkeley
- มีการสนับสนุนวีซ่าสำหรับสหรัฐอเมริกาหรือสิงคโปร์
- มีการทดลองงานแบบได้รับค่าจ้าง