ผู้เชี่ยวชาญทีมเรดทีมหาความเสี่ยงด้านความปลอดภัย AI
Mercor กำลังมองหาผู้เชี่ยวชาญทีมเรดทีมด้านความปลอดภัย AI เพื่อค้นหาจุดอ่อนของโมเดล AI แนวหน้าที่เกี่ยวข้องกับความเสี่ยงสูง งานนี้สนับสนุนห้องปฏิบัติการ AI ในการฝึกและปรับปรุงระบบขั้นสูง
รายละเอียด
- สร้างพรอมป์ต์เชิงโจมตีเพื่อทดสอบโมเดล AI แนวหน้า
- ค้นหาวิธีเจลเบรก พฤติกรรมที่ไม่ปลอดภัย การหลอนข้อมูล และความล้มเหลวในการปฏิบัติตามนโยบาย
- ประเมินความทนทานของโมเดลต่อข้อมูลบิดเบือน ความมั่นคงปลอดภัยไซเบอร์ ความมั่นคงปลอดภัยชีวภาพ การฉ้อโกง เนื้อหาทางการเมือง และประเด็นอ่อนไหวอื่น ๆ
- บันทึกช่องโหว่และช่วยจัดทำเกณฑ์มาตรฐานด้านความปลอดภัยและรายงานการทดสอบแบบเรดทีม
- ทำงานร่วมกับนักวิจัย AI เพื่อเสริมความสอดคล้อง ความทนทาน และความปลอดภัยของโมเดล
- ร่วมดำเนินโครงการฝึกและปรับปรุงระบบ AI
คุณสมบัติ
- วุฒิปริญญาตรีขึ้นไปในสาขาวิทยาการคอมพิวเตอร์ ความมั่นคงปลอดภัยไซเบอร์ วารสารศาสตร์ การสื่อสาร จิตวิทยา ชีววิทยา เคมี นโยบายสาธารณะ หรือสาขาที่เกี่ยวข้อง
- มีประสบการณ์ทำงานอย่างน้อย 5 ปีในด้านความปลอดภัย AI การทดสอบแบบเรดทีม AI ความน่าเชื่อถือและความปลอดภัย ความมั่นคงปลอดภัยไซเบอร์ วารสารศาสตร์เชิงสืบสวน วิทยาศาสตร์ชีวภาพ หรือสาขาที่เกี่ยวข้อง
- มีทักษะการคิดวิเคราะห์ การออกแบบพรอมป์ต์ และการสื่อสารด้วยการเขียนที่ดี
- มีประสบการณ์สร้างพรอมป์ต์เชิงโจมตีหรือประเมินระบบ AI แนวหน้า
- ต้องพำนักอยู่ในประเทศที่มีสิทธิ์ตามรายการ ได้แก่ แอลเบเนีย ออสเตรีย เบลเยียม บัลแกเรีย บอสเนียและเฮอร์เซโกวีนา สวิตเซอร์แลนด์ เช็กเกีย เยอรมนี เดนมาร์ก สเปน เอสโตเนีย ฟินแลนด์ ฝรั่งเศส สหราชอาณาจักร กรีซ โครเอเชีย ฮังการี ไอร์แลนด์ ไอซ์แลนด์ อิตาลี ลิกเตนสไตน์ ลิทัวเนีย ลักเซมเบิร์ก ลัตเวีย โมนาโก มอลโดวา มาซิโดเนียเหนือ มอลตา เนเธอร์แลนด์ นอร์เวย์ โปแลนด์ โปรตุเกส โรมาเนีย ซานมารีโน เซอร์เบีย สโลวาเกีย สโลวีเนีย สวีเดน สหรัฐอเมริกา หรือโคโซโว
- ขณะนี้ไม่สามารถสนับสนุนผู้สมัครประเภท H-1B และ STEM OPT ได้
สวัสดิการ
- ทำงานจากระยะไกลได้เต็มรูปแบบ พร้อมตารางเวลาที่ยืดหยุ่น
- จ่ายค่าบริการรายสัปดาห์ผ่าน Stripe หรือ Wise
- ระยะเวลาโครงการอาจขยายให้สั้นลง หรือยุติก่อนกำหนดตามความต้องการของโครงการและผลการปฏิบัติงาน
- ค่าตอบแทนที่แข่งขันได้
- โอกาสทำงานร่วมกับนักวิจัย AI และทีมความปลอดภัยชั้นนำ
- สามารถขอรับการปรับสิ่งอำนวยความสะดวกตามความเหมาะสมได้
- มีโปรแกรมแนะนำผู้สมัคร โดยให้ค่าตอบแทนสูงสุด 340 ดอลลาร์สหรัฐต่อการแนะนำที่สำเร็จ ทั้งนี้เป็นไปตามข้อจำกัด
