ผู้ทดสอบความปลอดภัย AI เชิงรุก - สัญญาจ้างงานระยะไกล (สหรัฐอเมริกา)
Mercor กำลังมองหาผู้ทดสอบความปลอดภัย AI เชิงรุกเพื่อค้นหาช่องโหว่ในโมเดล AI แนวหน้าผ่านการทดสอบเชิงโจมตี งานนี้ครอบคลุมการออกแบบพรอมต์และประเมินพฤติกรรมความเสี่ยงสูงของโมเดลร่วมกับนักวิจัยด้านความปลอดภัย AI
รายละเอียด
- สร้างพรอมต์เชิงโจมตีเพื่อท้าทายโมเดล AI แนวหน้า
- ตรวจจับการเจลเบรก พฤติกรรมที่ไม่ปลอดภัย การหลอนสร้างข้อมูล และการละเมิดนโยบาย
- ประเมินความทนทานของโมเดลในด้านข้อมูลบิดเบือน ความปลอดภัยไซเบอร์ ความปลอดภัยทางชีวภาพ การฉ้อโกง เนื้อหาทางการเมือง และประเด็นอ่อนไหวอื่น ๆ
- บันทึกช่องโหว่และสนับสนุนเกณฑ์มาตรฐานความปลอดภัยรวมถึงรายงานการทดสอบเชิงโจมตี
- ทำงานร่วมกับนักวิจัย AI เพื่อเสริมความสอดคล้อง ความทนทาน และความปลอดภัยของโมเดล
- มีส่วนร่วมในโครงการฝึกและปรับปรุงระบบ AI
คุณสมบัติ
- วุฒิปริญญาตรีขึ้นไปด้านวิทยาการคอมพิวเตอร์ ความปลอดภัยไซเบอร์ วารสารศาสตร์ การสื่อสาร จิตวิทยา ชีววิทยา เคมี นโยบายสาธารณะ หรือสาขาที่เกี่ยวข้อง
- มีประสบการณ์การทำงานอย่างน้อยห้าปีในด้านความปลอดภัย AI การทดสอบ AI เชิงโจมตี ความน่าเชื่อถือและความปลอดภัย ความปลอดภัยไซเบอร์ วารสารศาสตร์เชิงสืบสวน วิทยาศาสตร์ชีวภาพ หรือสาขาที่เกี่ยวข้อง
- มีทักษะการคิดวิเคราะห์ การออกแบบพรอมต์ และการสื่อสารเป็นลายลักษณ์อักษรที่ดี
- มีประสบการณ์สร้างพรอมต์เชิงโจมตีหรือประเมินระบบ AI แนวหน้า
- หากมีประสบการณ์ด้านการทดสอบ AI เชิงโจมตี RLHF SFT การจัดแนว AI หรือความน่าเชื่อถือและความปลอดภัยจะได้รับการพิจารณาเป็นพิเศษ
- หากคุ้นเคยกับการทดสอบเจลเบรก วิศวกรรมพรอมต์ หรือวิธีการประเมินเชิงโจมตีจะได้รับการพิจารณาเป็นพิเศษ
- หากมีความเชี่ยวชาญในประเด็นสีเทาอย่างน้อยหนึ่งด้าน เช่น ความปลอดภัยไซเบอร์ ความปลอดภัยทางชีวภาพ เนื้อหาทางการเมือง ข้อมูลบิดเบือน หรือความปลอดภัยทางวิทยาศาสตร์จะได้รับการพิจารณาเป็นพิเศษ
- สามารถทำงานในฐานะผู้รับจ้างอิสระได้
- ไม่รองรับผู้สมัคร H-1B และ STEM OPT
สวัสดิการ
- ทำงานจากระยะไกลได้ทั้งหมด
- กำหนดเวลาทำงานได้อย่างยืดหยุ่น
- รับเงินรายสัปดาห์ผ่าน Stripe หรือ Wise
- โครงการอาจขยายเวลา ลดระยะเวลา หรือสิ้นสุดก่อนกำหนดตามความต้องการทางธุรกิจและผลการปฏิบัติงาน
- ทำงานทดสอบเชิงโจมตีร่วมกับนักวิจัย AI และทีมความปลอดภัยชั้นนำ
- มีโอกาสช่วยกำหนดวิธีที่ระบบ AI รับมือกับความท้าทายด้านความปลอดภัยที่ซับซ้อนในโลกจริง
- มีการจัดสิ่งอำนวยความสะดวกที่เหมาะสมเมื่อร้องขอ
- รับเงินแนะนำสูงสุด 340 ดอลลาร์สหรัฐต่อการแนะนำที่สำเร็จหนึ่งราย โดยเป็นไปตามข้อจำกัดของโปรแกรมแนะนำ