ผู้ทดสอบเชิงรุกด้านความปลอดภัยของโมเดล AI
ทดสอบโมเดล AI ขั้นแนวหน้าของ Mercor เพื่อค้นหาจุดอ่อนด้านความปลอดภัยด้วยวิธีการเชิงปฏิปักษ์ ค้นหาช่องโหว่และช่วยปรับปรุงการจัดแนวของโมเดล
รายละเอียด
- สร้างพรอมป์ต์เชิงปฏิปักษ์เพื่อทดสอบโมเดล AI ขั้นแนวหน้า
- ค้นหาวิธีเจลเบรก พฤติกรรมที่ไม่ปลอดภัย การหลอนข้อมูล และการละเมิดนโยบาย
- ทดสอบความทนทานของโมเดลต่อข้อมูลบิดเบือน ความมั่นคงปลอดภัยไซเบอร์ ความมั่นคงปลอดภัยทางชีวภาพ การฉ้อโกง เนื้อหาทางการเมือง และประเด็นละเอียดอ่อนอื่น ๆ
- บันทึกช่องโหว่และช่วยจัดทำเกณฑ์มาตรฐานด้านความปลอดภัยกับรายงานการทดสอบเชิงปฏิปักษ์
- ทำงานร่วมกับนักวิจัย AI เพื่อเสริมความแข็งแกร่งด้านการจัดแนว ความทนทาน และความปลอดภัยของโมเดล
- ช่วยปกป้องและปรับปรุงโมเดล AI ขั้นแนวหน้ารุ่นถัดไป
- มีส่วนร่วมในโครงการฝึกและพัฒนาระบบ AI
คุณสมบัติ
- สำเร็จการศึกษาระดับปริญญาตรีขึ้นไปในสาขาวิทยาการคอมพิวเตอร์ ความมั่นคงปลอดภัยไซเบอร์ วารสารศาสตร์ การสื่อสาร จิตวิทยา ชีววิทยา เคมี นโยบายสาธารณะ หรือสาขาที่เกี่ยวข้อง
- มีประสบการณ์ทำงานอย่างน้อยห้าปีในด้านความปลอดภัย AI การทดสอบเชิงปฏิปักษ์ต่อ AI ความน่าเชื่อถือและความปลอดภัย ความมั่นคงปลอดภัยไซเบอร์ วารสารศาสตร์เชิงสืบสวน วิทยาศาสตร์ชีวภาพ หรือสาขาที่เกี่ยวข้อง
- มีทักษะการคิดวิเคราะห์ การออกแบบพรอมป์ต์ และการเขียนที่ดี
- มีประสบการณ์สร้างพรอมป์ต์เชิงปฏิปักษ์หรือประเมินระบบ AI ขั้นแนวหน้า
- หากมีประสบการณ์ด้านการทดสอบเชิงปฏิปักษ์ต่อ AI, RLHF, การปรับแต่งแบบมีผู้ควบคุมดูแล, การจัดแนว AI หรือความน่าเชื่อถือและความปลอดภัยจะได้รับการพิจารณาเป็นพิเศษ
- หากคุ้นเคยกับการทดสอบเจลเบรก วิศวกรรมพรอมป์ต์ หรือวิธีประเมินเชิงปฏิปักษ์จะได้รับการพิจารณาเป็นพิเศษ
- หากมีความเชี่ยวชาญอย่างน้อยหนึ่งด้านที่ละเอียดอ่อน เช่น ความมั่นคงปลอดภัยไซเบอร์ ความมั่นคงปลอดภัยทางชีวภาพ เนื้อหาทางการเมือง ข้อมูลบิดเบือน หรือความปลอดภัยทางวิทยาศาสตร์ จะได้รับการพิจารณาเป็นพิเศษ
- ต้องไม่ต้องการการสนับสนุนวีซ่า H-1B หรือ STEM OPT; Mercor ไม่สามารถสนับสนุนผู้สมัครที่ต้องการการสนับสนุนรูปแบบใดรูปแบบหนึ่งดังกล่าวได้
สวัสดิการ
- ทำงานจากระยะไกลเต็มรูปแบบพร้อมตารางเวลาที่ยืดหยุ่น
- รับเงินรายสัปดาห์ผ่าน Stripe หรือ Wise สำหรับบริการที่ให้แล้ว
- ระยะเวลาโครงการอาจเปลี่ยนแปลงหรือสิ้นสุดก่อนกำหนดตามความต้องการของโครงการและผลการปฏิบัติงาน
- ทำงานร่วมกับนักวิจัย AI และทีมความปลอดภัยชั้นนำ
- ช่วยกำหนดแนวทางที่ระบบ AI ใช้รับมือกับความท้าทายด้านความปลอดภัยที่ซับซ้อนในโลกจริง
- สามารถขอรับการปรับสิ่งอำนวยความสะดวกตามความเหมาะสมได้
- รับค่าตอบแทนจากการแนะนำสูงสุด 340 ดอลลาร์สหรัฐต่อการแนะนำที่สำเร็จ โดยเป็นไปตามข้อจำกัด