ผู้ทดสอบ AI เชิงรุกด้านความปลอดภัย
ทดสอบระบบ AI ขั้นแนวหน้าของห้องปฏิบัติการพันธมิตร Mercor โดยค้นหาช่องโหว่ในด้านที่มีความเสี่ยงสูง ร่วมส่งผลการทดสอบให้กับชุดเกณฑ์มาตรฐานด้านความปลอดภัย และช่วยนักวิจัยปรับปรุงความทนทานและความสอดคล้องของโมเดล
รายละเอียด
- สร้างพรอมป์ต์เชิงโจมตีเพื่อทดสอบโมเดล AI ขั้นแนวหน้า
- ค้นหาวิธีเจลเบรก พฤติกรรมที่ไม่ปลอดภัย อาการหลอนของโมเดล และข้อผิดพลาดในการปฏิบัติตามนโยบาย
- ประเมินความทนทานของโมเดลในด้านอ่อนไหว เช่น ข้อมูลบิดเบือน ความมั่นคงปลอดภัยทางไซเบอร์ ความมั่นคงทางชีวภาพ การฉ้อโกง และเนื้อหาทางการเมือง
- บันทึกช่องโหว่และร่วมจัดทำชุดเกณฑ์มาตรฐานด้านความปลอดภัยและรายงานการทดสอบเชิงรุก
- ทำงานร่วมกับนักวิจัย AI เพื่อเสริมความสอดคล้อง ความทนทาน และความปลอดภัยของโมเดล
- สนับสนุนโครงการฝึกและปรับปรุงระบบ AI
- กำหนดตารางทำงานได้ด้วยตนเอง ระยะเวลาโครงการอาจเปลี่ยนแปลงหรือสิ้นสุดก่อนกำหนดตามความต้องการทางธุรกิจและผลการปฏิบัติงาน
คุณสมบัติ
- วุฒิปริญญาตรีขึ้นไปด้านวิทยาการคอมพิวเตอร์ ความมั่นคงปลอดภัยทางไซเบอร์ วารสารศาสตร์ นิเทศศาสตร์ จิตวิทยา ชีววิทยา เคมี นโยบายสาธารณะ หรือสาขาที่เกี่ยวข้อง
- มีประสบการณ์ทำงานอย่างน้อยห้าปีในด้านความปลอดภัยของ AI การทดสอบ AI เชิงรุก ความน่าเชื่อถือและความปลอดภัย ความมั่นคงปลอดภัยทางไซเบอร์ วารสารศาสตร์เชิงสืบสวน วิทยาศาสตร์ชีวภาพ หรือสาขาที่เกี่ยวข้อง
- มีทักษะการคิดวิเคราะห์ การออกแบบพรอมป์ต์ และการเขียนที่ดี
- มีประสบการณ์สร้างพรอมป์ต์เชิงโจมตีหรือประเมินระบบ AI ขั้นแนวหน้า
- หากมีประสบการณ์ด้านการทดสอบ AI เชิงรุก, RLHF, SFT, การปรับแนวทาง AI หรือความน่าเชื่อถือและความปลอดภัย จะได้รับการพิจารณาเป็นพิเศษ
- หากคุ้นเคยกับการทดสอบเจลเบรก วิศวกรรมพรอมป์ต์ หรือวิธีประเมินเชิงโจมตี จะได้รับการพิจารณาเป็นพิเศษ
- หากมีความเชี่ยวชาญในด้านอ่อนไหวอย่างน้อยหนึ่งด้าน เช่น ความมั่นคงปลอดภัยทางไซเบอร์ ความมั่นคงทางชีวภาพ เนื้อหาทางการเมือง ข้อมูลบิดเบือน หรือความปลอดภัยทางวิทยาศาสตร์ จะได้รับการพิจารณาเป็นพิเศษ
- รูปแบบการว่าจ้างเป็นผู้รับจ้างอิสระ
- ต้องสามารถทำงานได้โดยไม่ต้องรับการสนับสนุนวีซ่า H-1B หรือ STEM OPT
สวัสดิการ
- ทำงานทางไกลได้เต็มรูปแบบพร้อมตารางเวลาที่ยืดหยุ่น
- รับชำระเงินรายสัปดาห์ผ่าน Stripe หรือ Wise สำหรับบริการที่ได้ดำเนินการแล้ว
- ทำงานร่วมกับนักวิจัย AI และทีมความปลอดภัยชั้นนำ
- มีส่วนกำหนดวิธีที่ระบบ AI ตอบสนองต่อความท้าทายด้านความปลอดภัยที่ซับซ้อนในโลกจริง
- ค่าตอบแทนที่แข่งขันได้
- สามารถขอการปรับเปลี่ยนที่เหมาะสมได้
- รับเงินแนะนำสูงสุด 340 ดอลลาร์สหรัฐต่อการแนะนำที่สำเร็จ โดยเป็นไปตามข้อจำกัดที่กำหนด