ผู้ทดสอบความปลอดภัย AI แบบเรดทีม - ทำงานทางไกลในสหรัฐอเมริกา
Mercor กำลังมองหาผู้ทดสอบความปลอดภัย AI แบบเรดทีมที่ทำงานทางไกล เพื่อท้าทายโมเดล AI แนวหน้าและค้นหาช่องโหว่ในโดเมนที่มีความเสี่ยงสูง บทบาทสัญญาจ้างนี้สนับสนุนห้องปฏิบัติการ AI ในการพัฒนาและปรับปรุงระบบขั้นสูง
รายละเอียด
- สร้างพรอมต์เชิงปฏิปักษ์เพื่อทดสอบโมเดล AI แนวหน้า
- ตรวจจับการเจลเบรก พฤติกรรมที่ไม่ปลอดภัย ภาพหลอน และการละเมิดนโยบาย
- ประเมินความยืดหยุ่นของโมเดลต่อข้อมูลบิดเบือน ภัยคุกคามทางไซเบอร์ ความเสี่ยงด้านความมั่นคงทางชีวภาพ การฉ้อโกง เนื้อหาทางการเมือง และหัวข้ออ่อนไหวอื่น ๆ
- บันทึกช่องโหว่ที่ค้นพบและช่วยจัดทำเกณฑ์มาตรฐานความปลอดภัยกับรายงานการทดสอบแบบเรดทีม
- ทำงานร่วมกับนักวิจัย AI เพื่อเสริมความสอดคล้อง ความแข็งแกร่ง และความปลอดภัยของโมเดล
- มีส่วนร่วมในโครงการฝึกและปรับปรุงระบบ AI
คุณสมบัติ
- วุฒิปริญญาตรีขึ้นไปด้านวิทยาการคอมพิวเตอร์ ความปลอดภัยทางไซเบอร์ วารสารศาสตร์ การสื่อสาร จิตวิทยา ชีววิทยา เคมี นโยบายสาธารณะ หรือสาขาที่เกี่ยวข้อง
- มีประสบการณ์ทำงานอย่างน้อยห้าปีในด้านความปลอดภัย AI การทดสอบ AI แบบเรดทีม ความน่าเชื่อถือและความปลอดภัย ความปลอดภัยทางไซเบอร์ วารสารศาสตร์เชิงสืบสวน วิทยาศาสตร์ชีวภาพ หรือสาขาที่เกี่ยวข้อง
- มีวิจารณญาณเชิงวิเคราะห์ที่ดี ความสามารถในการออกแบบพรอมต์ และทักษะการสื่อสารด้วยลายลักษณ์อักษร
- มีประสบการณ์สร้างพรอมต์เชิงปฏิปักษ์หรือประเมินระบบ AI แนวหน้า
- หากมีประสบการณ์ด้านการทดสอบ AI แบบเรดทีม RLHF, SFT, การทำให้ AI สอดคล้อง หรือความน่าเชื่อถือและความปลอดภัย จะได้รับการพิจารณาเป็นพิเศษ
- หากคุ้นเคยกับการทดสอบเจลเบรก วิศวกรรมพรอมต์ หรือวิธีการประเมินเชิงปฏิปักษ์ จะได้รับการพิจารณาเป็นพิเศษ
- หากมีความเชี่ยวชาญในโดเมนพื้นที่สีเทาอย่างน้อยหนึ่งด้าน เช่น ความปลอดภัยทางไซเบอร์ ความมั่นคงทางชีวภาพ เนื้อหาทางการเมือง ข้อมูลบิดเบือน หรือความปลอดภัยทางวิทยาศาสตร์ จะได้รับการพิจารณาเป็นพิเศษ
- สามารถทำงานในฐานะผู้รับจ้างอิสระได้
- ไม่รองรับผู้สมัคร H-1B และ STEM OPT
สวัสดิการ
- ทำงานทางไกลได้เต็มรูปแบบ
- มีตารางเวลาที่ยืดหยุ่นและบริหารจัดการด้วยตนเอง
- จ่ายเงินรายสัปดาห์ผ่าน Stripe หรือ Wise
- โครงการอาจขยาย ระยะเวลาสั้นลง หรือสิ้นสุดก่อนกำหนดตามความต้องการทางธุรกิจและผลการปฏิบัติงาน
- ค่าตอบแทนที่แข่งขันได้
- ทำงานร่วมกับนักวิจัย AI และทีมความปลอดภัยชั้นนำ
- มีการจัดสิ่งอำนวยความสะดวกที่เหมาะสมเมื่อร้องขอ
- จ่ายค่าตอบแทนการแนะนำสูงสุด 340 ดอลลาร์สหรัฐต่อการแนะนำที่สำเร็จหนึ่งราย โดยเป็นไปตามข้อจำกัดที่เกี่ยวข้อง