ผู้ทดสอบความปลอดภัย AI เชิงรุก - สัญญาจ้างงานทางไกลในสหรัฐอเมริกา
Mercor กำลังมองหาผู้ทดสอบความปลอดภัย AI เชิงรุกแบบสัญญาจ้าง เพื่อท้าทายโมเดล AI แนวหน้าและค้นหาช่องโหว่ บทบาทนี้มุ่งเน้นโดเมนที่มีความเสี่ยงสูง และสนับสนุนการพัฒนาระบบ AI ที่ปลอดภัยและเชื่อถือได้ยิ่งขึ้น
รายละเอียด
- สร้างพรอมต์เชิงปฏิปักษ์เพื่อทดสอบโมเดล AI แนวหน้าอย่างเข้มงวด
- ตรวจจับการเจลเบรก พฤติกรรมที่ไม่ปลอดภัย อาการหลอนของโมเดล และความล้มเหลวในการปฏิบัติตามนโยบายความปลอดภัย
- ประเมินความทนทานของโมเดลต่อข้อมูลบิดเบือน ความมั่นคงปลอดภัยทางไซเบอร์ ความมั่นคงปลอดภัยทางชีวภาพ การฉ้อโกง เนื้อหาทางการเมือง และประเด็นอ่อนไหวอื่น ๆ
- บันทึกจุดอ่อนที่ค้นพบ และสนับสนุนการจัดทำเกณฑ์มาตรฐานด้านความปลอดภัยและรายงานการทดสอบเชิงรุก
- ทำงานร่วมกับนักวิจัย AI เพื่อพัฒนาการจัดแนว ความแข็งแกร่ง และความปลอดภัยของโมเดล
- ช่วยปกป้องและปรับปรุงระบบ AI แนวหน้าที่กำลังเกิดขึ้น
- กำหนดแนวทางที่โมเดล AI ใช้จัดการกับสถานการณ์ด้านความปลอดภัยที่ซับซ้อนในบริบทจริง
คุณสมบัติ
- วุฒิปริญญาตรีขึ้นไปด้านวิทยาการคอมพิวเตอร์ ความมั่นคงปลอดภัยทางไซเบอร์ วารสารศาสตร์ การสื่อสาร จิตวิทยา ชีววิทยา เคมี นโยบายสาธารณะ หรือสาขาที่เกี่ยวข้อง
- มีประสบการณ์ทำงานอย่างน้อยห้าปีในด้านความปลอดภัย AI การทดสอบ AI เชิงรุก ความน่าเชื่อถือและความปลอดภัย ความมั่นคงปลอดภัยทางไซเบอร์ วารสารศาสตร์เชิงสืบสวน วิทยาศาสตร์ชีวภาพ หรือสาขาที่เกี่ยวข้อง
- มีวิจารณญาณเชิงวิเคราะห์ที่ดี มีความสามารถในการพัฒนาพรอมต์ และมีทักษะการสื่อสารด้วยการเขียนที่ดี
- มีประสบการณ์ลงมือสร้างพรอมต์เชิงปฏิปักษ์หรือประเมินระบบ AI แนวหน้า
- พิจารณาเป็นพิเศษ: มีพื้นฐานด้านการทดสอบ AI เชิงรุก RLHF, SFT, การจัดแนว AI หรือความน่าเชื่อถือและความปลอดภัย
- พิจารณาเป็นพิเศษ: คุ้นเคยกับการประเมินการเจลเบรก วิศวกรรมพรอมต์ หรือวิธีการประเมินเชิงปฏิปักษ์
- พิจารณาเป็นพิเศษ: มีความเชี่ยวชาญในประเด็นละเอียดอ่อน เช่น ความมั่นคงปลอดภัยทางไซเบอร์ ความมั่นคงปลอดภัยทางชีวภาพ เนื้อหาทางการเมือง ข้อมูลบิดเบือน หรือความปลอดภัยทางวิทยาศาสตร์
- พร้อมทำงานในฐานะผู้รับจ้างอิสระ
- ไม่รองรับผู้สมัครประเภท H-1B และ STEM OPT
สวัสดิการ
- ทำงานทางไกลได้เต็มรูปแบบ
- กำหนดเวลาทำงานของตนเองและทำงานให้เสร็จตามตารางเวลาที่ยืดหยุ่น
- รับเงินชำระรายสัปดาห์ผ่าน Stripe หรือ Wise
- ระยะเวลาโครงการอาจเปลี่ยนแปลงหรือสิ้นสุดก่อนกำหนดตามความต้องการทางธุรกิจและผลการปฏิบัติงาน
- ค่าตอบแทนที่แข่งขันได้
- ทำงานร่วมกับนักวิจัย AI และทีมความปลอดภัยชั้นนำ
- มีการจัดสิ่งอำนวยความสะดวกที่เหมาะสมเมื่อร้องขอ
- โปรแกรมแนะนำผู้สมัคร มอบเงินสูงสุด 340 ดอลลาร์สหรัฐสำหรับการแนะนำที่สำเร็จแต่ละครั้ง โดยขึ้นอยู่กับข้อจำกัดของการแนะนำ