ผู้เชี่ยวชาญ Red Team ด้านความปลอดภัย AI – ภาษาอังกฤษและภาษาฟินแลนด์ ทำงานทางไกลในสหรัฐอเมริกา
ทดสอบโมเดลและเอเจนต์ AI แบบสนทนาเชิงโจมตีสำหรับโครงการ AI ที่ใช้ข้อมูลมนุษย์ของ Mercor สร้างข้อมูลช่องโหว่ที่ทำซ้ำได้เพื่อช่วยเสริมความแข็งแกร่งให้ระบบ AI แนวหน้าผ่านการทดสอบเชิงรุก
รายละเอียด
- ทดสอบโมเดลและเอเจนต์ AI แบบสนทนาด้วย jailbreak, prompt injection, สถานการณ์การใช้งานในทางที่ผิด, การใช้ประโยชน์จากอคติ และการชักจูงหลายรอบการสนทนา
- ใส่คำอธิบายให้ความล้มเหลว จัดหมวดหมู่ช่องโหว่ และระบุความเสี่ยงเชิงระบบ
- ใช้อนุกรมวิธาน เกณฑ์มาตรฐาน และคู่มือปฏิบัติที่กำหนดไว้เพื่อให้การประเมินมีความสม่ำเสมอ
- สร้างรายงาน ชุดข้อมูล และกรณีการโจมตีที่ทำซ้ำได้สำหรับลูกค้า
- ระบุช่องโหว่ที่การทดสอบอัตโนมัติอาจมองข้าม
- ขยายความครอบคลุมของการประเมินและช่วยลดปัญหาที่ไม่คาดคิดในระบบจริง
- ทำงานร่วมกับนักวิจัยชั้นนำในโครงการฝึกและปรับปรุงระบบ AI
คุณสมบัติ
- มีทักษะภาษาอังกฤษและภาษาฟินแลนด์ในระดับคล่องแคล่วหรือเจ้าของภาษา
- มีประสบการณ์ด้าน red teaming ในงานโจมตีเชิงรุกต่อ AI, ความปลอดภัยไซเบอร์ หรือการทดสอบระบบสังคม-เทคนิค
- สามารถทดสอบระบบ AI ในเชิงโจมตีและผลักดันระบบไปยังจุดที่เกิดความล้มเหลว
- มีประสบการณ์ใช้กรอบการทำงานหรือเกณฑ์มาตรฐานสำหรับการทดสอบอย่างเป็นระบบ
- สามารถสื่อสารความเสี่ยงอย่างชัดเจนกับทั้งผู้ฟังสายเทคนิคและไม่ใช่สายเทคนิค
- ปรับตัวได้กับโครงการและข้อกำหนดของลูกค้าที่หลากหลาย
- พร้อมทำงานในรูปแบบผู้รับจ้างอิสระ
- ต้องไม่เป็นผู้สมัคร H-1B หรือ STEM OPT
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านการเรียนรู้ของเครื่องเชิงโจมตี รวมถึงชุดข้อมูล jailbreak, prompt injection, การโจมตี RLHF/DPO หรือการสกัดโมเดล
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านความปลอดภัยไซเบอร์ในการทดสอบเจาะระบบ การพัฒนา exploit หรือวิศวกรรมย้อนกลับ
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านความเสี่ยงสังคม-เทคนิคในการทดสอบเรื่องการคุกคามหรือข้อมูลบิดเบือน การวิเคราะห์การใช้งานในทางที่ผิด หรือการทดสอบ AI แบบสนทนา
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านจิตวิทยา การแสดง หรือการเขียนที่ช่วยส่งเสริมความคิดเชิงโจมตีที่แปลกใหม่
สวัสดิการ
- ทำงานทางไกลเต็มรูปแบบ
- จัดตารางเวลาได้ยืดหยุ่น
- ชำระเงินรายสัปดาห์ผ่าน Stripe หรือ Wise
- มีทรัพยากรด้านสุขภาวะและแนวทางที่ชัดเจนสำหรับโครงการที่มีความละเอียดอ่อนสูง
- มีโอกาสได้รับประสบการณ์ด้าน red teaming AI ที่ใช้ข้อมูลมนุษย์
- มีโอกาสโดยตรงในการช่วยให้ระบบ AI มีความแข็งแกร่ง ปลอดภัย และน่าเชื่อถือยิ่งขึ้น
- ค่าตอบแทนที่แข่งขันได้
- โบนัสแนะนำผู้สมัครสูงสุด 250 ดอลลาร์สหรัฐต่อการแนะนำที่สำเร็จ