ผู้เชี่ยวชาญด้านความปลอดภัย AI – ภาษาอังกฤษและภาษาฟินแลนด์ (ทำงานทางไกล)
Mercor กำลังมองหาผู้เชี่ยวชาญด้านความปลอดภัย AI ที่ใช้ภาษาอังกฤษและภาษาฟินแลนด์ เพื่อทำ red team กับโมเดลและเอเจนต์ AI สนทนา งานนี้ครอบคลุมการจัดทำข้อมูลช่องโหว่ที่ทำซ้ำได้และกรณีการโจมตีสำหรับโครงการฝึก AI รุ่นแนวหน้า
รายละเอียด
- ดำเนินการทดสอบเชิงปฏิปักษ์กับโมเดลและเอเจนต์ AI สนทนาโดยใช้ jailbreak, prompt injection, สถานการณ์การใช้งานในทางที่ผิด, การใช้ประโยชน์จากอคติ และการชักจูงหลายรอบการสนทนา
- บันทึกความล้มเหลว จัดหมวดหมู่ช่องโหว่ และระบุความเสี่ยงเชิงระบบ
- ใช้อนุกรมวิธาน เบนช์มาร์ก และคู่มือปฏิบัติที่มีอยู่เพื่อให้การประเมินมีความสม่ำเสมอ
- สร้างรายงาน ชุดข้อมูล และกรณีการโจมตีที่ทำซ้ำได้
- ตรวจสอบผลลัพธ์ของโมเดลที่เกี่ยวข้องกับอคติ ข้อมูลบิดเบือน และพฤติกรรมที่เป็นอันตราย
- ขยายขอบเขตการประเมินเพื่อค้นหาช่องโหว่ที่การทดสอบอัตโนมัติอาจมองข้าม
- ทำงานร่วมกับทีมโครงการที่สนับสนุนการฝึกและปรับปรุงระบบ AI รุ่นแนวหน้า
คุณสมบัติ
- ใช้ภาษาอังกฤษและภาษาฟินแลนด์ได้คล่องหรือในระดับเจ้าของภาษา
- มีประสบการณ์ก่อนหน้านี้ด้าน red team ในการทดสอบเชิงปฏิปักษ์ของ AI ความมั่นคงปลอดภัยไซเบอร์ หรือการตรวจสอบเชิงสังคมเทคนิค
- แสดงให้เห็นถึงความสามารถในการทดสอบระบบ AI ในเชิงปฏิปักษ์
- สามารถทำงานกับเฟรมเวิร์ก อนุกรมวิธาน เบนช์มาร์ก และคู่มือปฏิบัติ
- สามารถสื่อสารความเสี่ยงอย่างชัดเจนแก่ผู้ฟังทั้งด้านเทคนิคและไม่ใช่ด้านเทคนิค
- ปรับตัวให้เข้ากับโครงการและลูกค้าที่หลากหลายได้
- ต้องทำงานในฐานะผู้รับจ้างอิสระ
- ต้องสามารถทำงานได้โดยไม่ใช้ข้อมูลลับหรือข้อมูลกรรมสิทธิ์ของนายจ้าง ลูกค้า หรือสถาบันอื่น
- ไม่รองรับผู้สมัคร H-1B และ STEM OPT
สวัสดิการ
- งานสัญญาจ้างที่ทำงานทางไกลเต็มรูปแบบ
- ตารางเวลาที่ยืดหยุ่นและควบคุมชั่วโมงทำงานได้
- มีทางเลือกเข้าร่วมโครงการที่มีความละเอียดอ่อนสูงขึ้น
- คำแนะนำที่ชัดเจนและแหล่งข้อมูลด้านสุขภาวะ
- จ่ายเงินรายสัปดาห์ผ่าน Stripe หรือ Wise
- ค่าตอบแทนที่แข่งขันได้
- โอกาสรับเงินจากการแนะนำผู้สมัคร สูงสุด 250 ดอลลาร์สหรัฐต่อการแนะนำที่สำเร็จ
- มีการจัดสิ่งอำนวยความสะดวกที่เหมาะสมเมื่อร้องขอ