ผู้เชี่ยวชาญเรดทีมความปลอดภัย AI (ภาษาอังกฤษและภาษาปัญจาบ)
Mercor กำลังมองหาผู้เชี่ยวชาญด้านความปลอดภัย AI ที่ใช้ภาษาอังกฤษและภาษาปัญจาบ เพื่อทดสอบเชิงรุกกับโมเดลและเอเจนต์แบบสนทนา บทบาทสัญญาจ้างนี้มุ่งค้นหาช่องโหว่ สร้างกรณีโจมตี และจัดทำรายงานความปลอดภัยที่ทำซ้ำได้สำหรับลูกค้าวิจัย AI
รายละเอียด
- ทดสอบโมเดลและเอเจนต์ AI แบบสนทนาด้วยการเจาะระบบป้องกัน การฉีดพรอมต์ สถานการณ์การใช้งานในทางที่ผิด การใช้ประโยชน์จากอคติ และการชักจูงหลายรอบการสนทนา
- ประเมินผลลัพธ์ของโมเดลในหัวข้ออ่อนไหว รวมถึงอคติ ข้อมูลบิดเบือน และพฤติกรรมที่เป็นอันตราย
- บันทึกความล้มเหลว จัดหมวดหมู่ช่องโหว่ และระบุความเสี่ยงเชิงระบบ
- ใช้อนุกรมวิธาน เบนช์มาร์ก และคู่มือการทดสอบที่มีอยู่เพื่อให้การประเมินเป็นไปอย่างสม่ำเสมอ
- สร้างรายงาน ชุดข้อมูล และกรณีโจมตีที่ทำซ้ำได้สำหรับลูกค้า
- ตรวจสอบจุดอ่อนของระบบ AI ที่การทดสอบอัตโนมัติอาจมองไม่พบ
- ขยายขอบเขตการประเมินเพื่อช่วยจำกัดปัญหาที่ไม่คาดคิดในสภาพแวดล้อมการใช้งานจริง
- ปรับปรุงระบบ AI ของลูกค้าด้วยการทำเรดทีมโดยมนุษย์และขับเคลื่อนด้วยข้อมูล
คุณสมบัติ
- ใช้ภาษาอังกฤษและภาษาปัญจาบได้คล่องหรือเป็นเจ้าของภาษา
- มีวิจารณญาณที่ดีในการประเมินภาษาและเนื้อหา
- สามารถพิจารณาว่าคำตอบของ AI ถูกต้อง ครบถ้วน และเหมาะสมหรือไม่ พร้อมอธิบายเหตุผลของการประเมินได้
- ใส่ใจอย่างละเอียดต่อข้อผิดพลาดเล็กน้อย ความไม่สอดคล้อง และข้อมูลที่ขาดหาย
- ปฏิบัติตามแนวทางการทดสอบและมาตรฐานคุณภาพอย่างสม่ำเสมอ
- สามารถสื่อสารเหตุผลได้อย่างชัดเจนกับทั้งผู้ฟังด้านเทคนิคและไม่ใช่ด้านเทคนิค
- ปรับตัวทำงานข้ามโครงการ รูปแบบงาน และลูกค้าที่หลากหลายได้
- พร้อมทำงานในฐานะผู้รับจ้างอิสระ
- ต้องไม่จำเป็นต้องได้รับการสนับสนุนวีซ่า H-1B หรือ STEM OPT
- ประสบการณ์ที่พึงประสงค์อาจรวมถึงแมชชีนเลิร์นนิงเชิงปรปักษ์ ชุดข้อมูลการเจาะระบบป้องกัน การโจมตีด้วยการฉีดพรอมต์ การโจมตี RLHF/DPO การสกัดโมเดล การทดสอบเจาะระบบ การพัฒนาเอ็กซ์พลอยต์ วิศวกรรมย้อนกลับ การตรวจสอบการคุกคามหรือข้อมูลบิดเบือน การวิเคราะห์การใช้งานในทางที่ผิด การทดสอบ AI แบบสนทนา จิตวิทยา การแสดง หรือการเขียน
สวัสดิการ
- ทำงานจากระยะไกลได้ทุกที่ที่บทบาทนี้อนุญาต
- กำหนดตารางการทำงานของตนเอง
- รับชำระเงินรายสัปดาห์ผ่าน Stripe หรือ Wise สำหรับบริการที่ให้
- โครงการอาจได้รับการต่อเวลา ลดขอบเขต หรือต้องยุติก่อนกำหนดตามความต้องการทางธุรกิจและผลงาน
- เข้าถึงแหล่งข้อมูลด้านสุขภาวะและคำแนะนำที่ชัดเจนสำหรับโครงการที่มีความอ่อนไหวสูงขึ้น
- สั่งสมประสบการณ์ด้านการทำเรดทีม AI ที่ขับเคลื่อนด้วยข้อมูลจากมนุษย์
- ช่วยทำให้ระบบ AI มีความแข็งแกร่ง ปลอดภัย และน่าเชื่อถือยิ่งขึ้น
- ค่าตอบแทนที่แข่งขันได้
- ร่วมงานกับนักวิจัย AI ชั้นนำ