ผู้เชี่ยวชาญด้านความปลอดภัย AI (ภาษาอังกฤษและภาษาเตลูกู) – สัญญาจ้างงานระยะไกล
ดำเนินการประเมินแบบ red team สำหรับโมเดลและเอเจนต์ AI สนทนาของ Mercor โดยมุ่งเน้นความปลอดภัยในการใช้ภาษาอังกฤษและภาษาเตลูกู สร้างข้อมูลช่องโหว่ กรณีโจมตี และรายงานที่ทำซ้ำได้ เพื่อสนับสนุนการพัฒนา AI ที่ปลอดภัยยิ่งขึ้น
รายละเอียด
- ทดสอบโมเดลและเอเจนต์ AI สนทนาด้วย jailbreak, prompt injection, สถานการณ์การใช้งานในทางที่ผิด, การใช้ประโยชน์จากอคติ และการชักจูงหลายรอบ
- ใส่คำอธิบายให้ข้อผิดพลาด จัดหมวดหมู่ช่องโหว่ และระบุความเสี่ยงเชิงระบบ
- ใช้อนุกรมวิธาน ชุดเกณฑ์ประเมิน และคู่มือปฏิบัติงานเพื่อให้การประเมินมีความสม่ำเสมอ
- สร้างรายงาน ชุดข้อมูล และกรณีโจมตีที่ทำซ้ำได้สำหรับลูกค้า
- ประเมินผลลัพธ์ของ AI ที่เกี่ยวข้องกับอคติ ข้อมูลที่ผิด พฤติกรรมที่เป็นอันตราย และหัวข้ออ่อนไหวอื่น ๆ
- มีส่วนร่วมในโครงการฝึกและปรับปรุงระบบ AI
- ระบุช่องโหว่ที่การทดสอบอัตโนมัติตรวจไม่พบ
- ขยายขอบเขตการประเมินเพื่อช่วยลดปัญหาที่ไม่คาดคิดในสภาพแวดล้อมการใช้งานจริง
คุณสมบัติ
- มีความสามารถด้านภาษาอังกฤษและภาษาเตลูกูในระดับเจ้าของภาษาหรือคล่องแคล่ว
- มีวิจารณญาณที่ดีในการประเมินว่าคำตอบของ AI ถูกต้อง ครบถ้วน และเหมาะสมหรือไม่
- สามารถสื่อสารเหตุผลได้อย่างชัดเจนกับทั้งผู้ฟังด้านเทคนิคและไม่ใช่ด้านเทคนิค
- ใส่ใจอย่างละเอียดต่อข้อผิดพลาดเล็กน้อย ความไม่สอดคล้อง และข้อมูลที่ตกหล่น
- ปฏิบัติตามแนวทางและมาตรฐานคุณภาพอย่างสม่ำเสมอ
- ปรับตัวได้กับโครงการ รูปแบบงาน และลูกค้าที่หลากหลาย
- ยินดีทำงานในฐานะผู้รับจ้างอิสระ
- ต้องไม่เป็นผู้สมัคร H-1B หรือ STEM OPT; ความเชี่ยวชาญที่เกี่ยวข้องอาจรวมถึงการเรียนรู้ของเครื่องเชิงปฏิปักษ์ ชุดข้อมูล jailbreak, prompt injection, การโจมตี RLHF/DPO, การสกัดโมเดล การทดสอบเจาะระบบ การพัฒนา exploit วิศวกรรมย้อนกลับ การตรวจสอบการคุกคามหรือข้อมูลบิดเบือน การวิเคราะห์การใช้งานในทางที่ผิด การทดสอบ AI สนทนา จิตวิทยา การแสดง หรือการเขียน
- สวัสดิการ
สวัสดิการ
- ทำงานทางไกลเต็มรูปแบบตามตารางเวลาที่คุณกำหนดเอง
- รับเงินรายสัปดาห์ผ่าน Stripe หรือ Wise สำหรับบริการที่ให้แก่ลูกค้า
- ได้รับประสบการณ์ด้านการทำ red team AI ที่ใช้ข้อมูลจากมนุษย์ โดยมุ่งเน้นความปลอดภัยของ AI รุ่นแนวหน้า
- ช่วยทำให้ระบบ AI มีความแข็งแกร่ง ปลอดภัย และน่าเชื่อถือยิ่งขึ้น
- เลือกได้ว่าจะเข้าร่วมโครงการที่มีความอ่อนไหวสูงหรือไม่
- เข้าถึงคำแนะนำที่ชัดเจนและแหล่งข้อมูลด้านสุขภาวะสำหรับโครงการที่มีความอ่อนไหวสูง
- ขอการปรับเปลี่ยนที่เหมาะสมได้
- รับเงินสูงสุด 90 ดอลลาร์สำหรับการแนะนำผู้สมัครที่สำเร็จแต่ละครั้ง โดยไม่มีการระบุจำนวนการแนะนำสูงสุด