ผู้เชี่ยวชาญด้านความปลอดภัย AI – ภาษาอังกฤษและภาษาอัสสัม | สัญญาจ้างงานทางไกลกับ Mercor
ทดสอบเชิงโจมตีต่อโมเดล AI รุ่นแนวหน้าเพื่อค้นหา jailbreak, อคติ, การใช้งานในทางที่ผิด และความเสี่ยงด้านความปลอดภัยอื่น ๆ สร้างคำอธิบายประกอบข้อมูลโดยมนุษย์ จัดประเภทช่องโหว่ และจัดทำหลักฐานการโจมตีที่ทำซ้ำได้สำหรับลูกค้าของ Mercor
รายละเอียด
- ทดสอบเชิงโจมตีต่อโมเดลและเอเจนต์ AI แบบสนทนาเพื่อค้นหา jailbreak, prompt injection, การใช้งานในทางที่ผิด, การใช้ประโยชน์จากอคติ และการชักจูงหลายรอบ
- สร้างคำอธิบายประกอบข้อมูลโดยมนุษย์ จัดประเภทความล้มเหลว และระบุความเสี่ยงเชิงระบบ
- ใช้อนุกรมวิธาน เบนช์มาร์ก และคู่มือปฏิบัติที่มีอยู่เพื่อทำให้การประเมินเป็นมาตรฐานเดียวกัน
- ส่งมอบรายงาน ชุดข้อมูล และกรณีการโจมตีที่ทำซ้ำได้ให้ลูกค้า
- ประเมินคำตอบของ AI ที่เกี่ยวข้องกับอคติ ข้อมูลบิดเบือน พฤติกรรมที่เป็นอันตราย และหัวข้ออ่อนไหวอื่น ๆ
- ค้นหาจุดอ่อนที่การทดสอบอัตโนมัติไม่สามารถตรวจพบ
- ขยายขอบเขตการประเมินเพื่อช่วยป้องกันปัญหาที่ไม่คาดคิดในระบบจริง
- ปรับปรุงระบบ AI ของลูกค้าผ่านการทดสอบเชิงโจมตีอย่างเป็นระบบ
คุณสมบัติ
- ใช้ภาษาอังกฤษและภาษาอัสสัมได้อย่างคล่องแคล่วในระดับเจ้าของภาษา
- มีวิจารณญาณที่ดีในการประเมินภาษาและเนื้อหาด้านความถูกต้อง ความครบถ้วน และความเหมาะสม
- สามารถตรวจพบข้อผิดพลาด ความไม่สอดคล้อง และสิ่งที่ขาดหายไปอย่างละเอียดอ่อน
- ปฏิบัติตามแนวทางและมาตรฐานคุณภาพอย่างสม่ำเสมอ
- สื่อสารเหตุผลได้อย่างชัดเจนกับทั้งผู้ฟังด้านเทคนิคและไม่ใช่ด้านเทคนิค
- ปรับตัวได้กับโครงการ รูปแบบงาน และความต้องการของลูกค้าที่หลากหลาย
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านการเรียนรู้ของเครื่องเชิงโจมตี เช่น ชุดข้อมูล jailbreak, prompt injection, การโจมตี RLHF หรือ DPO หรือการสกัดโมเดล
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านความมั่นคงปลอดภัยไซเบอร์ เช่น การทดสอบเจาะระบบ การพัฒนา exploit หรือวิศวกรรมย้อนกลับ
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านความเสี่ยงเชิงสังคมเทคนิค เช่น การตรวจสอบการคุกคามหรือข้อมูลบิดเบือน การวิเคราะห์การใช้งานในทางที่ผิด หรือการทดสอบ AI แบบสนทนา
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านจิตวิทยา การแสดง หรือการเขียน ซึ่งสนับสนุนการคิดเชิงโจมตีที่แปลกใหม่
- ต้องทำงานในฐานะผู้รับจ้างอิสระ
- ไม่รองรับผู้สมัคร H-1B และ STEM OPT
สวัสดิการ
- ทำงานจากระยะไกลได้อย่างเต็มรูปแบบ
- เลือกตารางเวลาทำงานได้ด้วยตนเอง
- รับเงินชำระรายสัปดาห์ผ่าน Stripe หรือ Wise
- ได้รับประสบการณ์เชิงปฏิบัติด้านการทำ red teaming AI ที่ขับเคลื่อนด้วยข้อมูลมนุษย์
- ช่วยทำให้ระบบ AI มีความทนทาน ปลอดภัย และน่าเชื่อถือยิ่งขึ้น
- ทำงานร่วมกับนักวิจัยชั้นนำ
- มีการจัดสิ่งอำนวยความสะดวกที่เหมาะสมเมื่อร้องขอ
- รับค่าตอบแทนการแนะนำสูงสุด 90 ดอลลาร์สหรัฐสำหรับการแนะนำที่สำเร็จ