ผู้เชี่ยวชาญด้านความปลอดภัย AI – ภาษาอังกฤษและภาษาเบงกาลี (สัญญาจ้างงานทางไกล)
Mercor กำลังมองหาผู้ทดสอบความปลอดภัย AI เชิงรุกที่ใช้ภาษาอังกฤษและภาษาเบงกาลีได้ เพื่อระบุช่องโหว่ในระบบ AI สนทนา บทบาทนี้ครอบคลุมการสร้างกรณีโจมตีที่ทำซ้ำได้และข้อมูลที่มนุษย์สร้างขึ้นสำหรับห้องปฏิบัติการ AI ที่ฝึกโมเดลรุ่นแนวหน้า
รายละเอียด
- ทดสอบโมเดลและเอเจนต์ AI สนทนาด้วยการเจาะระบบหลีกเลี่ยงข้อจำกัด การแทรกพรอมป์ สถานการณ์การใช้งานในทางที่ผิด การใช้ประโยชน์จากอคติ และการชักจูงหลายรอบการสนทนา
- สร้างข้อมูลที่มนุษย์สร้างขึ้นด้วยการใส่คำอธิบายให้ความล้มเหลว จัดหมวดหมู่ช่องโหว่ และระบุความเสี่ยงเชิงระบบ
- ใช้อนุกรมวิธาน เกณฑ์มาตรฐาน และคู่มือปฏิบัติที่มีอยู่เพื่อให้การประเมินมีความสม่ำเสมอ
- จัดส่งรายงาน ชุดข้อมูล และกรณีโจมตีที่ทำซ้ำได้ให้ลูกค้า
- ประเมินคำตอบของ AI ที่เกี่ยวข้องกับอคติ ข้อมูลบิดเบือน พฤติกรรมที่เป็นอันตราย และหัวข้ออ่อนไหวอื่น ๆ
- ขยายขอบเขตการประเมินและมีส่วนช่วยพัฒนาระบบ AI ของลูกค้าให้แข็งแกร่งยิ่งขึ้น
คุณสมบัติ
- มีความสามารถระดับเจ้าของภาษาหรือคล่องแคล่วทั้งภาษาอังกฤษและภาษาเบงกาลี
- มีวิจารณญาณที่ดีในการประเมินภาษาและเนื้อหา รวมถึงสามารถพิจารณาว่าคำตอบของ AI ถูกต้อง ครบถ้วน และเหมาะสมหรือไม่ พร้อมอธิบายการประเมินได้
- ใส่ใจอย่างมากต่อข้อผิดพลาดที่ละเอียดอ่อน ความไม่สอดคล้อง และสิ่งที่ขาดหายไป
- ปฏิบัติตามแนวทางการทดสอบและมาตรฐานคุณภาพได้อย่างสม่ำเสมอและน่าเชื่อถือ
- สื่อสารเหตุผลได้อย่างชัดเจนกับทั้งผู้ฟังที่มีพื้นฐานด้านเทคนิคและไม่มีพื้นฐานด้านเทคนิค
- พร้อมปรับตัวให้เข้ากับโครงการ รูปแบบงาน และลูกค้าที่หลากหลาย
- สามารถทำงานในฐานะผู้รับจ้างอิสระ
- ต้องไม่จำเป็นต้องได้รับการสนับสนุนวีซ่า H-1B หรือ STEM OPT
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านการเรียนรู้ของเครื่องเชิงปฏิปักษ์กับชุดข้อมูลการเจาะระบบหลีกเลี่ยงข้อจำกัด การแทรกพรอมป์ การโจมตี RLHF/DPO หรือการสกัดโมเดล
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านความปลอดภัยทางไซเบอร์ในการทดสอบการเจาะระบบ การพัฒนาช่องโหว่เพื่อโจมตี หรือวิศวกรรมย้อนกลับ
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านความเสี่ยงทางสังคมและเทคนิคในการตรวจสอบการคุกคามหรือข้อมูลบิดเบือน การวิเคราะห์การใช้งานในทางที่ผิด หรือการทดสอบ AI สนทนา
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านจิตวิทยา การแสดง หรือการเขียนที่สนับสนุนการคิดเชิงปฏิปักษ์นอกกรอบ
สวัสดิการ
- ทำงานทางไกลได้ทั้งหมด
- กำหนดตารางเวลาที่ยืดหยุ่นและทำงานตามเวลาที่คุณสะดวก
- รับเงินรายสัปดาห์ผ่าน Stripe หรือ Wise
- เลือกได้ว่าจะเข้าร่วมโครงการที่มีความอ่อนไหวสูงกว่าหรือไม่
- เข้าถึงคำแนะนำที่ชัดเจนและแหล่งข้อมูลด้านสุขภาวะสำหรับงานที่มีเนื้อหาอ่อนไหว
- ได้รับค่าตอบแทนที่แข่งขันได้
- สั่งสมประสบการณ์ด้านการทดสอบความปลอดภัย AI เชิงรุกที่ขับเคลื่อนด้วยข้อมูลจากมนุษย์
- ร่วมงานกับนักวิจัย AI ชั้นนำ
- รับเงินแนะนำสูงสุด 90 ดอลลาร์สหรัฐสำหรับการแนะนำที่สำเร็จแต่ละครั้ง