ผู้เชี่ยวชาญด้านความปลอดภัย AI – ภาษาอังกฤษและภาษามราฐี (ทำงานทางไกล)
Mercor กำลังมองหาผู้เชี่ยวชาญด้านความปลอดภัย AI ที่ใช้ภาษาอังกฤษและภาษามราฐี เพื่อทดสอบเชิงรุกกับโมเดลและเอเจนต์สนทนา งานนี้ครอบคลุมการค้นหาช่องโหว่ การประเมินผลลัพธ์ที่ละเอียดอ่อน และการสร้างข้อมูลด้านความปลอดภัยที่ทำซ้ำได้สำหรับห้องปฏิบัติการ AI และลูกค้า
รายละเอียด
- ดำเนินการทดสอบเชิงรุกกับโมเดลและเอเจนต์ AI แบบสนทนา โดยใช้การเจาะข้อจำกัด การแทรกพรอมต์ สถานการณ์การใช้งานในทางที่ผิด การใช้ประโยชน์จากอคติ และการชักจูงหลายรอบ
- สร้างข้อมูลการประเมินโดยมนุษย์ด้วยการใส่คำอธิบายให้ข้อผิดพลาด จัดหมวดหมู่ช่องโหว่ และระบุความเสี่ยงเชิงระบบ
- ใช้ระบบจำแนก เกณฑ์มาตรฐาน และแนวทางปฏิบัติที่จัดทำไว้แล้ว เพื่อสนับสนุนการประเมินที่สม่ำเสมอ
- จัดทำรายงาน ชุดข้อมูล และกรณีการโจมตีที่ทำซ้ำได้สำหรับลูกค้า
- ประเมินผลลัพธ์ของ AI ที่เกี่ยวข้องกับอคติ ข้อมูลบิดเบือน พฤติกรรมที่เป็นอันตราย และหัวข้อที่ละเอียดอ่อนอื่น ๆ
- ระบุช่องโหว่ที่การทดสอบอัตโนมัติอาจมองข้าม
- ขยายขอบเขตการประเมินเพื่อช่วยลดปัญหาที่ไม่คาดคิดในระบบที่ใช้งานจริง
- สนับสนุนลูกค้าในการปรับปรุงความปลอดภัย ความทนทาน และความน่าเชื่อถือของระบบ AI
คุณสมบัติ
- ใช้ภาษาอังกฤษและภาษามราฐีได้คล่องในระดับเจ้าของภาษา
- มีวิจารณญาณที่ดีในการประเมินภาษาและเนื้อหา รวมถึงพิจารณาว่าคำตอบของ AI ถูกต้อง ครบถ้วน และเหมาะสมหรือไม่
- สามารถตรวจจับข้อผิดพลาด ความไม่สอดคล้อง และการตกหล่นที่ละเอียดอ่อนได้
- สามารถปฏิบัติตามแนวทางและมาตรฐานคุณภาพได้อย่างสม่ำเสมอ
- สามารถอธิบายเหตุผลได้อย่างชัดเจนแก่ผู้ฟังทั้งสายเทคนิคและไม่ใช่สายเทคนิค
- ปรับตัวได้กับโครงการ ประเภทงาน และลูกค้าที่หลากหลาย
- สามารถทำงานในฐานะผู้รับจ้างอิสระ
- ต้องไม่ต้องการการสนับสนุน H-1B หรือ STEM OPT
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านการเรียนรู้ของเครื่องเชิงปฏิปักษ์กับชุดข้อมูล jailbreak การแทรกพรอมต์ การโจมตี RLHF หรือ DPO หรือการสกัดโมเดล
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านความปลอดภัยไซเบอร์ในการทดสอบเจาะระบบ การพัฒนาช่องโหว่โจมตี หรือวิศวกรรมย้อนกลับ
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านความเสี่ยงเชิงสังคมเทคนิคในการตรวจสอบการคุกคามหรือข้อมูลบิดเบือน การวิเคราะห์การใช้งานในทางที่ผิด หรือการทดสอบ AI แบบสนทนา
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านจิตวิทยา การแสดง หรือการเขียนที่สนับสนุนการคิดเชิงปฏิปักษ์นอกกรอบ
สวัสดิการ
- ทำงานทางไกลได้ทั้งหมดตามตารางเวลาของคุณเอง
- รับเงินรายสัปดาห์ผ่าน Stripe หรือ Wise
- มีตัวเลือกเข้าร่วมโครงการที่มีความละเอียดอ่อนสูงกว่า
- มีแนวทางที่ชัดเจนและแหล่งข้อมูลด้านสุขภาวะสำหรับงานที่เกี่ยวข้องกับเนื้อหาละเอียดอ่อน
- ค่าตอบแทนที่แข่งขันได้
- โอกาสร่วมงานกับนักวิจัยชั้นนำ
- รับเงินแนะนำสูงสุด 90 ดอลลาร์สหรัฐต่อการแนะนำที่สำเร็จหนึ่งราย โดยเป็นไปตามข้อจำกัด