ผู้เชี่ยวชาญการทดสอบความปลอดภัย AI แบบเรดทีม (ภาษาอังกฤษและภาษาปัญจาบ)
ดำเนินการทดสอบเชิงปฏิปักษ์กับโมเดลและเอเจนต์ AI แบบสนทนาเป็นภาษาอังกฤษและภาษาปัญจาบ จัดทำคำอธิบายช่องโหว่ กรณีโจมตี ชุดข้อมูล และรายงานความปลอดภัยที่ทำซ้ำได้สำหรับโครงการ AI ด้านความปลอดภัยที่ใช้ข้อมูลมนุษย์ของ Mercor
รายละเอียด
- ทดสอบโมเดลและเอเจนต์ AI แบบสนทนาด้วยวิธี jailbreak, prompt injection, สถานการณ์การใช้งานในทางที่ผิด, การใช้ประโยชน์จากอคติ และการชักนำหลายรอบ
- จัดทำคำอธิบายข้อมูลโดยมนุษย์ด้วยการบันทึกความล้มเหลว จัดหมวดหมู่ช่องโหว่ และระบุความเสี่ยงเชิงระบบ
- ใช้ระบบจำแนกประเภท เบนช์มาร์ก และคู่มือปฏิบัติที่กำหนดไว้เพื่อให้การประเมินมีความสม่ำเสมอ
- ส่งมอบรายงาน ชุดข้อมูล และกรณีโจมตีที่ทำซ้ำได้ให้แก่ลูกค้า
- ประเมินผลลัพธ์ของ AI ที่เกี่ยวข้องกับอคติ ข้อมูลที่บิดเบือน พฤติกรรมที่เป็นอันตราย และหัวข้ออ่อนไหวอื่น ๆ
- ขยายขอบเขตการประเมินเพื่อค้นหาช่องโหว่ที่การทดสอบอัตโนมัติอาจมองข้าม
- ช่วยปรับปรุงความปลอดภัย ความทนทาน และความน่าเชื่อถือของระบบ AI ของลูกค้า
คุณสมบัติ
- มีทักษะภาษาอังกฤษและภาษาปัญจาบในระดับเจ้าของภาษาหรือคล่องแคล่ว
- มีวิจารณญาณที่ดีในการประเมินความถูกต้อง ความครบถ้วน และความเหมาะสมของเนื้อหาที่สร้างโดย AI
- สามารถตรวจพบข้อผิดพลาด ความไม่สอดคล้อง และการตกหล่นที่ละเอียดอ่อนได้
- ปฏิบัติตามแนวทาง ระบบจำแนกประเภท เบนช์มาร์ก คู่มือปฏิบัติ และมาตรฐานคุณภาพอย่างสม่ำเสมอ
- สื่อสารเหตุผลได้อย่างชัดเจนกับทั้งผู้ฟังสายเทคนิคและไม่ใช่สายเทคนิค
- ปรับตัวได้กับโครงการ รูปแบบงาน และข้อกำหนดของลูกค้าที่หลากหลาย
- สามารถทำงานในฐานะผู้รับเหมาอิสระ
- ไม่รองรับผู้สมัคร H1-B และ STEM OPT
- มีพื้นฐานที่เป็นประโยชน์ด้านแมชชีนเลิร์นนิงเชิงปฏิปักษ์ ชุดข้อมูล jailbreak การโจมตีแบบ prompt injection หรือ RLHF/DPO การสกัดโมเดล การทดสอบเจาะระบบ การพัฒนาเอ็กซ์พลอยต์ วิศวกรรมย้อนกลับ การทดสอบประเด็นการคุกคามหรือข้อมูลบิดเบือน การวิเคราะห์การใช้งานในทางที่ผิด การทดสอบ AI แบบสนทนา จิตวิทยา การแสดง หรือการเขียนเชิงปฏิปักษ์ในรูปแบบที่ไม่ธรรมดา
สวัสดิการ
- ทำงานทางไกลเต็มรูปแบบพร้อมตารางเวลาที่ยืดหยุ่นและบริหารจัดการได้ด้วยตนเอง
- จ่ายเงินรายสัปดาห์ผ่าน Stripe หรือ Wise
- ค่าตอบแทนที่แข่งขันได้
- มีทรัพยากรด้านสุขภาวะและคำแนะนำที่ชัดเจนสำหรับโครงการที่มีความอ่อนไหวสูงกว่า
- สามารถขอการปรับเงื่อนไขที่เหมาะสมได้
- รับค่าตอบแทนจากการแนะนำสูงสุด 90 ดอลลาร์สหรัฐต่อการแนะนำที่สำเร็จหนึ่งราย
- มีโอกาสร่วมงานกับนักวิจัยชั้นนำ
- ได้รับประสบการณ์จริงด้านการทำเรดทีม AI ที่ใช้ข้อมูลมนุษย์ในแนวหน้าของความปลอดภัย AI