ผู้เชี่ยวชาญ Red Team ด้านความปลอดภัย AI – ภาษาอังกฤษและภาษาทมิฬ สัญญาจ้างงานทางไกล
ทดสอบโมเดลและเอเจนต์ AI แบบสนทนาเพื่อค้นหาช่องโหว่ผ่านการเจาะทดสอบเชิงปฏิปักษ์และการวิเคราะห์แบบ red team ที่มีโครงสร้าง สร้างกรณีโจมตี ข้อมูลช่องโหว่ และรายงานที่ทำซ้ำได้สำหรับลูกค้าห้องปฏิบัติการ AI ของ Mercor
รายละเอียด
- เจาะทดสอบโมเดลและเอเจนต์ AI แบบสนทนาด้วย jailbreak, prompt injection, สถานการณ์การใช้งานในทางที่ผิด, การใช้ประโยชน์จากอคติ และการชักจูงหลายรอบการสนทนา
- สร้างข้อมูลที่มนุษย์ติดป้ายกำกับโดยบันทึกความล้มเหลว จัดหมวดหมู่ช่องโหว่ และระบุความเสี่ยงเชิงระบบ
- ใช้อนุกรมวิธาน เบนช์มาร์ก และเพลย์บุ๊กที่จัดทำไว้เพื่อรักษาความสม่ำเสมอของการประเมิน
- พัฒนารายงาน ชุดข้อมูล และกรณีโจมตีที่ทำซ้ำได้สำหรับลูกค้า
- ประเมินผลลัพธ์ของ AI ที่เกี่ยวข้องกับอคติ ข้อมูลบิดเบือน พฤติกรรมที่เป็นอันตราย และหัวข้ออ่อนไหวอื่น ๆ
- ระบุจุดอ่อนที่การทดสอบอัตโนมัติอาจมองข้าม
- ขยายขอบเขตการประเมินและช่วยป้องกันปัญหาที่ไม่คาดคิดในสภาพแวดล้อมการใช้งานจริง
- ปรับปรุงระบบ AI ของลูกค้าและมีส่วนช่วยพัฒนาโมเดลที่ปลอดภัยและน่าเชื่อถือยิ่งขึ้น
คุณสมบัติ
- ใช้ภาษาอังกฤษและภาษาทมิฬได้คล่องในระดับเจ้าของภาษา
- มีวิจารณญาณที่ดีในการประเมินภาษาและเนื้อหา
- สามารถพิจารณาได้ว่าคำตอบของ AI ถูกต้อง ครบถ้วน และเหมาะสมหรือไม่ พร้อมอธิบายเหตุผลของการประเมินได้
- ใส่ใจอย่างรอบคอบต่อข้อผิดพลาดเล็กน้อย ความไม่สอดคล้อง และข้อมูลที่ตกหล่น
- สามารถนำแนวทางและมาตรฐานคุณภาพไปใช้อย่างสม่ำเสมอ
- สื่อสารเหตุผลได้อย่างชัดเจนกับทั้งผู้ฟังด้านเทคนิคและผู้ที่ไม่ใช่ด้านเทคนิค
- ปรับตัวได้กับโครงการ รูปแบบงาน และลูกค้าที่หลากหลาย
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้าน adversarial machine learning กับชุดข้อมูล jailbreak, prompt injection, การโจมตีแบบ RLHF หรือ DPO หรือการสกัดโมเดล
- พิจารณาเป็นพิเศษ: มีพื้นฐานด้านความปลอดภัยไซเบอร์ในงานทดสอบเจาะระบบ การพัฒนา exploit หรือวิศวกรรมย้อนกลับ
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านความเสี่ยงทางสังคมและเทคนิค เช่น การทดสอบเรื่องการคุกคามและข้อมูลบิดเบือน การวิเคราะห์การใช้งานในทางที่ผิด หรือการทดสอบ AI แบบสนทนา
- พิจารณาเป็นพิเศษ: มีประสบการณ์ด้านการเจาะทดสอบเชิงสร้างสรรค์ในจิตวิทยา การแสดง หรือการเขียน
- ต้องทำงานในฐานะผู้รับจ้างอิสระ
- ไม่รองรับผู้สมัคร H-1B และ STEM OPT
สวัสดิการ
- ทำงานทางไกลเต็มรูปแบบ
- กำหนดตารางเวลาที่ยืดหยุ่นและเลือกเวลาทำงานของตนเองได้
- จ่ายเงินรายสัปดาห์ผ่าน Stripe หรือ Wise
- ค่าตอบแทนรายชั่วโมงที่แข่งขันได้
- โอกาสได้รับประสบการณ์ด้านการทำ red teaming AI ที่ขับเคลื่อนด้วยข้อมูลจากมนุษย์และมุ่งเน้นความปลอดภัยของ AI ขั้นแนวหน้า
- มีส่วนช่วยโดยตรงในการพัฒนาระบบ AI ที่แข็งแกร่ง ปลอดภัย และน่าเชื่อถือยิ่งขึ้น
- มีทางเลือกเข้าร่วมโครงการที่มีความอ่อนไหวสูงกว่า
- มีแนวทางและแหล่งข้อมูลด้านสุขภาวะสำหรับโครงการที่เกี่ยวข้องกับเนื้อหาอ่อนไหว
- สามารถขอสิ่งอำนวยความสะดวกที่เหมาะสมได้
- โปรแกรมแนะนำผู้สมัครมอบเงินสูงสุด 90 ดอลลาร์สหรัฐต่อการแนะนำที่สำเร็จ โดยขึ้นอยู่กับข้อจำกัดของการแนะนำ