LogoFresh Jobs Ahead
Mercor
Mercor
51 – 200 Pekerja
Profil Mercor yang tersedia tidak mengandungi maklumat yang disahkan secukupnya tentang produk, perkhidmatan, pelanggan, sektor atau fokus pengambilannya untuk menyokong gambaran syarikat yang tepat. Bahan sumber tambahan diperlukan sebelum perniagaan atau peluang yang ditawarkannya dapat diterangkan.
LinkedIn
Pekerjaan Syarikat

Pakar Red Team Keselamatan AI (Bahasa Inggeris dan Punjabi)

Mercor mencari pakar keselamatan AI yang boleh berbahasa Inggeris dan Punjabi untuk menguji model serta ejen perbualan secara ofensif. Peranan kontrak ini memberi tumpuan kepada pendedahan kelemahan, penciptaan kes serangan, dan penyediaan laporan keselamatan yang boleh dihasilkan semula untuk pelanggan penyelidikan AI.

USAmerika Syarikat
$16 – $22 / jam
Jarak jauhKontrakPertengahanSeniorBahasa Diperlukan: InggerisBahasa Diperlukan: PunjabiKecerdasan buatan

Penerangan

  • Menguji model dan ejen AI perbualan dengan jailbreak, suntikan gesaan, senario penyalahgunaan, eksploitasi bias, dan manipulasi berbilang pusingan
  • Menilai output model bagi topik sensitif, termasuk bias, maklumat palsu, dan tingkah laku berbahaya
  • Mendokumentasikan kegagalan, mengkategorikan kelemahan, dan mengenal pasti risiko sistemik
  • Menggunakan taksonomi, penanda aras, dan buku panduan yang ditetapkan untuk mengekalkan penilaian yang konsisten
  • Mencipta laporan, set data, dan kes serangan yang boleh dihasilkan semula untuk pelanggan
  • Menyiasat kelemahan sistem AI yang mungkin terlepas daripada pengujian automatik
  • Meluaskan liputan penilaian untuk membantu mengehadkan isu tidak dijangka dalam pengeluaran
  • Menambah baik sistem AI pelanggan melalui red teaming yang dipacu manusia dan data

Keperluan

  • Kecekapan asli atau fasih dalam bahasa Inggeris dan Punjabi
  • Pertimbangan yang kukuh semasa menilai bahasa dan kandungan
  • Keupayaan menentukan sama ada respons AI tepat, lengkap, dan sesuai, serta menerangkan penilaian tersebut
  • Perhatian teliti terhadap kesilapan halus, ketidakselarasan, dan peninggalan
  • Pematuhan yang konsisten terhadap garis panduan pengujian dan piawaian kualiti
  • Keupayaan menyampaikan alasan dengan jelas kepada khalayak teknikal dan bukan teknikal
  • Fleksibiliti untuk bekerja merentas projek, format tugas, dan pelanggan
  • Kesediaan untuk bekerja sebagai kontraktor bebas
  • Tidak memerlukan sokongan H-1B atau STEM OPT
  • Kepakaran yang diutamakan mungkin merangkumi pembelajaran mesin adversarial, set data jailbreak, serangan suntikan gesaan, serangan RLHF/DPO, pengekstrakan model, pengujian penembusan, pembangunan eksploit, kejuruteraan songsang, penyiasatan gangguan atau maklumat palsu, analisis penyalahgunaan, pengujian AI perbualan, psikologi, lakonan, atau penulisan

Faedah

  • Bekerja dari jauh dari mana-mana sahaja yang dibenarkan oleh peranan ini
  • Menetapkan jadual kerja sendiri
  • Menerima bayaran mingguan melalui Stripe atau Wise untuk perkhidmatan yang diberikan
  • Projek mungkin dilanjutkan, dikurangkan, atau ditamatkan lebih awal berdasarkan keperluan perniagaan dan prestasi
  • Mendapat akses kepada sumber kesejahteraan dan panduan yang jelas untuk projek dengan sensitiviti lebih tinggi
  • Membina pengalaman dalam red teaming AI berasaskan data manusia
  • Membantu menjadikan sistem AI lebih teguh, selamat, dan boleh dipercayai
  • Ganjaran kompetitif
  • Bekerjasama dengan penyelidik AI terkemuka

Pekerjaan Berkaitan