LogoFresh Jobs Ahead
Mercor
Mercor
51 – 200 Karyawan
Profil Mercor yang tersedia tidak memuat informasi terverifikasi yang memadai tentang produk, layanan, pelanggan, sektor, atau fokus perekrutannya untuk mendukung gambaran perusahaan yang akurat. Diperlukan materi sumber tambahan sebelum bisnis atau peluang yang ditawarkannya dapat dijelaskan.
LinkedIn
Lowongan Perusahaan

Pakar Keamanan AI – Bahasa Inggris dan Marathi (Jarak Jauh)

Mercor mencari pakar keamanan AI yang mampu berbahasa Inggris dan Marathi untuk melakukan pengujian red team terhadap model dan agen percakapan. Pekerjaan ini mencakup identifikasi kerentanan, evaluasi keluaran sensitif, serta pembuatan data keamanan yang dapat direproduksi untuk laboratorium AI dan pelanggan.

USAmerika Serikat
$16 – $22 / jam
Jarak jauhKontrakMenengahSeniorBahasa Wajib: InggrisBahasa Wajib: MarathiKecerdasan buatan
Keamanan Siber

Deskripsi

  • Melakukan pengujian red team terhadap model dan agen AI percakapan menggunakan jailbreak, injeksi prompt, skenario penyalahgunaan, eksploitasi bias, dan manipulasi multi-giliran
  • Membuat data evaluasi manusia dengan memberi anotasi pada kegagalan, mengategorikan kerentanan, dan mengidentifikasi risiko sistemik
  • Menggunakan taksonomi, tolok ukur, dan panduan yang telah ditetapkan untuk mendukung evaluasi yang konsisten
  • Mengembangkan laporan, dataset, dan kasus serangan yang dapat direproduksi untuk pelanggan
  • Menilai keluaran AI yang berkaitan dengan bias, misinformasi, perilaku berbahaya, dan topik sensitif lainnya
  • Mengidentifikasi kerentanan yang mungkin terlewatkan oleh pengujian otomatis
  • Memperluas cakupan evaluasi untuk membantu meminimalkan masalah produksi yang tidak terduga
  • Mendukung pelanggan dalam meningkatkan keamanan, ketahanan, dan kepercayaan terhadap sistem AI mereka

Persyaratan

  • Fasih menggunakan bahasa Inggris dan Marathi sebagai penutur asli
  • Memiliki penilaian yang kuat saat mengevaluasi bahasa dan konten, termasuk menilai apakah respons AI akurat, lengkap, dan sesuai
  • Mampu mendeteksi kesalahan, inkonsistensi, dan kelalaian yang samar
  • Mampu mengikuti pedoman dan standar kualitas secara konsisten
  • Mampu menjelaskan alasan dengan jelas kepada audiens teknis dan nonteknis
  • Mampu beradaptasi dengan berbagai proyek, jenis tugas, dan pelanggan
  • Mampu bekerja sebagai kontraktor independen
  • Tidak boleh memerlukan dukungan H-1B atau STEM OPT
  • Diutamakan: pengalaman dalam pembelajaran mesin adversarial dengan dataset jailbreak, injeksi prompt, serangan RLHF atau DPO, atau ekstraksi model
  • Diutamakan: pengalaman keamanan siber dalam pengujian penetrasi, pengembangan eksploit, atau rekayasa balik
  • Diutamakan: pengalaman risiko sosio-teknis dalam pengujian pelecehan atau disinformasi, analisis penyalahgunaan, atau pengujian AI percakapan
  • Diutamakan: pengalaman dalam psikologi, akting, atau penulisan yang mendukung pola pikir adversarial yang tidak konvensional

Tunjangan

  • Pekerjaan sepenuhnya jarak jauh yang dapat diselesaikan sesuai jadwal Anda sendiri
  • Pembayaran mingguan melalui Stripe atau Wise
  • Partisipasi opsional dalam proyek dengan tingkat sensitivitas lebih tinggi
  • Pedoman yang jelas dan sumber daya kesejahteraan untuk pekerjaan yang melibatkan konten sensitif
  • Bayaran kompetitif
  • Kesempatan berkolaborasi dengan peneliti terkemuka
  • Pembayaran rujukan hingga $90 untuk setiap rujukan yang berhasil, sesuai batasan

Lowongan Terkait