51 – 200 Karyawan
Profil Mercor yang tersedia tidak memuat informasi terverifikasi yang memadai tentang produk, layanan, pelanggan, sektor, atau fokus perekrutannya untuk mendukung gambaran perusahaan yang akurat. Diperlukan materi sumber tambahan sebelum bisnis atau peluang yang ditawarkannya dapat dijelaskan.
Pakar Keselamatan AI – Bahasa Inggris dan Assam | Kontrak Jarak Jauh Mercor
Lakukan pengujian adversarial terhadap model AI terdepan untuk menemukan jailbreak, bias, penyalahgunaan, dan risiko keselamatan lainnya. Buat anotasi data manusia, klasifikasi kerentanan, serta bukti serangan yang dapat direproduksi untuk pelanggan Mercor.
Deskripsi
- Menguji model dan agen AI percakapan secara adversarial untuk menemukan jailbreak, injeksi prompt, penyalahgunaan, eksploitasi bias, dan manipulasi multi-putaran
- Membuat anotasi data manusia, mengklasifikasikan kegagalan, dan mengidentifikasi risiko sistemik
- Menggunakan taksonomi, tolok ukur, dan playbook yang telah ditetapkan untuk menstandarkan evaluasi
- Menyampaikan laporan, dataset, dan kasus serangan yang dapat direproduksi kepada pelanggan
- Menilai respons AI yang melibatkan bias, misinformasi, perilaku berbahaya, dan topik sensitif lainnya
- Menemukan kelemahan yang tidak terdeteksi oleh pengujian otomatis
- Memperluas cakupan evaluasi untuk membantu mencegah masalah produksi yang tidak terduga
- Meningkatkan sistem AI pelanggan melalui pengujian adversarial yang terstruktur
Persyaratan
- Fasih sebagai penutur asli dalam bahasa Inggris dan Assam
- Memiliki penilaian yang baik saat mengevaluasi bahasa dan konten dari segi akurasi, kelengkapan, dan kepatutan
- Mampu mendeteksi kesalahan, ketidakkonsistenan, dan kekurangan yang halus
- Konsisten mematuhi pedoman dan standar kualitas
- Mampu menjelaskan alasan dengan jelas kepada audiens teknis maupun nonteknis
- Fleksibel dalam menangani berbagai proyek, format tugas, dan kebutuhan pelanggan
- Diutamakan: pengalaman dalam pembelajaran mesin adversarial dengan dataset jailbreak, injeksi prompt, serangan RLHF atau DPO, atau ekstraksi model
- Diutamakan: pengalaman keamanan siber dalam pengujian penetrasi, pengembangan eksploit, atau rekayasa balik
- Diutamakan: pengalaman risiko sosioteknis dalam pengujian pelecehan atau disinformasi, analisis penyalahgunaan, atau pengujian AI percakapan
- Diutamakan: pengalaman dalam psikologi, akting, atau penulisan yang mendukung pemikiran adversarial yang tidak konvensional
- Wajib bekerja sebagai kontraktor independen
- Kandidat H-1B dan STEM OPT tidak didukung
Tunjangan
- Bekerja sepenuhnya dari jarak jauh
- Memilih jadwal kerja sendiri
- Menerima pembayaran mingguan melalui Stripe atau Wise
- Membangun pengalaman praktis dalam red teaming AI berbasis data manusia
- Membantu menjadikan sistem AI lebih tangguh, aman, dan tepercaya
- Bekerja bersama peneliti terkemuka
- Akomodasi yang wajar tersedia berdasarkan permintaan
- Mendapatkan pembayaran rujukan hingga $90 untuk rujukan yang berhasil