51 – 200 Karyawan
Profil Mercor yang tersedia tidak memuat informasi terverifikasi yang memadai tentang produk, layanan, pelanggan, sektor, atau fokus perekrutannya untuk mendukung gambaran perusahaan yang akurat. Diperlukan materi sumber tambahan sebelum bisnis atau peluang yang ditawarkannya dapat dijelaskan.
Pakar Red Team Keamanan AI – Bahasa Inggris dan Tamil, Kontrak Jarak Jauh
Uji model dan agen AI percakapan untuk menemukan kerentanan melalui penyelidikan adversarial dan analisis red team yang terstruktur. Buat kasus serangan, data kerentanan, dan laporan yang dapat direproduksi untuk pelanggan lab AI Mercor.
Deskripsi
- Menyelidiki model dan agen AI percakapan menggunakan jailbreak, injeksi prompt, skenario penyalahgunaan, eksploitasi bias, dan manipulasi multi-giliran
- Membuat data berlabel manusia dengan mendokumentasikan kegagalan, mengategorikan kerentanan, dan mengidentifikasi risiko sistemik
- Menggunakan taksonomi, tolok ukur, dan playbook yang telah ditetapkan untuk menjaga konsistensi evaluasi
- Mengembangkan laporan, dataset, dan kasus serangan yang dapat direproduksi untuk pelanggan
- Menilai keluaran AI yang melibatkan bias, misinformasi, perilaku berbahaya, dan topik sensitif lainnya
- Mengidentifikasi kelemahan yang mungkin terlewatkan oleh pengujian otomatis
- Memperluas cakupan evaluasi dan membantu mencegah masalah produksi yang tidak terduga
- Meningkatkan sistem AI pelanggan dan berkontribusi pada model yang lebih aman dan andal
Persyaratan
- Kefasihan setara penutur asli dalam bahasa Inggris dan Tamil
- Pertimbangan yang baik saat mengevaluasi bahasa dan konten
- Kemampuan menentukan apakah respons AI akurat, lengkap, dan sesuai, serta menjelaskan penilaiannya
- Perhatian cermat terhadap kesalahan, ketidakkonsistenan, dan kelalaian yang halus
- Kemampuan menerapkan panduan dan standar kualitas secara konsisten
- Komunikasi yang jelas mengenai alasan kepada audiens teknis dan nonteknis
- Fleksibilitas dalam berbagai proyek, format tugas, dan pelanggan
- Diutamakan: pengalaman dalam pembelajaran mesin adversarial dengan dataset jailbreak, injeksi prompt, serangan RLHF atau DPO, atau ekstraksi model
- Diutamakan: latar belakang keamanan siber dalam pengujian penetrasi, pengembangan eksploit, atau rekayasa balik
- Diutamakan: pengalaman dengan risiko sosioteknis seperti penyelidikan pelecehan dan disinformasi, analisis penyalahgunaan, atau pengujian AI percakapan
- Diutamakan: pengalaman penyelidikan kreatif dalam psikologi, akting, atau penulisan
- Wajib bekerja sebagai kontraktor independen
- Kandidat H-1B dan STEM OPT tidak didukung
Tunjangan
- Pekerjaan sepenuhnya jarak jauh
- Penjadwalan fleksibel dengan kemampuan menentukan jam kerja sendiri
- Pembayaran mingguan melalui Stripe atau Wise
- Kompensasi per jam yang kompetitif
- Kesempatan memperoleh pengalaman dalam red teaming AI berbasis data manusia yang berfokus pada keamanan tingkat lanjut
- Kontribusi langsung pada sistem AI yang lebih tangguh, aman, dan tepercaya
- Partisipasi opsional dalam proyek dengan tingkat sensitivitas lebih tinggi
- Panduan dan sumber daya kesejahteraan untuk proyek yang melibatkan konten sensitif
- Akomodasi yang wajar tersedia berdasarkan permintaan
- Program rujukan yang menawarkan hingga $90 untuk setiap rujukan yang berhasil, dengan tunduk pada batas rujukan