51 – 200 Karyawan
Profil Mercor yang tersedia tidak memuat informasi terverifikasi yang memadai tentang produk, layanan, pelanggan, sektor, atau fokus perekrutannya untuk mendukung gambaran perusahaan yang akurat. Diperlukan materi sumber tambahan sebelum bisnis atau peluang yang ditawarkannya dapat dijelaskan.
Pakar Red Team Keamanan AI – Bahasa Inggris dan Finlandia, Remote di Amerika Serikat
Melakukan pengujian adversarial terhadap model dan agen AI percakapan untuk proyek data manusia AI Mercor. Membuat data kerentanan yang dapat direproduksi untuk membantu memperkuat sistem AI mutakhir.
Deskripsi
- Menguji model dan agen AI percakapan menggunakan jailbreak, injeksi prompt, skenario penyalahgunaan, eksploitasi bias, dan manipulasi multi-putaran
- Menganotasi kegagalan, mengategorikan kerentanan, dan mengidentifikasi risiko sistemik
- Menerapkan taksonomi, tolok ukur, dan panduan yang telah ditetapkan untuk evaluasi yang konsisten
- Membuat laporan, dataset, dan kasus serangan yang dapat direproduksi untuk pelanggan
- Mengidentifikasi kerentanan yang mungkin terlewatkan oleh pengujian otomatis
- Memperluas cakupan evaluasi dan membantu mengurangi masalah tak terduga dalam produksi
- Bekerja sama dengan peneliti terkemuka dalam proyek yang melatih dan meningkatkan sistem AI
Persyaratan
- Kemampuan berbahasa Inggris dan Finlandia yang lancar atau setara penutur asli
- Pengalaman sebelumnya dalam red teaming untuk pekerjaan adversarial AI, keamanan siber, atau pengujian sosio-teknis
- Kemampuan menguji sistem AI secara adversarial dan mendorongnya menuju titik kegagalan
- Pengalaman menerapkan kerangka kerja atau tolok ukur untuk pengujian terstruktur
- Kemampuan mengomunikasikan risiko dengan jelas kepada audiens teknis dan nonteknis
- Mampu beradaptasi dengan berbagai proyek dan kebutuhan pelanggan
- Bersedia menjalani kerja sama sebagai kontraktor independen
- Tidak boleh menjadi kandidat H-1B atau STEM OPT
- Diutamakan: pengalaman machine learning adversarial, termasuk dataset jailbreak, injeksi prompt, serangan RLHF/DPO, atau ekstraksi model
- Diutamakan: pengalaman keamanan siber dalam pengujian penetrasi, pengembangan eksploit, atau rekayasa balik
- Diutamakan: pengalaman risiko sosio-teknis dalam pengujian pelecehan atau disinformasi, analisis penyalahgunaan, atau pengujian AI percakapan
- Diutamakan: pengalaman di bidang psikologi, akting, atau penulisan yang mendukung pemikiran adversarial yang tidak konvensional
Tunjangan
- Bekerja sepenuhnya secara remote
- Jadwal kerja fleksibel
- Pembayaran mingguan melalui Stripe atau Wise
- Sumber daya kesejahteraan dan panduan yang jelas untuk proyek dengan sensitivitas lebih tinggi
- Peluang memperoleh pengalaman dalam red teaming AI berbasis data manusia
- Kesempatan langsung untuk membantu membuat sistem AI lebih tangguh, aman, dan tepercaya
- Bayaran kompetitif
- Bonus rujukan hingga $250 untuk setiap rujukan yang berhasil