51 – 200 Pekerja
Profil Mercor yang tersedia tidak mengandungi maklumat yang disahkan secukupnya tentang produk, perkhidmatan, pelanggan, sektor atau fokus pengambilannya untuk menyokong gambaran syarikat yang tepat. Bahan sumber tambahan diperlukan sebelum perniagaan atau peluang yang ditawarkannya dapat diterangkan.
Pakar Red Team Keselamatan AI – Bahasa Inggeris dan Finland, Kerja Jauh di Amerika Syarikat
Menjalankan ujian adversarial terhadap model dan ejen AI perbualan untuk projek data manusia AI Mercor. Menghasilkan data kerentanan yang boleh dihasilkan semula untuk membantu memperkukuh sistem AI termaju.
Penerangan
- Menguji model dan ejen AI perbualan menggunakan jailbreak, suntikan gesaan, senario penyalahgunaan, eksploitasi berat sebelah, dan manipulasi berbilang giliran
- Menganotasi kegagalan, mengkategorikan kerentanan, dan mengenal pasti risiko sistemik
- Menggunakan taksonomi, penanda aras, dan panduan yang telah ditetapkan untuk penilaian yang konsisten
- Menghasilkan laporan, set data, dan kes serangan yang boleh dihasilkan semula untuk pelanggan
- Mengenal pasti kerentanan yang mungkin terlepas daripada ujian automatik
- Meluaskan liputan penilaian dan membantu mengurangkan isu tidak dijangka dalam pengeluaran
- Bekerjasama dengan penyelidik terkemuka dalam projek yang melatih dan menambah baik sistem AI
Keperluan
- Kemahiran bahasa Inggeris dan Finland yang fasih atau setara penutur asli
- Pengalaman terdahulu dalam red teaming untuk kerja adversarial AI, keselamatan siber, atau penyiasatan sosio-teknikal
- Keupayaan menguji sistem AI secara adversarial dan mendorongnya ke arah titik kegagalan
- Pengalaman menggunakan rangka kerja atau penanda aras untuk ujian berstruktur
- Keupayaan menyampaikan risiko dengan jelas kepada khalayak teknikal dan bukan teknikal
- Kebolehsuaian merentas projek dan keperluan pelanggan
- Bersedia untuk penglibatan sebagai kontraktor bebas
- Tidak boleh menjadi calon H-1B atau STEM OPT
- Diutamakan: pengalaman pembelajaran mesin adversarial, termasuk set data jailbreak, suntikan gesaan, serangan RLHF/DPO, atau pengekstrakan model
- Diutamakan: pengalaman keselamatan siber dalam ujian penembusan, pembangunan eksploit, atau kejuruteraan balik
- Diutamakan: pengalaman risiko sosio-teknikal dalam penyiasatan gangguan atau maklumat palsu, analisis penyalahgunaan, atau ujian AI perbualan
- Diutamakan: pengalaman dalam psikologi, lakonan, atau penulisan yang menyokong pemikiran adversarial yang tidak konvensional
Faedah
- Kerja sepenuhnya dari jauh
- Jadual fleksibel
- Bayaran mingguan melalui Stripe atau Wise
- Sumber kesejahteraan dan garis panduan yang jelas untuk projek dengan sensitiviti lebih tinggi
- Peluang memperoleh pengalaman dalam red teaming AI berasaskan data manusia
- Peluang langsung untuk membantu menjadikan sistem AI lebih teguh, selamat, dan boleh dipercayai
- Bayaran kompetitif
- Bonus rujukan sehingga $250 bagi setiap rujukan yang berjaya