51 – 200 Karyawan
Profil Mercor yang tersedia tidak memuat informasi terverifikasi yang memadai tentang produk, layanan, pelanggan, sektor, atau fokus perekrutannya untuk mendukung gambaran perusahaan yang akurat. Diperlukan materi sumber tambahan sebelum bisnis atau peluang yang ditawarkannya dapat dijelaskan.
Red Teamer Keamanan Model AI
Uji model AI terdepan Mercor untuk menemukan kelemahan keselamatan melalui pengujian adversarial. Temukan kerentanan dan bantu meningkatkan keselarasan model.
Deskripsi
- Buat prompt adversarial untuk menguji model AI terdepan.
- Temukan upaya jailbreak, perilaku tidak aman, halusinasi, dan pelanggaran kebijakan.
- Uji ketahanan model terhadap misinformasi, keamanan siber, biosekuriti, penipuan, konten politik, dan bidang sensitif lainnya.
- Catat kerentanan dan bantu menyusun tolok ukur keselamatan serta laporan red teaming.
- Bekerja sama dengan peneliti AI untuk memperkuat keselarasan, ketahanan, dan keselamatan model.
- Bantu melindungi dan menyempurnakan generasi berikutnya dari model AI terdepan.
- Berkontribusi pada proyek untuk melatih dan meningkatkan sistem AI.
Persyaratan
- Gelar sarjana atau lebih tinggi di bidang ilmu komputer, keamanan siber, jurnalisme, komunikasi, psikologi, biologi, kimia, kebijakan publik, atau bidang terkait
- Setidaknya lima tahun pengalaman profesional di bidang keselamatan AI, red teaming AI, kepercayaan dan keselamatan, keamanan siber, jurnalisme investigatif, ilmu hayati, atau bidang terkait
- Kemampuan berpikir analitis, merancang prompt, dan menulis yang kuat
- Pengalaman membuat prompt adversarial atau mengevaluasi sistem AI terdepan
- Pengalaman dalam red teaming AI, RLHF, penyempurnaan terawasi, penyelarasan AI, atau kepercayaan dan keselamatan menjadi nilai tambah
- Pemahaman tentang pengujian jailbreak, rekayasa prompt, atau metode evaluasi adversarial menjadi nilai tambah
- Keahlian dalam setidaknya satu bidang sensitif, seperti keamanan siber, biosekuriti, konten politik, misinformasi, atau keselamatan ilmiah menjadi nilai tambah
- Tidak boleh memerlukan sponsor visa H-1B atau STEM OPT; Mercor tidak dapat mendukung kandidat yang memerlukan salah satu bentuk sponsor tersebut
Tunjangan
- Bekerja sepenuhnya jarak jauh dengan jadwal fleksibel
- Pembayaran mingguan melalui Stripe atau Wise atas layanan yang diberikan
- Durasi proyek dapat berubah atau proyek dapat berakhir lebih awal sesuai kebutuhan proyek dan kinerja
- Bekerja bersama peneliti AI dan tim keselamatan terkemuka
- Bantu membentuk cara sistem AI menangani tantangan keselamatan dunia nyata yang kompleks
- Akomodasi yang wajar tersedia jika diminta
- Pembayaran rujukan hingga $340 untuk setiap rujukan yang berhasil, dengan batasan tertentu