51 – 200 Karyawan
Profil Mercor yang tersedia tidak memuat informasi terverifikasi yang memadai tentang produk, layanan, pelanggan, sektor, atau fokus perekrutannya untuk mendukung gambaran perusahaan yang akurat. Diperlukan materi sumber tambahan sebelum bisnis atau peluang yang ditawarkannya dapat dijelaskan.
Penilai Keamanan AI Red Team - Kontrak Jarak Jauh (Amerika Serikat)
Mercor mencari Penilai Keamanan AI Red Team untuk menemukan kerentanan dalam model AI terdepan melalui pengujian adversarial. Peran ini mencakup perancangan prompt dan penilaian perilaku model berisiko tinggi bersama peneliti keamanan AI.
Deskripsi
- Membuat prompt adversarial untuk menantang model AI terdepan
- Mendeteksi jailbreak, perilaku tidak aman, halusinasi, dan pelanggaran kebijakan
- Menilai ketahanan model terhadap misinformasi, keamanan siber, biosekuriti, penipuan, konten politik, dan area sensitif lainnya
- Mencatat kerentanan serta mendukung tolok ukur keamanan dan laporan red teaming
- Berkolaborasi dengan peneliti AI untuk memperkuat keselarasan, ketahanan, dan keamanan model
- Berkontribusi pada proyek yang melatih dan meningkatkan sistem AI
Persyaratan
- Gelar sarjana atau lebih tinggi dalam ilmu komputer, keamanan siber, jurnalisme, komunikasi, psikologi, biologi, kimia, kebijakan publik, atau bidang terkait
- Setidaknya lima tahun pengalaman profesional dalam keamanan AI, red teaming AI, trust and safety, keamanan siber, jurnalisme investigatif, ilmu hayati, atau bidang terkait
- Kemampuan penalaran analitis, perancangan prompt, dan komunikasi tertulis yang kuat
- Latar belakang dalam membuat prompt adversarial atau menilai sistem AI terdepan
- Pengalaman dalam red teaming AI, RLHF, SFT, penyelarasan AI, atau trust and safety lebih disukai
- Familiaritas dengan pengujian jailbreak, rekayasa prompt, atau metode evaluasi adversarial lebih disukai
- Keahlian dalam satu atau lebih bidang abu-abu seperti keamanan siber, biosekuriti, konten politik, misinformasi, atau keamanan ilmiah lebih disukai
- Mampu bekerja sebagai kontraktor independen
- Kandidat H-1B dan STEM OPT tidak didukung
Tunjangan
- Pekerjaan sepenuhnya jarak jauh
- Jadwal kerja fleksibel
- Pembayaran mingguan melalui Stripe atau Wise
- Proyek dapat diperpanjang, dipersingkat, atau diakhiri lebih awal berdasarkan kebutuhan bisnis dan kinerja
- Pekerjaan pengujian adversarial bersama peneliti AI dan tim keamanan terkemuka
- Kesempatan membantu membentuk cara sistem AI menangani tantangan keamanan dunia nyata yang kompleks
- Akomodasi yang wajar tersedia berdasarkan permintaan
- Pembayaran rujukan hingga $340 untuk setiap rujukan yang berhasil, dengan tunduk pada batas rujukan