51 – 200 Karyawan
Profil Mercor yang tersedia tidak memuat informasi terverifikasi yang memadai tentang produk, layanan, pelanggan, sektor, atau fokus perekrutannya untuk mendukung gambaran perusahaan yang akurat. Diperlukan materi sumber tambahan sebelum bisnis atau peluang yang ditawarkannya dapat dijelaskan.
Penguji Red Team Keselamatan AI - Jarak Jauh Amerika Serikat
Mercor mencari Penguji Red Team Keselamatan AI jarak jauh untuk menantang model AI mutakhir dan menemukan kerentanan di berbagai domain berisiko tinggi. Peran kontrak ini mendukung laboratorium AI dalam mengembangkan dan menyempurnakan sistem canggih.
Deskripsi
- Membuat prompt adversarial untuk menguji model AI mutakhir
- Mendeteksi jailbreak, perilaku tidak aman, halusinasi, dan pelanggaran kebijakan
- Menilai ketahanan model terhadap misinformasi, ancaman siber, risiko biosekuriti, penipuan, konten politik, dan topik sensitif lainnya
- Mencatat kerentanan yang ditemukan serta membantu membuat tolok ukur keselamatan dan laporan red team
- Bermitra dengan peneliti AI untuk memperkuat alignment, ketahanan, dan keselamatan model
- Berkontribusi pada proyek yang melatih dan meningkatkan sistem AI
Persyaratan
- Gelar sarjana atau lebih tinggi dalam ilmu komputer, keamanan siber, jurnalisme, komunikasi, psikologi, biologi, kimia, kebijakan publik, atau bidang terkait
- Sedikitnya lima tahun pengalaman profesional dalam keselamatan AI, red teaming AI, trust and safety, keamanan siber, jurnalisme investigatif, ilmu hayati, atau bidang terkait
- Penilaian analitis yang kuat, kemampuan merancang prompt, dan keterampilan komunikasi tertulis
- Pengalaman membuat prompt adversarial atau menilai sistem AI mutakhir
- Pengalaman dalam red teaming AI, RLHF, SFT, alignment AI, atau trust and safety lebih disukai
- Familiar dengan pengujian jailbreak, rekayasa prompt, atau metode evaluasi adversarial lebih disukai
- Keahlian dalam setidaknya satu domain abu-abu, seperti keamanan siber, biosekuriti, konten politik, misinformasi, atau keselamatan ilmiah lebih disukai
- Mampu bekerja sebagai kontraktor independen
- Kandidat H-1B dan STEM OPT tidak didukung
Tunjangan
- Bekerja sepenuhnya jarak jauh
- Jadwal fleksibel yang dapat diatur sendiri
- Pembayaran mingguan melalui Stripe atau Wise
- Proyek dapat diperpanjang, dipersingkat, atau diakhiri lebih awal berdasarkan kebutuhan bisnis dan kinerja
- Kompensasi kompetitif
- Berkolaborasi dengan peneliti AI dan tim keselamatan terkemuka
- Akomodasi yang wajar tersedia berdasarkan permintaan
- Pembayaran rujukan hingga $340 untuk setiap rujukan yang berhasil, sesuai batas yang berlaku