51 – 200 Karyawan
Profil Mercor yang tersedia tidak memuat informasi terverifikasi yang memadai tentang produk, layanan, pelanggan, sektor, atau fokus perekrutannya untuk mendukung gambaran perusahaan yang akurat. Diperlukan materi sumber tambahan sebelum bisnis atau peluang yang ditawarkannya dapat dijelaskan.
Pengetes Keamanan AI Red Team - Kontrak Jarak Jauh di Amerika Serikat
Mercor mencari Pengetes Keamanan AI Red Team berbasis kontrak untuk menantang model AI terdepan dan menemukan kerentanannya. Peran ini berfokus pada domain berisiko tinggi serta mendukung pengembangan sistem AI yang lebih aman dan andal.
Deskripsi
- Buat prompt adversarial yang secara ketat menantang model AI terdepan
- Deteksi jailbreak, perilaku tidak aman, halusinasi, dan kegagalan dalam mengikuti kebijakan keselamatan
- Nilai ketahanan model terhadap misinformasi, keamanan siber, biosekuriti, penipuan, konten politik, dan area sensitif lainnya
- Catat kelemahan yang ditemukan serta dukung tolok ukur keselamatan dan laporan red teaming
- Bekerja sama dengan peneliti AI untuk meningkatkan keselarasan, ketangguhan, dan keamanan model
- Bantu melindungi dan meningkatkan sistem AI terdepan yang sedang berkembang
- Bentuk cara model AI menangani skenario keselamatan yang sulit dalam konteks dunia nyata
Persyaratan
- Gelar sarjana atau lebih tinggi dalam ilmu komputer, keamanan siber, jurnalisme, komunikasi, psikologi, biologi, kimia, kebijakan publik, atau bidang terkait
- Setidaknya lima tahun pengalaman profesional dalam keamanan AI, red teaming AI, trust and safety, keamanan siber, jurnalisme investigatif, ilmu hayati, atau bidang terkait
- Penilaian analitis yang kuat, kemampuan mengembangkan prompt, dan keterampilan komunikasi tertulis
- Pengalaman langsung membuat prompt adversarial atau menilai sistem AI terdepan
- Diutamakan: latar belakang dalam red teaming AI, RLHF, SFT, penyelarasan AI, atau trust and safety
- Diutamakan: pemahaman tentang penilaian jailbreak, rekayasa prompt, atau metode evaluasi adversarial
- Diutamakan: keahlian dalam area bernuansa seperti keamanan siber, biosekuriti, konten politik, misinformasi, atau keselamatan ilmiah
- Tersedia untuk bekerja sebagai kontraktor independen
- Kandidat H-1B dan STEM OPT tidak didukung
Tunjangan
- Bekerja sepenuhnya dari jarak jauh
- Atur sendiri jam kerja dan selesaikan tugas dengan jadwal yang fleksibel
- Menerima pembayaran mingguan melalui Stripe atau Wise
- Durasi proyek dapat berubah atau berakhir lebih awal berdasarkan kebutuhan bisnis dan kinerja
- Kompensasi kompetitif
- Bekerja bersama peneliti AI dan tim keselamatan terkemuka
- Akomodasi yang wajar tersedia berdasarkan permintaan
- Program rujukan menawarkan hingga $340 untuk setiap rujukan yang berhasil, dengan tunduk pada batas rujukan