LogoFresh Jobs Ahead
Mercor
Mercor
51 – 200 Karyawan
Profil Mercor yang tersedia tidak memuat informasi terverifikasi yang memadai tentang produk, layanan, pelanggan, sektor, atau fokus perekrutannya untuk mendukung gambaran perusahaan yang akurat. Diperlukan materi sumber tambahan sebelum bisnis atau peluang yang ditawarkannya dapat dijelaskan.
LinkedIn
Lowongan Perusahaan

Penguji Red Team Keselamatan AI

Mercor mencari Penguji Red Team Keselamatan AI untuk menguji model mutakhir terhadap upaya jailbreak, halusinasi, dan kegagalan kebijakan. Perusahaan bekerja sama dengan laboratorium AI untuk melatih dan meningkatkan sistem AI.

USAmerika Serikat
$70 – $84 / jam
Jarak jauhKontrakMenengahSeniorBahasa Wajib: InggrisKecerdasan buatan
Keamanan Siber

Deskripsi

  • Buat prompt adversarial untuk menguji model AI mutakhir.
  • Temukan jailbreak, perilaku tidak aman, halusinasi, dan kegagalan kebijakan.
  • Nilai ketahanan model dalam menghadapi misinformasi, keamanan siber, keamanan hayati, penipuan, konten politik, dan area sensitif lainnya.
  • Catat kerentanan dan bantu menyusun tolok ukur keselamatan serta laporan red teaming.
  • Bekerja sama dengan peneliti AI untuk memperkuat penyelarasan, ketahanan, dan keselamatan model.
  • Selesaikan proyek sebagai kontraktor independen sesuai kebutuhan proyek dan kinerja.

Persyaratan

  • Gelar sarjana atau lebih tinggi di bidang ilmu komputer, keamanan siber, jurnalisme, komunikasi, psikologi, biologi, kimia, kebijakan publik, atau bidang terkait.
  • Setidaknya lima tahun pengalaman profesional di bidang keselamatan AI, red teaming AI, kepercayaan dan keselamatan, keamanan siber, jurnalisme investigatif, ilmu hayati, atau bidang terkait.
  • Kemampuan penalaran analitis, perancangan prompt, dan penulisan yang kuat.
  • Pengalaman membuat prompt adversarial atau mengevaluasi sistem AI mutakhir.
  • Diutamakan: pengalaman dalam red teaming AI, RLHF, SFT, penyelarasan AI, atau kepercayaan dan keselamatan.
  • Diutamakan: pemahaman tentang pengujian jailbreak, rekayasa prompt, atau metode evaluasi adversarial.
  • Diutamakan: keahlian dalam satu atau lebih area sensitif, termasuk keamanan siber, keamanan hayati, konten politik, misinformasi, atau keselamatan ilmiah.
  • Harus dapat bekerja sebagai kontraktor independen.
  • Kandidat H-1B dan STEM OPT tidak didukung.

Tunjangan

  • Posisi sepenuhnya jarak jauh.
  • Atur jadwal kerja sendiri.
  • Pembayaran mingguan melalui Stripe atau Wise untuk layanan yang telah diberikan.
  • Bekerja bersama peneliti AI dan tim keselamatan terkemuka.
  • Berkontribusi pada keselamatan dan penyelarasan AI mutakhir.
  • Pembayaran rujukan hingga $340 untuk setiap rujukan yang berhasil, dengan batasan tertentu.
  • Akomodasi yang wajar tersedia atas permintaan.

Lowongan Terkait