51 – 200 Pekerja
Profil Mercor yang tersedia tidak mengandungi maklumat yang disahkan secukupnya tentang produk, perkhidmatan, pelanggan, sektor atau fokus pengambilannya untuk menyokong gambaran syarikat yang tepat. Bahan sumber tambahan diperlukan sebelum perniagaan atau peluang yang ditawarkannya dapat diterangkan.
Penguji Keselamatan AI Red Team - Kontrak Jarak Jauh (Amerika Syarikat)
Mercor sedang mencari Penguji Keselamatan AI Red Team untuk mengenal pasti kelemahan dalam model AI termaju melalui ujian adversarial. Peranan ini melibatkan mereka bentuk gesaan dan menilai tingkah laku model berisiko tinggi bersama penyelidik keselamatan AI.
Penerangan
- Mencipta gesaan adversarial untuk mencabar model AI termaju
- Mengesan jailbreak, tingkah laku tidak selamat, halusinasi, dan pelanggaran dasar
- Menilai keteguhan model merentas maklumat palsu, keselamatan siber, biosekuriti, penipuan, kandungan politik, dan bidang sensitif lain
- Merekodkan kelemahan serta menyokong penanda aras keselamatan dan laporan red teaming
- Bekerjasama dengan penyelidik AI untuk memperkukuh penjajaran, keteguhan, dan keselamatan model
- Menyumbang kepada projek yang melatih dan menambah baik sistem AI
Keperluan
- Ijazah sarjana muda atau lebih tinggi dalam sains komputer, keselamatan siber, kewartawanan, komunikasi, psikologi, biologi, kimia, dasar awam, atau bidang berkaitan
- Sekurang-kurangnya lima tahun pengalaman profesional dalam keselamatan AI, red teaming AI, trust and safety, keselamatan siber, kewartawanan penyiasatan, sains hayat, atau bidang berkaitan
- Keupayaan penaakulan analitik, mereka bentuk gesaan, dan komunikasi bertulis yang kukuh
- Latar belakang dalam mencipta gesaan adversarial atau menilai sistem AI termaju
- Pengalaman dalam red teaming AI, RLHF, SFT, penjajaran AI, atau trust and safety adalah diutamakan
- Kefahaman tentang ujian jailbreak, kejuruteraan gesaan, atau kaedah penilaian adversarial adalah diutamakan
- Kepakaran dalam satu atau lebih bidang kelabu seperti keselamatan siber, biosekuriti, kandungan politik, maklumat palsu, atau keselamatan saintifik adalah diutamakan
- Mampu bekerja sebagai kontraktor bebas
- Calon H-1B dan STEM OPT tidak disokong
Faedah
- Kerja sepenuhnya jarak jauh
- Jadual kerja fleksibel
- Bayaran mingguan melalui Stripe atau Wise
- Projek boleh dilanjutkan, dipendekkan, atau ditamatkan lebih awal berdasarkan keperluan perniagaan dan prestasi
- Kerja ujian adversarial bersama penyelidik AI dan pasukan keselamatan terkemuka
- Peluang membentuk cara sistem AI mengendalikan cabaran keselamatan dunia sebenar yang kompleks
- Akomodasi munasabah tersedia atas permintaan
- Bayaran rujukan sehingga $340 bagi setiap rujukan berjaya, tertakluk pada had rujukan