ActiveFence
ActiveFence
ActiveFence adalah perusahaan keamanan siber dan kecerdasan buatan yang berfokus pada kepercayaan dan keselamatan untuk platform daring. Penawaran lengkapnya menggabungkan riset intelijen, deteksi konten berbahaya berbasis AI, serta alat moderasi konten untuk membantu platform menangani risiko seperti eksploitasi anak, disinformasi, ujaran kebencian, terorisme, ketelanjangan, penipuan, dan berbagai bentuk bahaya daring lainnya. ActiveFence mendukung tim kepercayaan dan keselamatan dengan berbagai ukuran, serta membantu melindungi lebih dari tiga miliar pengguna di seluruh dunia dalam lebih dari 100 bahasa.

Ilmuwan Data GenAI Senior di ActiveFence (Hibrida, Israel)

Peran Ilmuwan Data GenAI Senior yang berfokus pada red teaming otomatis, pembelajaran mesin, dan analisis data berskala besar. Bangun sistem untuk membantu mengidentifikasi ancaman keamanan yang muncul di berbagai pengalaman daring dan produk AI.

Deskripsi

  • Kembangkan agen ilmu data yang dapat diskalakan, mampu bernalar dan menjalankan alur kerja bertahap untuk menghasilkan serta menganalisis serangan adversarial.
  • Kelola dan interpretasikan data prompt serta respons dari kampanye red team, evaluasi model, dan serangan sintetis, termasuk pembersihan, kurasi, normalisasi, dan pelabelan.
  • Periksa data terstruktur dan tidak terstruktur untuk mengidentifikasi tren, klaster, anomali, keluarga serangan, teknik jailbreak, dan pola baru.
  • Buat model pembelajaran mesin dan algoritme prediktif yang mengotomatiskan proses red team.
  • Kembangkan pipeline evaluasi dan pemantauan untuk mengukur keberhasilan serangan serta membandingkan perilaku model di berbagai penyedia.
  • Terapkan metode statistik dan eksperimen untuk memverifikasi temuan serta mendukung hasil yang akurat dan dapat direproduksi.
  • Bawa hasil riset ke produksi melalui sistem yang andal dan dapat diskalakan, dirancang agar efisien dari sisi biaya dan latensi, serta didukung pengujian, CI/CD, dan telemetri.

Persyaratan

  • Setidaknya lima tahun pengalaman langsung dalam ilmu data atau pembelajaran mesin menggunakan Python atau R dan SQL.
  • Setidaknya tiga tahun pengalaman dengan Scikit-Learn dan PyTorch.
  • Pengalaman praktis dalam red teaming GenAI, pengujian adversarial, atau keamanan LLM.
  • Pengalaman membangun dan menerapkan sistem berbasis LLM atau pembelajaran mesin di lingkungan produksi.
  • Pengetahuan kuat tentang pola desain LLM, termasuk rekayasa prompt, pemanggilan alat, output terstruktur, dan RAG.
  • Pemahaman kuat tentang pengelompokan, embedding dan NLP, kemiripan semantik, serta deteksi anomali atau kebaruan.
  • Pengalaman mengembangkan sistem klasifikasi, pemeringkatan, atau prioritas.
  • Dasar yang kuat dalam statistik, desain eksperimen, dan evaluasi model.
  • Pengalaman dengan Cradle, Apache Hadoop, Spark, serta pengembangan ETL dan pipeline data berskala besar.
  • Gelar M.Sc. dalam ilmu komputer, teknik elektro, matematika, statistik, atau bidang terkait.
  • Gelar Ph.D. menjadi nilai tambah, tetapi tidak diwajibkan.

Lowongan Terkait

Johnson & Johnson

Manajer Akun Utama Imunologi untuk Karier Awal, Swedia

Johnson & Johnson

Bangun hubungan dengan pelanggan layanan kesehatan dan dukung strategi penjualan Imunologi Johnson & Johnson. Peran lapangan ini mencakup wilayah Swedia serta pelatihan terstruktur dan tanggung jawab dalam menjalin interaksi dengan pelanggan.

Buka