ActiveFence
ActiveFence
ActiveFence adalah perusahaan keamanan siber dan kecerdasan buatan yang berfokus pada kepercayaan dan keselamatan untuk platform daring. Penawaran lengkapnya menggabungkan riset intelijen, deteksi konten berbahaya berbasis AI, serta alat moderasi konten untuk membantu platform menangani risiko seperti eksploitasi anak, disinformasi, ujaran kebencian, terorisme, ketelanjangan, penipuan, dan berbagai bentuk bahaya daring lainnya. ActiveFence mendukung tim kepercayaan dan keselamatan dengan berbagai ukuran, serta membantu melindungi lebih dari tiga miliar pengguna di seluruh dunia dalam lebih dari 100 bahasa.

Tim Merah AI – Evaluasi Adversarial GenAI di ActiveFence

Kembangkan serangan adversarial, kumpulan data, dan tolok ukur untuk platform keamanan AI ActiveFence. Uji ketahanan LLM melalui red teaming dan riset kerentanan.

Deskripsi

  • Rancang serangan adversarial baru.
  • Bantu membangun sistem terukur untuk menghasilkan dan menguji serangan dalam skala besar.
  • Nilai kualitas, efektivitas, kebaruan, dan reproduktibilitas serangan.
  • Temukan pola serangan yang muncul dan kerentanan model.
  • Buat kumpulan data adversarial, tolok ukur, dan pengujian regresi.
  • Bagikan temuan, metode, dan data serangan terstruktur kepada tim Data Science, Keamanan, dan Rekayasa.
  • Berkontribusi pada peningkatan ketahanan model dan pertahanan yang lebih kuat.

Persyaratan

  • Pengalaman profesional minimal tiga tahun di bidang keamanan siber, riset keamanan, red teaming, atau bidang keamanan terkait.
  • Gelar sarjana di bidang Data Science, Teknik Komputer, Ilmu Komputer, atau bidang teknis terkait erat.
  • Pengetahuan yang kuat tentang model bahasa besar, injeksi prompt, dan keamanan AI.
  • Pengalaman dalam red teaming, riset keamanan, atau pengujian adversarial.
  • Kemampuan Python dan otomasi yang kuat.
  • Kemampuan memecahkan masalah secara kreatif dan mengembangkan teknik serangan baru.
  • Mampu menganalisis hasil dan menyampaikan temuan dengan jelas.
  • Sertifikasi keamanan siber ofensif seperti OSWA, OSWE, OSCE3, SEC542, atau SEC522 lebih disukai.

Lowongan Terkait

Kreato Global | BPO and Language Solutions

Interpreter Bahasa Inggris-Spanyol Jarak Jauh OPI/VRI

Kreato Global | BPO and Language Solutions

Menafsirkan percakapan jarak jauh antara penutur bahasa Inggris dan Spanyol dalam layanan medis, keuangan, sosial, dan pelanggan. Menyediakan dukungan bahasa untuk Kreato Global di seluruh Amerika Latin.

Buka