ActiveFence
ActiveFence
ActiveFence adalah perusahaan keamanan siber dan kecerdasan buatan yang berfokus pada kepercayaan dan keselamatan untuk platform daring. Penawaran lengkapnya menggabungkan riset intelijen, deteksi konten berbahaya berbasis AI, serta alat moderasi konten untuk membantu platform menangani risiko seperti eksploitasi anak, disinformasi, ujaran kebencian, terorisme, ketelanjangan, penipuan, dan berbagai bentuk bahaya daring lainnya. ActiveFence mendukung tim kepercayaan dan keselamatan dengan berbagai ukuran, serta membantu melindungi lebih dari tiga miliar pengguna di seluruh dunia dalam lebih dari 100 bahasa.

Peneliti AI Senior – Hibrida di Israel

Memimpin evaluasi pembelajaran penguatan, red teaming, dan audit keamanan untuk model AI dengan bobot terbuka. Membangun pipeline pembandingan dan pascapelatihan untuk pekerjaan kepercayaan, keselamatan, dan keamanan AI ActiveFence.

Deskripsi

  • Memimpin evaluasi pascapelatihan, latihan red teaming, dan audit gym pembelajaran penguatan untuk model dengan bobot terbuka
  • Merancang metodologi pembandingan yang ketat
  • Menilai model bahasa besar terhadap ancaman canggih, termasuk serangan Indirect Prompt Injection
  • Membangun pipeline evaluasi pascapelatihan yang mengukur kemampuan keamanan realistis tingkat frontier
  • Menjalankan eksperimen pascapelatihan seperti GRPO dengan model generalis berbobot terbuka dalam lingkungan pembelajaran penguatan yang berfokus pada keamanan
  • Memeriksa kurva loss langsung dan jejak rollout untuk mendeteksi reward hacking, konvergensi kebijakan yang malas, dan verifier yang tidak dirumuskan dengan baik
  • Menilai tugas dan lingkungan multiturn yang melibatkan penggunaan alat, navigasi web, dan penggunaan komputer dari segi realisme, keakuratan model ancaman, distribusi data, dan keseimbangan dataset
  • Menyusun kartu evaluasi yang mencakup peningkatan performa checkpoint, mode kegagalan, token dan giliran rollout, serta tingkat keberhasilan di tingkat tugas
  • Mengintegrasikan lingkungan berbasis Docker, termasuk lingkungan berformat Harbor, ke dalam framework pelatihan internal
  • Meningkatkan semantik reset dan statefulness, konkurensi, serta batas throughput

Persyaratan

  • Gelar M.S. atau Ph.D. dalam Ilmu Data, Pembelajaran Mesin, Ilmu Komputer, atau pengalaman praktis yang setara dalam deep learning
  • Pengalaman langsung melatih model berskala besar dengan algoritma pembelajaran penguatan seperti GRPO atau PPO pada arsitektur berbobot terbuka
  • Pengetahuan kuat tentang kerentanan LLM, praktik red teaming, dan alignment defensif terhadap serangan Indirect Prompt Injection
  • Menguasai PyTorch, containerisasi Docker, dan arsitektur pelatihan terdistribusi
  • Mampu menafsirkan jejak rollout agen, membuat rubrik dan verifier deterministik, serta men-debug masalah pembentukan reward yang kompleks
  • Pengalaman dengan format gym pembelajaran penguatan standar seperti Harbor diutamakan
  • Pengalaman menilai alur kerja agenik kompleks dalam lingkungan penggunaan alat atau peramban web diutamakan
  • Familiar dengan evaluasi model berbobot terbuka seperti Llama atau Mistral terhadap beban kerja adversarial diutamakan

Lowongan Terkait

Vytalize Health

Principal Software Engineer, Dukungan Keputusan Klinis (Jarak Jauh, AS)

Vytalize Health

Memimpin pengembangan dukungan keputusan klinis dan platform API layanan kesehatan Vytalize Health. Bertanggung jawab atas CDS Hooks, integrasi EHR, API yang aman, dan pengiriman data klinis waktu nyata yang andal.

Buka
Volante Technologies

Direktur Madya Arsitektur Perangkat Lunak

Volante Technologies
501 – 1.000 Karyawan
Sponsor Visa H1BFintechSaaS

Pimpin arsitektur sistem berbasis Java, messaging, Kubernetes, dan AI di Volante Technologies. Perusahaan ini menyediakan Payments as a Service berbasis cloud dan low-code untuk bisnis keuangan.

Buka
Covera Health

Wakil Presiden Senior bidang Teknik

Covera Health

Memimpin bidang teknik untuk platform layanan kesehatan berbasis AI Covera Health dan organisasi teknologi beranggotakan 30 orang. Menentukan arah teknis dalam arsitektur, keandalan, pengiriman, dan strategi lintas fungsi.

Buka
Eli Technologies

Insinyur Staf, Jarak Jauh (New York)

Eli Technologies

Pimpin perancangan ledger, sistem pengambilan keputusan AI, dan platform Eli Technologies. Bangun perangkat lunak yang dapat diaudit untuk membantu program energi mengelola proyek dan membayar kontraktor.

Buka
Supermicro

Product Engineer, Sistem Rak — Supermicro, San Jose

Supermicro
5.001 – 10.000 Karyawan
KonsultasiLogistikManufaktur

Mengonfigurasi dan mendokumentasikan sistem rak untuk solusi pusat data, cloud, dan TI perusahaan Supermicro. Mendukung penjualan teknis, pemeriksaan kompatibilitas, penyelesaian masalah pengiriman, dan proyek pelanggan lintas tim.

Buka