ActiveFence
ActiveFence
ActiveFence ialah syarikat keselamatan siber dan kecerdasan buatan yang memfokuskan pada kepercayaan dan keselamatan untuk platform dalam talian. Penawaran menyeluruhnya menggabungkan penyelidikan risikan, pengesanan kandungan berbahaya berkuasakan AI, serta alat penyederhanaan kandungan untuk membantu platform menangani risiko seperti eksploitasi kanak-kanak, maklumat palsu, ucapan kebencian, keganasan, ketelanjangan, penipuan dan bentuk kemudaratan dalam talian yang lain. ActiveFence menyokong pasukan kepercayaan dan keselamatan daripada pelbagai saiz, serta membantu melindungi lebih tiga bilion pengguna di seluruh dunia dalam lebih 100 bahasa.

Penyelidik AI Kanan – Hibrid di Israel

Menerajui penilaian pembelajaran pengukuhan, red teaming dan audit keselamatan untuk model AI sumber terbuka. Membina saluran paip penanda aras dan pascapelatihan untuk usaha kepercayaan, keselamatan dan sekuriti AI ActiveFence.

Penerangan

  • Menerajui penilaian pascapelatihan, latihan red teaming dan audit gim pembelajaran pengukuhan untuk model sumber terbuka
  • Mereka bentuk metodologi penanda aras yang rapi
  • Menilai model bahasa besar terhadap ancaman canggih, termasuk serangan Indirect Prompt Injection
  • Membina saluran paip penilaian pascapelatihan yang mengukur keupayaan sekuriti realistik bertaraf frontier
  • Menjalankan eksperimen pascapelatihan seperti GRPO dengan model generalis sumber terbuka dalam persekitaran pembelajaran pengukuhan yang berfokuskan sekuriti
  • Meneliti lengkung loss langsung dan jejak rollout untuk mengesan reward hacking, penumpuan dasar yang malas dan verifier yang kurang ditentukan
  • Menilai tugasan dan persekitaran berbilang giliran yang melibatkan penggunaan alat, pelayaran web dan penggunaan komputer dari segi realisme, ketepatan model ancaman, taburan data dan keseimbangan dataset
  • Menghasilkan kad penilaian yang merangkumi peningkatan prestasi checkpoint, mod kegagalan, token dan giliran rollout serta kadar kejayaan peringkat tugasan
  • Mengintegrasikan persekitaran berasaskan Docker, termasuk persekitaran berformat Harbor, ke dalam rangka kerja latihan dalaman
  • Menambah baik semantik reset dan statefulness, keserentakan serta had throughput

Keperluan

  • Ijazah M.S. atau Ph.D. dalam Sains Data, Pembelajaran Mesin, Sains Komputer atau pengalaman praktikal pembelajaran mendalam yang setara
  • Pengalaman langsung melatih model berskala besar dengan algoritma pembelajaran pengukuhan seperti GRPO atau PPO pada seni bina sumber terbuka
  • Pengetahuan kukuh tentang kerentanan LLM, amalan red teaming dan penjajaran defensif terhadap serangan Indirect Prompt Injection
  • Mahir menggunakan PyTorch, pengkontenaan Docker dan seni bina latihan teragih
  • Keupayaan mentafsir jejak rollout ejen, mencipta rubrik dan verifier deterministik serta menyahpepijat isu pembentukan ganjaran yang kompleks
  • Pengalaman dengan format gim pembelajaran pengukuhan standard seperti Harbor adalah kelebihan
  • Pengalaman menilai aliran kerja ejenik kompleks dalam persekitaran penggunaan alat atau pelayar web adalah kelebihan
  • Pendedahan kepada penilaian model sumber terbuka seperti Llama atau Mistral terhadap beban kerja adversarial adalah kelebihan

Pekerjaan Berkaitan

Health Care Service Corporation

Penganalisis Sistem Kanan di Health Care Service Corporation (Jarak Jauh, AS)

Health Care Service Corporation

Bimbing pasukan analitik penjagaan kesihatan dalam membentuk strategi data dan menyampaikan aset data. Selaraskan eskalasi pihak berkepentingan dan sokong aplikasi pangkalan data, termasuk operasi fail VSAM.

Buka
University of Arkansas System

Pembantu Eksekutif Pendidikan Kesihatan Bersekutu

University of Arkansas System

Menyokong kemasukan pelajar dan pendidikan kesihatan bersekutu di University of Arkansas for Medical Sciences dengan menyelaras jadual, perolehan, pentadbiran fakulti dan perkhidmatan pelajar. Membantu mengurus operasi jabatan merentas program latihan penjagaan kesihatan di Arkansas.

Buka