Ang ActiveFence ay isang kompanya ng cybersecurity at artificial intelligence na nakatuon sa tiwala at kaligtasan para sa mga online platform. Pinagsasama ng full-stack na alok nito ang pananaliksik sa intelligence, AI-powered na pagtukoy ng mapaminsalang content, at mga tool sa content moderation upang matulungan ang mga platform na tugunan ang mga panganib tulad ng pagsasamantala sa mga bata, disinformation, hate speech, terorismo, kahubaran, panloloko, at iba pang anyo ng online harm. Sinusuportahan ng ActiveFence ang mga trust and safety team na may iba’t ibang laki at tumutulong protektahan ang mahigit tatlong bilyong user sa buong mundo sa mahigit 100 wika.
Senior na Mananaliksik sa AI – Hybrid sa Israel
Pangungunahan ang pagsusuri ng reinforcement learning, red teaming, at security audit para sa mga AI model na open-weight. Bubuo ng benchmarking at post-training pipeline para sa gawain ng ActiveFence sa tiwala, kaligtasan, at seguridad ng AI.
Paglalarawan
- Pangungunahan ang mga post-training evaluation, red-team exercise, at audit ng reinforcement learning gym para sa mga open-weight model
- Magdisenyo ng mahigpit na metodolohiya sa benchmarking
- Suriin ang malalaking language model laban sa mga sopistikadong banta, kabilang ang mga pag-atake na Indirect Prompt Injection
- Bumuo ng mga post-training evaluation pipeline na sumusukat sa makatotohanang kakayahan sa seguridad na antas-frontier
- Magpatakbo ng mga post-training experiment gaya ng GRPO gamit ang mga open-weight generalist model sa mga reinforcement learning environment na nakatuon sa seguridad
- Suriin ang live loss curve at rollout trace upang matukoy ang reward hacking, mabagal na policy convergence, at mga verifier na hindi maayos ang pagkakatukoy
- Suriin ang mga task at multi-turn environment na gumagamit ng tool, web navigation, at computer use ayon sa pagiging makatotohanan, katumpakan ng threat model, distribusyon ng data, at balanse ng dataset
- Gumawa ng evaluation card na sumasaklaw sa pagtaas ng performance ng checkpoint, failure mode, rollout token at turn, at success rate sa antas ng task
- Isama ang mga Dockerized environment, kabilang ang mga environment na nasa Harbor format, sa mga internal training framework
- Pagbutihin ang reset at statefulness semantics, concurrency, at throughput limit
Mga Kinakailangan
- M.S. o Ph.D. sa Data Science, Machine Learning, Computer Science, o katumbas na praktikal na karanasan sa deep learning
- Hands-on na karanasan sa pagsasanay ng malalaking modelo gamit ang reinforcement learning algorithm gaya ng GRPO o PPO sa mga open-weight architecture
- Malalim na kaalaman sa mga kahinaan ng LLM, mga kasanayan sa red teaming, at defensive alignment laban sa mga pag-atake na Indirect Prompt Injection
- Kasanayan sa PyTorch, Docker containerization, at distributed training architecture
- Kakayahang mag-interpret ng agent rollout trace, gumawa ng deterministic rubric at verifier, at mag-debug ng kumplikadong reward-shaping issue
- Mas mainam ang karanasan sa mga pamantayang reinforcement learning gym format gaya ng Harbor
- Mas mainam ang karanasan sa pagsusuri ng kumplikadong agentic workflow sa mga environment na gumagamit ng tool o web browser
- Mas mainam ang pamilyaridad sa pagsusuri ng mga open-weight model gaya ng Llama o Mistral laban sa adversarial workload