ActiveFence ni kampuni ya usalama wa mtandao na akili bandia inayolenga uaminifu na usalama kwa majukwaa ya mtandaoni. Huduma zake za kina huunganisha utafiti wa kijasusi, utambuzi wa maudhui hatari unaotumia AI, na zana za udhibiti wa maudhui ili kusaidia majukwaa kushughulikia hatari kama vile unyonyaji wa watoto, taarifa potofu, matamshi ya chuki, ugaidi, uchi, ulaghai na aina nyingine za madhara mtandaoni. ActiveFence huunga mkono timu za uaminifu na usalama za ukubwa mbalimbali, na kusaidia kulinda zaidi ya watumiaji bilioni tatu duniani kote katika zaidi ya lugha 100.
Mtafiti Mwandamizi wa AI – Mseto nchini Israel
Ongoza tathmini za reinforcement learning, red teaming, na ukaguzi wa usalama kwa miundo ya AI yenye uzani wazi. Jenga mabomba ya benchmarking na mafunzo baada ya awamu ya mafunzo kwa kazi ya ActiveFence ya kuimarisha uaminifu, usalama na ulinzi wa AI.
Maelezo
- Ongoza tathmini baada ya mafunzo, mazoezi ya red teaming na ukaguzi wa reinforcement learning gym kwa miundo yenye uzani wazi
- Buni mbinu thabiti za benchmarking
- Tathmini miundo mikubwa ya lugha dhidi ya vitisho vya hali ya juu, ikiwemo mashambulizi ya Indirect Prompt Injection
- Jenga mabomba ya tathmini baada ya mafunzo yanayopima uwezo halisi wa usalama wa kiwango cha frontier
- Endesha majaribio baada ya mafunzo kama GRPO kwa kutumia miundo ya jumla yenye uzani wazi katika mazingira ya reinforcement learning yanayolenga usalama
- Chunguza mikondo ya loss ya moja kwa moja na athari za rollout ili kubaini reward hacking, muunganiko mlegevu wa sera na verifiers zilizobainishwa vibaya
- Tathmini kazi na mazingira ya zamu nyingi yanayohusisha matumizi ya zana, uvinjari wa wavuti na matumizi ya kompyuta kwa kuzingatia uhalisia, usahihi wa muundo wa tishio, usambazaji wa data na uwiano wa dataset
- Tengeneza kadi za tathmini zinazojumuisha ongezeko la utendaji wa checkpoint, hali za kushindwa, tokeni na zamu za rollout na viwango vya mafanikio vya kiwango cha kazi
- Jumuisha mazingira yaliyo kwenye Docker, yakiwemo mazingira ya muundo wa Harbor, katika mifumo ya ndani ya mafunzo
- Boresha semantiki za reset na statefulness, concurrency na mipaka ya throughput
Mahitaji
- Shahada ya M.S. au Ph.D. katika Sayansi ya Data, Machine Learning, Sayansi ya Kompyuta au uzoefu wa vitendo unaolingana katika deep learning
- Uzoefu wa moja kwa moja wa kufunza miundo mikubwa kwa kutumia algoriti za reinforcement learning kama GRPO au PPO kwenye usanifu wenye uzani wazi
- Ujuzi thabiti wa udhaifu wa LLM, mbinu za red teaming na defensive alignment dhidi ya mashambulizi ya Indirect Prompt Injection
- Uwezo katika PyTorch, uwekaji wa kontena za Docker na usanifu wa mafunzo yaliyosambazwa
- Uwezo wa kutafsiri athari za rollout za mawakala, kuunda rubriki na verifiers za kiambatisho na kutatua hitilafu changamano za uundaji wa reward
- Uzoefu wa miundo ya kawaida ya reinforcement learning gym kama Harbor unapendelewa
- Uzoefu wa kutathmini mtiririko changamano wa kazi za mawakala katika mazingira ya matumizi ya zana au vivinjari vya wavuti unapendelewa
- Uzoefu wa kutathmini miundo yenye uzani wazi kama Llama au Mistral dhidi ya mzigo wa kazi wa adversarial unapendelewa