
AI Red Team – GenAI Adversarial Evaluation at ActiveFence
ActiveFenceDevelop adversarial attacks, datasets, and benchmarks for ActiveFence’s AI security platform. Test LLM robustness through red teaming and vulnerability research.


Develop adversarial attacks, datasets, and benchmarks for ActiveFence’s AI security platform. Test LLM robustness through red teaming and vulnerability research.

Vodili boste vrednotenje učenja z okrepitvijo, red teaming in varnostne revizije odprtih modelov umetne inteligence. Izdelovali boste primerjalna merila in cevovode za naknadno učenje za delo podjetja ActiveFence na področju zaupanja, varnosti in zaščite umetne inteligence.

Delovno mesto višjega podatkovnega znanstvenika za GenAI je osredotočeno na avtomatizirano rdeče testiranje, strojno učenje in obsežno analizo podatkov. Gradili boste sisteme za prepoznavanje nastajajočih varnostnih groženj v spletnih izkušnjah in izdelkih umetne inteligence.

Vodite tehnično odkrivanje potreb, partnerstva in sodelovanje s skupnostjo za laboratorije z vrhunsko umetno inteligenco. Oblikujte raziskave varnosti umetne inteligence in produktno strategijo za Alice, ActiveFenceovo dejavnost za zaupanje in varnost.

Vodja inženiringa AI, ki na podlagi najsodobnejših zmogljivosti umetne inteligence ustvarja izdelke od začetka. Odgovoren je za arhitekturo, tehnično sodelovanje s strankami in komercializacijo v namenski produktni ekipi.