ActiveFence ni kampuni ya usalama wa mtandao na akili bandia inayolenga uaminifu na usalama kwa majukwaa ya mtandaoni. Huduma zake za kina huunganisha utafiti wa kijasusi, utambuzi wa maudhui hatari unaotumia AI, na zana za udhibiti wa maudhui ili kusaidia majukwaa kushughulikia hatari kama vile unyonyaji wa watoto, taarifa potofu, matamshi ya chuki, ugaidi, uchi, ulaghai na aina nyingine za madhara mtandaoni. ActiveFence huunga mkono timu za uaminifu na usalama za ukubwa mbalimbali, na kusaidia kulinda zaidi ya watumiaji bilioni tatu duniani kote katika zaidi ya lugha 100.
Timu Jekundu la AI – Tathmini ya Mashambulizi ya GenAI katika ActiveFence
Tengeneza mashambulizi ya adui, seti za data na vigezo vya kupimia kwa mfumo wa usalama wa AI wa ActiveFence. Jaribu uimara wa LLM kupitia red teaming na utafiti wa udhaifu.
Maelezo
- Buni mashambulizi mapya ya adui.
- Saidia kujenga mifumo inayoweza kupanuliwa ya kuzalisha na kujaribu mashambulizi kwa kiwango kikubwa.
- Tathmini ubora, ufanisi, upekee na uwezekano wa kurudia mashambulizi.
- Gundua mifumo mipya ya mashambulizi na udhaifu wa modeli.
- Unda seti za data za adui, vigezo vya kupimia na majaribio ya urejeshaji wa hitilafu.
- Shiriki matokeo, mbinu na data ya mashambulizi iliyopangwa na timu za Sayansi ya Data, Usalama na Uhandisi.
- Changia katika uimara zaidi wa modeli na ulinzi imara zaidi.
Mahitaji
- Angalau miaka mitatu ya uzoefu wa kitaaluma katika usalama wa mtandao, utafiti wa usalama, red teaming au nyanja inayohusiana na usalama.
- Shahada ya kwanza katika Sayansi ya Data, Uhandisi wa Kompyuta, Sayansi ya Kompyuta au nyanja ya kiufundi inayohusiana kwa karibu.
- Ujuzi thabiti wa modeli kubwa za lugha, prompt injection na usalama wa AI.
- Uzoefu katika red teaming, utafiti wa usalama au majaribio ya mashambulizi ya adui.
- Ujuzi thabiti wa Python na uendeshaji wa kiotomatiki.
- Uwezo wa kutatua matatizo kwa ubunifu na kubuni mbinu mpya za mashambulizi.
- Uwezo wa kuchanganua matokeo na kueleza yaliyojitokeza kwa uwazi.
- Vyeti vya usalama wa mtandao wa mashambulizi kama OSWA, OSWE, OSCE3, SEC542 au SEC522 vinapendelewa.