ActiveFence ir kiberdrošības un mākslīgā intelekta uzņēmums, kas koncentrējas uz tiešsaistes platformu uzticamību un drošību. Tā visaptverošais risinājums apvieno izlūkošanas izpēti, ar mākslīgo intelektu darbinātu kaitīga satura noteikšanu un satura moderēšanas rīkus, palīdzot platformām novērst tādus riskus kā bērnu izmantošana, dezinformācija, naida runa, terorisms, kailums, krāpšana un citas kaitējuma formas internetā. ActiveFence atbalsta dažāda lieluma uzticamības un drošības komandas un palīdz aizsargāt vairāk nekā trīs miljardus lietotāju visā pasaulē vairāk nekā 100 valodās.
Vecākais mākslīgā intelekta pētnieks – hibrīddarbs Izraēlā
Vadiet pastiprinātās mācīšanās novērtēšanu, sarkanās komandas vingrinājumus un atvērtu svaru MI modeļu drošības auditus. Veidojiet salīdzinošās novērtēšanas un pēcapmācības cauruļvadus uzņēmuma „ActiveFence“ MI uzticamības, drošuma un drošības darbam.
Apraksts
- Vadiet atvērtu svaru modeļu pēcapmācības novērtēšanu, sarkanās komandas vingrinājumus un pastiprinātās mācīšanās vides auditus
- Izstrādājiet stingras salīdzinošās novērtēšanas metodikas
- Novērtējiet lielos valodu modeļus pret sarežģītiem apdraudējumiem, tostarp netiešā uzvedņu ievadīšanas uzbrukumiem
- Veidojiet pēcapmācības novērtēšanas cauruļvadus, kas mēra reālistiskas progresīva līmeņa drošības spējas
- Veiciet pēcapmācības eksperimentus, piemēram, GRPO, ar atvērtu svaru vispārīga lietojuma modeļiem uz drošību vērstās pastiprinātās mācīšanās vidēs
- Analizējiet tiešās zudumu līknes un izpildes pēdas, lai atklātu atlīdzības manipulēšanu, gausu politikas konverģenci un nepietiekami definētus verificētājus
- Novērtējiet uzdevumu un vairāku kārtu vides reālismu, apdraudējuma modeļa precizitāti, datu sadalījumu un datu kopas līdzsvaru, ja tiek izmantoti rīki, tīmekļa navigācija un darbs ar datoru
- Sagatavojiet novērtēšanas kartītes, kas aptver kontrolpunktu veiktspējas uzlabojumus, kļūmju režīmus, izpildes pēdu tokenus un kārtas, kā arī uzdevumu līmeņa panākumu rādītājus
- Integrējiet Docker konteinerizētas vides, tostarp Harbor formāta vides, iekšējās apmācības sistēmās
- Uzlabojiet atiestatīšanas un stāvokļa semantiku, vienlaicīgumu un caurlaidspējas ierobežojumus
Prasības
- Maģistra vai doktora grāds datu zinātnē, mašīnmācīšanās jomā vai datorzinātnē, vai līdzvērtīga praktiska pieredze dziļajā mācīšanā
- Praktiska pieredze liela mēroga modeļu apmācībā, izmantojot pastiprinātās mācīšanās algoritmus, piemēram, GRPO vai PPO, uz atvērtu svaru arhitektūrām
- Padziļinātas zināšanas par lielo valodu modeļu ievainojamībām, sarkanās komandas praksēm un aizsargājošu saskaņošanu pret netiešās uzvedņu ievadīšanas uzbrukumiem
- PyTorch, Docker konteinerizācijas un sadalīto apmācības arhitektūru pārzināšana
- Spēja interpretēt aģentu izpildes pēdas, izveidot deterministiskus vērtēšanas kritērijus un verificētājus, kā arī atkļūdot sarežģītas atlīdzības veidošanas problēmas
- Pieredze ar standarta pastiprinātās mācīšanās vidēm, piemēram, Harbor, tiks uzskatīta par priekšrocību
- Pieredze sarežģītu aģentu darbplūsmu novērtēšanā rīku lietošanas vai tīmekļa pārlūka vidēs tiks uzskatīta par priekšrocību
- Llama vai Mistral tipa atvērtu svaru modeļu novērtēšanas pārzināšana pretinieka darba slodzēs tiks uzskatīta par priekšrocību