Mtaalamu wa Red Teaming ya Usalama wa AI (Kiingereza na Kipunjabi)
Fanya majaribio ya kiadui kwa miundo na mawakala wa AI ya mazungumzo kwa Kiingereza na Kipunjabi. Unda maelezo ya udhaifu, visa vya mashambulizi, seti za data na ripoti za usalama zinazoweza kurudiwa kwa miradi ya Mercor ya usalama wa AI inayotumia data ya binadamu.
Maelezo
- Chunguza miundo na mawakala wa AI ya mazungumzo kwa kutumia jailbreak, prompt injection, hali za matumizi mabaya, unyonyaji wa upendeleo na udanganyifu wa zamu nyingi
- Unda maelezo ya data ya binadamu kwa kurekodi hitilafu, kuainisha udhaifu na kutambua hatari za kimfumo
- Tumia taksonomia, vipimo vya kulinganisha na miongozo iliyoanzishwa ili kudumisha tathmini thabiti
- Wasilisha ripoti, seti za data na visa vya mashambulizi vinavyoweza kurudiwa kwa wateja
- Tathmini matokeo ya AI yanayohusiana na upendeleo, taarifa potofu, tabia hatari na mada nyingine nyeti
- Panua wigo wa tathmini ili kutambua udhaifu ambao majaribio ya kiotomatiki yanaweza kukosa
- Saidia kuboresha usalama, uimara na uaminifu wa mifumo ya AI ya wateja
Mahitaji
- Ujuzi wa Kiingereza na Kipunjabi wa kiwango cha mzawa au ufasaha
- Uamuzi mzuri wakati wa kutathmini usahihi, ukamilifu na ufaafu wa maudhui yanayotengenezwa na AI
- Uwezo wa kugundua makosa fiche, kutolingana na mapungufu
- Kufuata kwa uthabiti miongozo, taksonomia, vipimo vya kulinganisha, miongozo ya utekelezaji na viwango vya ubora
- Mawasiliano yaliyo wazi ya hoja kwa hadhira za kiufundi na zisizo za kiufundi
- Kubadilika katika miradi, miundo ya kazi na mahitaji ya wateja
- Uwezo wa kufanya kazi kama mkandarasi huru
- Waombaji wa H1-B na STEM OPT hawaungiwi mkono
- Uzoefu katika machine learning ya kiadui, seti za data za jailbreak, mashambulizi ya prompt injection au RLHF/DPO, uchimbaji wa modeli, majaribio ya kupenya, uundaji wa exploit, reverse engineering, uchunguzi wa unyanyasaji au taarifa potofu, uchanganuzi wa matumizi mabaya, majaribio ya AI ya mazungumzo, saikolojia, uigizaji au uandishi wa kiadui usio wa kawaida ni wa manufaa
Manufaa
- Kazi ya mbali kabisa yenye ratiba inayobadilika na inayojisimamiwa
- Malipo ya kila wiki kupitia Stripe au Wise
- Malipo yenye ushindani
- Rasilimali za ustawi na mwongozo wazi kwa miradi yenye unyeti wa juu
- Marekebisho yanayofaa yanapatikana kwa ombi
- Malipo ya rufaa ya hadi $90 kwa kila rufaa iliyofanikiwa
- Fursa za kushirikiana na watafiti mashuhuri
- Uzoefu wa vitendo katika red teaming ya AI inayotumia data ya binadamu kwenye mstari wa mbele wa usalama wa AI