Mtaalamu wa Red Team wa Usalama wa AI – Kiingereza na Kifini, Kazi ya Mbali Marekani
Fanya majaribio ya kiadui kwenye miundo na mawakala wa AI ya mazungumzo kwa miradi ya Mercor ya data ya binadamu. Unda data ya udhaifu inayoweza kurudiwa ili kusaidia kuimarisha mifumo ya kisasa ya AI.
Maelezo
- Jaribu miundo na mawakala wa AI ya mazungumzo kwa kutumia jailbreak, sindano za prompt, hali za matumizi mabaya, unyonyaji wa upendeleo, na udanganyifu wa zamu nyingi
- Andika maelezo ya hitilafu, panga udhaifu katika makundi, na tambua hatari za kimfumo
- Tumia taksonomia, vigezo vya kulinganisha, na miongozo iliyoanzishwa kwa tathmini thabiti
- Unda ripoti, seti za data, na visa vya mashambulizi vinavyoweza kurudiwa kwa wateja
- Tambua udhaifu ambao majaribio ya kiotomatiki yanaweza kukosa
- Panua wigo wa tathmini na kusaidia kupunguza matatizo yasiyotarajiwa katika uzalishaji
- Shirikiana na watafiti wakuu kwenye miradi inayofunza na kuboresha mifumo ya AI
Mahitaji
- Uwezo wa kuzungumza Kiingereza na Kifini kwa ufasaha au kama mzungumzaji wa asili
- Uzoefu wa awali wa red teaming katika kazi za AI ya kiadui, usalama wa mtandao, au uchunguzi wa kijamii na kiufundi
- Uwezo wa kujaribu mifumo ya AI kwa njia ya kiadui na kuisukuma kuelekea maeneo ya kushindwa
- Uzoefu wa kutumia mifumo au vigezo vya kulinganisha kwa majaribio yaliyopangwa
- Uwezo wa kuwasilisha hatari kwa uwazi kwa hadhira ya kiufundi na isiyo ya kiufundi
- Uwezo wa kubadilika kulingana na miradi na mahitaji ya wateja
- Upatikanaji wa kufanya kazi kama mkandarasi huru
- Hapaswi kuwa mgombea wa H-1B au STEM OPT
- Inapendelewa: uzoefu wa machine learning ya kiadui, ikiwemo seti za data za jailbreak, sindano za prompt, mashambulizi ya RLHF/DPO, au uchimbaji wa modeli
- Inapendelewa: uzoefu wa usalama wa mtandao katika majaribio ya kupenya, uundaji wa exploit, au reverse engineering
- Inapendelewa: uzoefu wa hatari za kijamii na kiufundi katika kuchunguza unyanyasaji au taarifa potofu, uchanganuzi wa matumizi mabaya, au majaribio ya AI ya mazungumzo
- Inapendelewa: uzoefu wa saikolojia, uigizaji, au uandishi unaosaidia fikra za kiadui zisizo za kawaida
Manufaa
- Kazi ya mbali kabisa
- Ratiba inayobadilika
- Malipo ya kila wiki kupitia Stripe au Wise
- Rasilimali za ustawi na miongozo iliyo wazi kwa miradi yenye unyeti mkubwa
- Fursa ya kupata uzoefu katika red teaming ya AI inayotumia data ya binadamu
- Fursa ya moja kwa moja ya kusaidia kufanya mifumo ya AI iwe imara, salama, na ya kuaminika zaidi
- Malipo yenye ushindani
- Bonasi ya rufaa ya hadi $250 kwa kila rufaa iliyofanikiwa