Mtaalamu wa Usalama wa AI, Kiingereza na Kiholanzi (Mkataba wa Kazi kwa Mbali)
Mercor inatafuta wataalamu wa usalama wa AI wanaozungumza Kiingereza na Kiholanzi ili kufanya red teaming ya miundo na mawakala wa mazungumzo. Kazi hii inahusisha kuunda data ya udhaifu, matukio ya mashambulizi, na ripoti za usalama zinazoweza kurudiwa kwa ajili ya maendeleo ya AI ya kisasa.
Maelezo
- Kujaribu miundo na mawakala wa AI ya mazungumzo kwa kutumia jailbreak, prompt injection, matukio ya matumizi mabaya, unyonyaji wa upendeleo, na udanganyifu wa zamu nyingi
- Kuunda data inayotengenezwa na binadamu kwa kuweka maelezo kwenye kushindwa, kuainisha udhaifu, na kutambua hatari za kimfumo
- Kutumia taksonomia, vigezo vya kupimia, na miongozo ya utekelezaji ili kusaidia majaribio thabiti ya usalama
- Kutengeneza ripoti, seti za data, na mifano ya mashambulizi inayoweza kurudiwa kwa wateja
- Kupata udhaifu ambao majaribio ya kiotomatiki yanaweza kupuuza
- Kupanua wigo wa tathmini ili kusaidia kupunguza hatari zisizotarajiwa za uzalishaji
- Kufanya kazi na watafiti mashuhuri kufundisha na kuboresha mifumo ya AI ya kisasa
Mahitaji
- Ufasaha wa kiwango cha mzawa katika Kiingereza na Kiholanzi
- Uzoefu wa awali katika red teaming ya AI, kazi pinzani za usalama wa mtandao, au uchunguzi wa kijamii na kiufundi
- Uwezo wa kujaribu mifumo ya AI kwa njia pinzani na kuisukuma kuelekea hali za kushindwa
- Uzoefu wa kutumia mifumo au vigezo vya kupimia kwa majaribio yaliyopangwa
- Uwezo wa kuwasilisha hatari kwa uwazi kwa hadhira ya kiufundi na isiyo ya kiufundi
- Uwezo wa kubadilika katika miradi na wateja tofauti
- Uzoefu wa mashine kujifunza kwa njia pinzani wenye seti za data za jailbreak, prompt injection, mashambulizi ya RLHF/DPO, au uchimbaji wa modeli unapendelewa
- Uzoefu wa usalama wa mtandao katika majaribio ya kupenya, uundaji wa exploit, au uhandisi wa kureverse unapendelewa
- Uzoefu wa hatari za kijamii na kiufundi unaohusisha uchunguzi wa unyanyasaji au taarifa potofu, uchanganuzi wa matumizi mabaya, au majaribio ya AI ya mazungumzo unapendelewa
- Uzoefu wa uchunguzi wa ubunifu katika saikolojia, uigizaji, au uandishi unapendelewa
- Lazima uweze kufanya kazi kama mkandarasi huru
- Waombaji wa H-1B na STEM OPT hawawezi kuungwa mkono
Manufaa
- Kazi ya mbali kabisa
- Ratiba inayobadilika yenye uwezo wa kuweka saa zako mwenyewe
- Malipo ya kila wiki kupitia Stripe au Wise kulingana na huduma zilizotolewa
- Miradi inaweza kuongezwa, kufupishwa, au kumalizwa mapema kulingana na mahitaji ya biashara na utendaji
- Kushiriki katika miradi yenye unyeti wa juu zaidi ni hiari
- Miongozo ya maudhui na rasilimali za ustawi hutolewa
- Marekebisho yanayofaa yanapatikana kwa ombi
- Malipo shindani kwa saa
- Fursa ya kutoa rufaa ya hadi $250 kwa kila rufaa iliyofanikiwa, kwa kutegemea mipaka