Mtaalamu wa Red Team wa Usalama wa AI - Mkataba wa Kazi kwa Mbali (Marekani)
Mercor inatafuta Mtaalamu wa Red Team wa Usalama wa AI ili kugundua udhaifu katika miundo ya AI ya kisasa kupitia majaribio ya kiadversarial. Jukumu hili linahusisha kubuni vidokezo na kutathmini tabia hatarishi ya miundo pamoja na watafiti wa usalama wa AI.
Maelezo
- Kuunda vidokezo vya kiadversarial ili kuijaribu miundo ya AI ya kisasa
- Kugundua jailbreak, tabia zisizo salama, hallucination, na ukiukaji wa sera
- Kutathmini uimara wa miundo katika taarifa potofu, usalama wa mtandao, biosecurity, ulaghai, maudhui ya kisiasa, na maeneo mengine nyeti
- Kurekodi udhaifu na kusaidia vigezo vya usalama pamoja na ripoti za red teaming
- Kushirikiana na watafiti wa AI kuimarisha alignment, uimara, na usalama wa miundo
- Kuchangia katika miradi inayofundisha na kuboresha mifumo ya AI
Mahitaji
- Shahada ya kwanza au ya juu zaidi katika sayansi ya kompyuta, usalama wa mtandao, uandishi wa habari, mawasiliano, saikolojia, biolojia, kemia, sera za umma, au eneo linalohusiana
- Angalau miaka mitano ya uzoefu wa kitaalamu katika usalama wa AI, red teaming ya AI, trust and safety, usalama wa mtandao, uandishi wa habari za uchunguzi, sayansi ya maisha, au eneo linalohusiana
- Uwezo thabiti wa kufikiri kwa uchanganuzi, kubuni vidokezo, na kuwasiliana kwa maandishi
- Uzoefu wa kuunda vidokezo vya kiadversarial au kutathmini mifumo ya AI ya kisasa
- Uzoefu katika red teaming ya AI, RLHF, SFT, alignment ya AI, au trust and safety unapendelewa
- Uelewa wa majaribio ya jailbreak, prompt engineering, au mbinu za tathmini ya kiadversarial unapendelewa
- Utaalamu katika eneo moja au zaidi lenye mipaka isiyo wazi, kama usalama wa mtandao, biosecurity, maudhui ya kisiasa, taarifa potofu, au usalama wa kisayansi unapendelewa
- Uwezo wa kufanya kazi kama mkandarasi huru
- Waombaji wa H-1B na STEM OPT hawasaidiwi
Manufaa
- Kazi ya mbali kabisa
- Ratiba inayoweza kubadilika
- Malipo ya kila wiki kupitia Stripe au Wise
- Miradi inaweza kuongezwa, kufupishwa, au kukamilishwa mapema kulingana na mahitaji ya biashara na utendaji
- Kazi ya majaribio ya kiadversarial pamoja na watafiti wakuu wa AI na timu za usalama
- Fursa ya kusaidia kuamua jinsi mifumo ya AI inavyoshughulikia changamoto changamano za usalama katika ulimwengu halisi
- Marekebisho yanayofaa yanapatikana kwa ombi
- Malipo ya rufaa ya hadi $340 kwa kila rufaa iliyofaulu, yakitegemea mipaka ya rufaa