Mtaalamu wa Red Team wa Usalama wa AI - Kazi ya Mbali Marekani
Mercor inatafuta Mtaalamu wa Red Team wa Usalama wa AI wa kufanya kazi kwa mbali ili kujaribu miundo ya kisasa ya AI na kugundua udhaifu katika nyanja zenye hatari kubwa. Jukumu hili la mkataba linasaidia maabara za AI kuunda na kuboresha mifumo ya hali ya juu.
Maelezo
- Unda vidokezo pinzani ili kuchunguza miundo ya kisasa ya AI
- Gundua jailbreak, tabia zisizo salama, hallucination, na ukiukaji wa sera
- Tathmini ustahimilivu wa modeli dhidi ya taarifa potofu, vitisho vya mtandao, hatari za biosecurity, ulaghai, maudhui ya kisiasa, na mada nyingine nyeti
- Rekodi udhaifu uliogunduliwa na kusaidia kuandaa vigezo vya usalama na ripoti za red team
- Shirikiana na watafiti wa AI ili kuimarisha alignment, uimara, na usalama wa modeli
- Changia katika miradi inayofunza na kuboresha mifumo ya AI
Mahitaji
- Shahada ya kwanza au zaidi katika sayansi ya kompyuta, usalama wa mtandao, uandishi wa habari, mawasiliano, saikolojia, biolojia, kemia, sera za umma, au nyanja inayohusiana
- Angalau miaka mitano ya uzoefu wa kitaalamu katika usalama wa AI, red teaming ya AI, trust and safety, usalama wa mtandao, uandishi wa habari za uchunguzi, sayansi ya maisha, au eneo linalohusiana
- Uwezo thabiti wa uchanganuzi na uamuzi, uwezo wa kubuni prompt, na ustadi wa mawasiliano ya maandishi
- Uzoefu wa kuunda prompt pinzani au kutathmini mifumo ya kisasa ya AI
- Uzoefu wa red teaming ya AI, RLHF, SFT, AI alignment, au trust and safety unapendelewa
- Uelewa wa upimaji wa jailbreak, prompt engineering, au mbinu za tathmini pinzani unapendelewa
- Utaalamu katika angalau nyanja moja yenye utata, kama usalama wa mtandao, biosecurity, maudhui ya kisiasa, taarifa potofu, au usalama wa kisayansi unapendelewa
- Uwezo wa kufanya kazi kama mkandarasi huru
- Waombaji wa H-1B na STEM OPT hawaungwi mkono
Manufaa
- Kazi ya mbali kabisa
- Ratiba inayobadilika na kujipangia mwenyewe
- Malipo ya kila wiki kupitia Stripe au Wise
- Miradi inaweza kuongezwa, kufupishwa, au kumalizwa mapema kulingana na mahitaji ya biashara na utendaji
- Malipo yenye ushindani
- Ushirikiano na watafiti wakuu wa AI na timu za usalama
- Marekebisho yanayofaa yanapatikana kwa ombi
- Malipo ya rufaa ya hadi $340 kwa kila rufaa iliyofanikiwa, kwa kuzingatia mipaka inayotumika