Mtaalamu wa Majaribio ya Usalama wa Miundo ya AI
Chunguza miundo ya AI ya hali ya juu ya Mercor ili kubaini udhaifu wa usalama kupitia majaribio ya ushindani. Gundua mianya na usaidie kuboresha ulinganifu wa modeli.
Maelezo
- Unda vidokezo vya ushindani ili kuchunguza miundo ya AI ya hali ya juu.
- Gundua jailbreak, tabia zisizo salama, hallucination na ukiukaji wa sera.
- Pima uimara wa modeli dhidi ya taarifa potofu, usalama wa mtandao, usalama wa viumbe, ulaghai, maudhui ya kisiasa na maeneo mengine nyeti.
- Rekodi udhaifu na usaidie kuandaa vigezo vya usalama na ripoti za red teaming.
- Shirikiana na watafiti wa AI kuimarisha ulinganifu, uimara na usalama wa modeli.
- Saidia kulinda na kuboresha kizazi kijacho cha miundo ya AI ya hali ya juu.
- Changia katika miradi ya kufunza na kuboresha mifumo ya AI.
Mahitaji
- Shahada ya kwanza au ya juu zaidi katika sayansi ya kompyuta, usalama wa mtandao, uandishi wa habari, mawasiliano, saikolojia, biolojia, kemia, sera za umma au taaluma inayohusiana
- Angalau miaka mitano ya uzoefu wa kitaaluma katika usalama wa AI, red teaming ya AI, uaminifu na usalama, usalama wa mtandao, uandishi wa habari za uchunguzi, sayansi ya maisha au eneo linalohusiana
- Uwezo thabiti wa kufikiri kwa uchanganuzi, kubuni prompt na kuandika
- Uzoefu wa kuunda prompt za ushindani au kutathmini mifumo ya AI ya hali ya juu
- Uzoefu katika red teaming ya AI, RLHF, urekebishaji unaosimamiwa, ulinganifu wa AI au uaminifu na usalama unapendelewa
- Uelewa wa majaribio ya jailbreak, uhandisi wa prompt au mbinu za tathmini ya ushindani unapendelewa
- Utaalamu katika angalau eneo moja nyeti, kama usalama wa mtandao, usalama wa viumbe, maudhui ya kisiasa, taarifa potofu au usalama wa kisayansi unapendelewa
- Hupaswi kuhitaji ufadhili wa H-1B au STEM OPT; Mercor haiwezi kusaidia wagombeaji wanaohitaji mojawapo ya aina hizi za ufadhili
Manufaa
- Kazi ya mbali kikamilifu yenye ratiba inayoweza kubadilika
- Malipo ya kila wiki kupitia Stripe au Wise kwa huduma zilizotolewa
- Muda wa mradi unaweza kubadilika au mradi kumalizika mapema kulingana na mahitaji ya mradi na utendaji
- Fanya kazi pamoja na watafiti wakuu wa AI na timu za usalama
- Saidia kuunda namna mifumo ya AI inavyokabiliana na changamoto tata za usalama katika ulimwengu halisi
- Marekebisho yanayofaa yanapatikana yakihitajika
- Malipo ya rufaa ya hadi $340 kwa kila rufaa iliyofanikiwa, kwa kuzingatia vikomo