Mtaalamu wa Red Team wa Usalama wa AI (Kiingereza na Kipunjabi)
Mercor inatafuta mtaalamu wa usalama wa AI anayezungumza Kiingereza na Kipunjabi ili kufanya red-team testing ya miundo na mawakala wa mazungumzo. Nafasi hii ya mkataba inalenga kugundua udhaifu, kuunda visa vya mashambulizi, na kuandaa ripoti za usalama zinazoweza kurudiwa kwa wateja wa utafiti wa AI.
Maelezo
- Kujaribu miundo na mawakala wa AI ya mazungumzo kwa kutumia jailbreak, prompt injection, matukio ya matumizi mabaya, unyonyaji wa upendeleo, na udanganyifu wa zamu nyingi
- Kutathmini matokeo ya modeli kuhusu mada nyeti, ikiwemo upendeleo, taarifa potofu, na tabia hatari
- Kuweka kumbukumbu za hitilafu, kuainisha udhaifu, na kutambua hatari za kimfumo
- Kutumia taksonomia, vigezo vya ulinganishaji, na miongozo iliyowekwa ili kudumisha tathmini thabiti
- Kuunda ripoti, seti za data, na visa vya mashambulizi vinavyoweza kurudiwa kwa wateja
- Kuchunguza udhaifu wa mifumo ya AI ambao majaribio ya kiotomatiki yanaweza kupuuza
- Kupanua wigo wa tathmini ili kusaidia kupunguza matatizo yasiyotarajiwa katika uzalishaji
- Kuboresha mifumo ya AI ya wateja kupitia red teaming inayoongozwa na binadamu na data
Mahitaji
- Uwezo wa asili au ufasaha wa Kiingereza na Kipunjabi
- Uamuzi thabiti wakati wa kutathmini lugha na maudhui
- Uwezo wa kuamua ikiwa majibu ya AI ni sahihi, kamili, na yanafaa, na kueleza tathmini hiyo
- Umakini mkubwa kwa makosa madogo, kutokuwiana, na mambo yaliyoachwa
- Kufuata kwa uthabiti miongozo ya majaribio na viwango vya ubora
- Uwezo wa kueleza hoja kwa uwazi kwa hadhira ya kiufundi na isiyo ya kiufundi
- Kubadilika kufanya kazi katika miradi, miundo ya kazi, na wateja mbalimbali
- Kupatikana kwa ajili ya kufanya kazi kama mkandarasi huru
- Hupaswi kuhitaji msaada wa H-1B au STEM OPT
- Utaalamu unaopendelewa unaweza kujumuisha adversarial machine learning, seti za data za jailbreak, mashambulizi ya prompt injection, mashambulizi ya RLHF/DPO, uchimbaji wa modeli, penetration testing, uundaji wa exploit, reverse engineering, uchunguzi wa unyanyasaji au disinformation, uchanganuzi wa matumizi mabaya, majaribio ya AI ya mazungumzo, saikolojia, uigizaji, au uandishi
Manufaa
- Kufanya kazi kwa mbali kutoka mahali popote panaporuhusiwa na nafasi hii
- Kuweka ratiba yako mwenyewe ya kazi
- Kupokea malipo ya kila wiki kupitia Stripe au Wise kwa huduma zilizotolewa
- Miradi inaweza kuongezwa, kupunguzwa, au kukamilishwa mapema kulingana na mahitaji ya biashara na utendaji
- Kupata rasilimali za ustawi na mwongozo wazi kwa miradi yenye unyeti mkubwa
- Kujenga uzoefu katika red teaming ya AI inayoendeshwa na data ya binadamu
- Kusaidia kufanya mifumo ya AI iwe imara, salama, na yenye kuaminika zaidi
- Malipo ya ushindani
- Kushirikiana na watafiti wakuu wa AI