Aleph Alpha ni kampuni ya utafiti na matumizi ya akili bandia inayounda modeli kubwa kwa ajili ya lugha, data za picha na hoja za kimkakati. Ikiwa na makao yake Heidelberg, Ujerumani, kampuni hiyo inalenga kubadilisha utafiti wa hali ya juu wa AI kuwa mifumo ya kiutendaji huku ikiunga mkono mamlaka ya kidijitali ya Ulaya. Kazi yake inahudumia matumizi ya biashara na mashirika katika sekta ya teknolojia ya B2B.
Mtafiti Mwandamizi wa AI, Mafunzo ya Awali ya Modeli Msingi — Aleph Alpha, Heidelberg
Ongoza usanifu na mafunzo ya awali ya kiwango kikubwa kwa modeli msingi za Ulaya za Aleph Alpha, na kuunda mbinu za mafunzo kwenye maelfu ya GPU. Jenga na boresha mapishi ya mafunzo ya PyTorch pamoja na timu mseto iliyoko Heidelberg.
Maelezo
- Tengeneza usanifu na mbinu za mafunzo kwa kizazi kijacho cha modeli msingi za Aleph Alpha.
- Ongoza vipengele muhimu vya mapishi ya mafunzo, ikiwemo optimiza, ratiba na uanzishaji.
- Unda maboresho ya usanifu wa PyTorch yanayoimarisha muunganiko, uthabiti na ufanisi wa mafunzo.
- Weka sheria za upanuzi wa hiperparameta na mbinu za kupanua mafunzo.
- Fanya majaribio madogo ya proksi kutabiri tabia kwenye maelfu ya GPU na kupunguza hatari za mafunzo.
- Tambua matatizo ya muunganiko, yakiwemo miruko ya loss na kutengana kwa muunganiko.
- Tatua hitilafu za mafunzo yaliyosambazwa kama vikwazo vya mawasiliano, hali za mbio na makosa ya ulandanishi.
- Fanya kazi na timu za Utendaji wa Kompyuta, Data, Tathmini na Mafunzo ya Baadae katika usanifu wa pamoja wa mifumo na modeli.
- Geuza uchanganuzi wa kihisabati na ushahidi wa majaribio kuwa maamuzi thabiti ya mafunzo.
- Toa msimbo wa ubora wa uzalishaji unaoboresha ubora wa modeli, uaminifu wa mafunzo na ufanisi.
Mahitaji
- Uwezo mkubwa wa kutumia Python na uelewa mzuri wa mtiririko wa kazi wa mafunzo ya PyTorch.
- Rekodi iliyothibitishwa katika utafiti wa ujifunzaji wa mashine na uhandisi wa programu, inayoonekana kupitia modeli zilizotolewa, kazi ya chanzo huria yenye ushawishi, au utafiti uliochapishwa.
- Msingi imara wa hisabati na uwezo wa kufikiri rasmi kuhusu uboreshaji, tabia ya upanuzi na mienendo ya mafunzo.
- Ujuzi wa kina wa mienendo ya mafunzo ya transformer, uboreshaji na mafunzo makubwa yaliyosambazwa.
- Uwezo wa kubuni majaribio makini na kutumia matokeo yake kuongoza maamuzi thabiti ya mafunzo.
- Uzoefu wa vitendo wa kufanya mafunzo ya awali ya modeli kubwa, kama modeli zenye angalau vigezo 7B, kwenye miundombinu mikubwa kama klasta zenye angalau GPU 100.
- Mbinu bora za uhandisi wa programu, ikiwemo msimbo unaotunzwa na kujaribiwa vizuri pamoja na majaribio yanayoweza kurudiwa.
- Uwezo wa kutekeleza usanifu changamano kwa ufanisi na uaminifu, na kutatua hitilafu za msimbo wa modeli, tabia ya mafunzo na mifumo iliyosambazwa.
- Mawasiliano yaliyo wazi na ushirikiano mzuri kati ya timu.
- Kustahili kufanya kazi nchini Ujerumani na kupatikana kwa ushirikiano wa ana kwa ana wa mara kwa mara Heidelberg.
- Inapendelewa: uzoefu wa kufundisha LLM au modeli za multimodal kwenye klasta kubwa za GPU kwa mifumo iliyosambazwa kama Megatron-LM, DeepSpeed au torchtitan.
- Inapendelewa: uelewa wa sheria za upanuzi, uhamishaji wa hiperparameta, au kutabiri tabia ya mafunzo makubwa kutokana na mafunzo ya proksi.
- Inapendelewa: uzoefu wa kuchanganua utendaji wa kazi zilizowasilishwa na kutambua hitilafu za mafunzo.
- Inapendelewa: kufahamu mbinu za mafunzo sparse kama Mixture-of-Experts.
- Inapendelewa: machapisho ya kiwango cha juu, michango yenye ushawishi kwa chanzo huria, au kazi kubwa ya kiufundi iliyotolewa.
Manufaa
- Siku 30 za likizo ya mwaka zenye malipo.
- Ufikiaji wa huduma za mazoezi ya viungo na ustawi kupitia Wellhub.
- Msaada wa afya ya akili kupitia nilo.health.
- Mpango wa pensheni wa kampuni unaofadhiliwa kwa kiwango kikubwa.
- Tiketi ya usafiri wa kitaifa yenye ruzuku nchini Ujerumani.
- Bajeti ya vifaa vya ziada vya kiufundi.
- Saa za kazi zinazobadilika.
- Mpangilio wa kazi mseto.
- Ukodishaji wa baiskeli kupitia JobRad®.