51 – 200 Medarbejdere
De tilgængelige profiloplysninger angiver, at Normal Computing blev grundlagt i 2022, men beskriver ikke virksomhedens produkter, tjenester, branche eller ansættelseskontekst. Der er brug for flere virksomhedsspecifikke oplysninger for at give jobsøgende et brugbart overblik.
Forskningsingeniør i algoritmer til LLM-inferenshardware
Udvikl algoritmer til LLM-inferens på Normal Computings AI-hardware med beregninger i hukommelsen. Samarbejd med hardware- og arkitekturteams om at udvikle numeriske metoder, benchmarks og prototyper i fællesskab.
Beskrivelse
- Udvikle algoritmer til LLM-inferensarbejdsbelastninger på hardware med beregninger i hukommelsen.
- Samarbejde med hardware- og arkitekturteams om fælles design af software og hardware.
- Skabe numeriske metoder, der udnytter termisk støj og analog dynamik.
- Udvikle evalueringsrammer og benchmarks til simulering og fysisk hardware.
- Omsætte indsigt i modellers arbejdsbelastninger til begrænsninger og muligheder for hardwaredesign.
- Udvikle prototyper og forfine algoritmer, efterhånden som hardwaren går fra simulering til silicium.
- Forbedre ydeevnen både på gate- og algoritmeniveau.
- Teste algoritmer med simulatorer, FPGA-prototyper og silicium, efterhånden som det bliver tilgængeligt.
Krav
- Stærkt kendskab til inferens for store modeller, herunder attention-mekanismer, KV-cache, afkodning med lang kontekst og begrænsninger i hukommelsesbåndbredde.
- Erfaring med at forbedre inferens gennem teknikker som kvantisering, sparsitet, sammenlægning af kerner eller hukommelseseffektiv attention.
- Kendskab til stokastiske systemer, probabilistiske metoder, numerisk analyse eller analog beregning.
- Erfaring med at implementere algoritmer tæt på hardwaren frem for udelukkende at basere sig på frameworks på højt niveau.
- Evne til at ræsonnere ud fra grundprincipper om nye beregningssubstrater.
- Dokumenteret evne til at føre idéer fra teori til implementering på fysisk hardware.
- Stærke Python-kompetencer og færdigheder i mindst ét systemprogrammeringssprog.
- Evne til at samarbejde på tværs af hardware-, arkitektur- og softwareteams.
- En ph.d. i maskinlæring, anvendt matematik, fysik, elektroteknik eller et beslægtet felt er en fordel.
- Erfaring med analoge systemer eller blandede signaler, beregning i hukommelsen eller arkitekturer, der ikke følger von Neumann-princippet, er en fordel.
- Erfaring med at arbejde med hardware, der stadig var under udvikling, da du begyndte, er en fordel.
- Publikationer eller bidrag til open source inden for effektiv inferens, stokastiske algoritmer eller nye beregningsmetoder er en fordel.
Fordele
- En inkluderende arbejdsplads med fokus på mangfoldighed.
- Rimelige tilpasninger for personer med handicap.
- Beskyttelse gennem lige muligheder for ansættelse.
Relaterede job
Ingen job fundet
Prøv at justere eller rydde filtrene for at finde flere muligheder.