51 – 200 Empleados
La información de perfil disponible identifica a Normal Computing como una empresa fundada en 2022, pero no describe sus productos, servicios, sector ni contexto de contratación. Se necesitan más detalles específicos de la empresa para ofrecer una descripción útil a quienes buscan empleo.
Ingeniero/a de investigación en algoritmos para hardware de inferencia de LLM
Desarrolla algoritmos de inferencia de LLM para el hardware de IA en memoria de Normal Computing. Colabora con los equipos de hardware y arquitectura en métodos numéricos, pruebas de rendimiento y prototipos.
Descripción
- Desarrolla algoritmos para cargas de trabajo de inferencia de LLM en hardware en memoria.
- Colabora con los equipos de hardware y arquitectura en el codiseño de software y hardware.
- Crea métodos numéricos que aprovechan el ruido térmico y la dinámica analógica.
- Desarrolla marcos de evaluación y pruebas de rendimiento para simulaciones y hardware físico.
- Convierte los conocimientos sobre las cargas de trabajo de los modelos en requisitos y oportunidades de diseño de hardware.
- Crea prototipos y perfecciona algoritmos a medida que el hardware evoluciona desde la simulación hasta el silicio.
- Mejora el rendimiento tanto a nivel de compuertas como de algoritmos.
- Prueba los algoritmos con simuladores, prototipos FPGA y silicio cuando esté disponible.
Requisitos
- Sólidos conocimientos de inferencia de modelos grandes, incluidos los mecanismos de atención, la caché KV, la decodificación con contextos largos y las limitaciones del ancho de banda de memoria.
- Experiencia en mejorar la inferencia mediante técnicas como cuantización, dispersidad, fusión de kernels o atención eficiente en memoria.
- Familiaridad con sistemas estocásticos, métodos probabilísticos, análisis numérico o computación analógica.
- Experiencia en implementar algoritmos cerca del hardware, sin depender únicamente de marcos de alto nivel.
- Capacidad para razonar desde los principios fundamentales sobre nuevas plataformas de computación.
- Capacidad demostrada para llevar ideas desde la teoría hasta su implementación en hardware real.
- Dominio de Python y competencia en al menos un lenguaje de programación de sistemas.
- Capacidad para colaborar con equipos de hardware, arquitectura y software.
- Se valorará un doctorado en aprendizaje automático, matemática aplicada, física, ingeniería eléctrica o un campo relacionado.
- Se valorará la experiencia con sistemas analógicos o de señal mixta, computación en memoria o arquitecturas no von Neumann.
- Se valorará la experiencia trabajando con hardware que aún estaba en desarrollo al incorporarse al equipo.
- Se valorarán publicaciones o contribuciones de código abierto sobre inferencia eficiente, algoritmos estocásticos o computación novedosa.
Beneficios
- Un entorno laboral inclusivo comprometido con la diversidad.
- Adaptaciones razonables para personas con discapacidad.
- Protecciones de igualdad de oportunidades en el empleo.
Empleos relacionados
No se encontraron empleos
Prueba a ajustar o borrar los filtros para encontrar más oportunidades.