Intel actualiza LLM-Scaler con soporte para Muse Glimmer y nuevos modelos

Intel lanzó una nueva versión de LLM-Scaler, su herramienta diseñada para optimizar el rendimiento de modelos de lenguaje de gran escala (LLM) en hardware de la compañía. La actualización incorpora soporte para Muse Glimmer, un modelo de inteligencia artificial que suma a la creciente lista de arquitecturas compatibles con la plataforma.

Entre las novedades, la versión actualizada amplía la compatibilidad con otros modelos de lenguaje populares y agrega características orientadas a mejorar la eficiencia en inferencia. Intel busca posicionar LLM-Scaler como una solución competitiva frente a herramientas similares ofrecidas por NVIDIA y AMD en el ecosistema de aceleración de IA.

La herramienta apunta tanto a desarrolladores como a empresas que buscan ejecutar modelos de lenguaje directamente sobre hardware Intel, incluyendo sus procesadores y aceleradoras Gaudi. El soporte ampliado refleja el esfuerzo de la compañía por mantenerse relevante en un mercado de inferencia de IA en rápida expansión.

Esta actualización llega en un momento en que Intel intensifica su apuesta por el segmento de inteligencia artificial, compitiendo con soluciones de software y hardware que buscan capturar una porción del creciente mercado de despliegue de LLMs a escala empresarial.