Inicio Empresas Acuerdos Acelerador de inferencia Jalapeño para LLM

Acelerador de inferencia Jalapeño para LLM

4646
0

Jalapeño es un acelerador ASIC de inferencia para LLM diseñado para mejorar la eficiencia por vatio en cargas de inteligencia artificial a gran escala.

El nuevo Jalapeño de OpenAI, desarrollado junto a Broadcom, es un acelerador de inferencia basado en un circuito integrado de aplicación específica (ASIC, Application-Specific Integrated Circuit) orientado a modelos de lenguaje grandes (LLM, Large Language Models) y a servicios de inteligencia artificial (IA) desplegados en centros de datos.

Acelerador de inferencia Jalapeño para LLM

La arquitectura nace desde cero para cargas modernas de inferencia, por tanto no parte de un acelerador genérico adaptado a tareas de IA anteriores.

Según las primeras pruebas, Jalapeño ofrecerá una relación rendimiento por vatio sensiblemente superior a la de las soluciones actuales de referencia, aunque los datos finales de rendimiento se publicarán en un informe técnico posterior.

El diseño busca reducir el movimiento de datos y equilibrar recursos de cómputo, memoria y red para acercar la utilización real al pico teórico del hardware.

Arquitectura ASIC Jalapeño para inferencia de LLM

En concreto, Jalapeño se ha optimizado alrededor de kernels, patrones de servicio, accesos a memoria y necesidades de red asociadas a modelos frontera y productos interactivos basados en LLM.

Las muestras de ingeniería ya ejecutan cargas de aprendizaje automático en laboratorio a la frecuencia y potencia objetivo de producción, incluyendo cargas como GPT-5.3-Codex-Spark.

Además, la plataforma combina el acelerador con tecnologías de silicio y conectividad de Broadcom, entre ellas soluciones de red Tomahawk, para facilitar la integración en infraestructuras de alta densidad.

La propuesta apunta a servicios donde la latencia, el caudal de tokens y la eficiencia energética condicionan la experiencia del usuario y la capacidad total disponible.

Integración de silicio, memoria y red para centros de datos

Por otro lado, el desarrollo se ha completado desde el diseño inicial hasta el tape-out de fabricación en nueve meses mediante una colaboración estrecha entre equipos de hardware, software y sistemas.

El programa también ha utilizado modelos de OpenAI para acelerar partes del proceso de diseño y optimización, es decir, para aplicar herramientas de IA al propio ciclo de creación del semiconductor.

Celestica participa en la industrialización de la plataforma mediante la implementación de placas, integración en rack, sistemas y procesos de producción escalables.

Como resultado, Jalapeño forma parte de una plataforma de cómputo multigeneracional prevista para despliegues iniciales a finales de 2026 y expansión posterior con socios de centros de datos.

Eficiencia por vatio en aceleradores de IA

La mejora de eficiencia resulta crítica en inferencia porque cada consulta a un servicio LLM activa recursos de cómputo, memoria y comunicación distribuidos en la infraestructura.

Asimismo, una arquitectura especializada permite ajustar el hardware a patrones reales de servicio, planificación y ejecución, en lugar de depender únicamente de bloques de propósito general.

No obstante, la compañía mantiene pendiente la publicación de métricas detalladas, por lo que la evaluación comparativa deberá esperar a los resultados técnicos completos.

En la categoría Semiconductores encontrarás más equipos y soluciones dentro de este ámbito tecnológico.

Para resolver cualquier duda técnica sobre el nuevo Acelerador de inferencia Jalapeño para LLM, puedes participar con un COMENTARIO. También tienes disponible nuestro SERVICIO AL LECTOR.

#Jalapeño, #OpenAI, #Broadcom, #AceleradorDeInferencia, #LLM, #ASIC, #Semiconductores, #IA

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí