PyE
Los chips de inteligencia artificial de Qualcomm Inc vencieron a Nvidia Corp en dos de las tres medidas de eficiencia energética en un nuevo conjunto de datos de prueba publicados el miércoles, mientras que una startup taiwanesa superó a ambos en una categoría.
Nvidia domina el mercado de entrenamiento de modelos de IA con grandes cantidades de datos. Pero después de entrenar esos modelos de IA, se les da un uso más amplio en lo que se llama «inferencia» al realizar tareas como generar respuestas de texto a indicaciones y decidir si una imagen contiene un gato.
Los analistas creen que el mercado de chips de inferencia para centros de datos crecerá rápidamente a medida que las empresas implementen tecnologías de inteligencia artificial en sus productos, pero empresas como Google de Alphabet Inc ya están explorando cómo controlar los costos adicionales que se agregarán al hacerlo.
Uno de esos costos principales es la electricidad, y Qualcomm ha utilizado su historia en el diseño de chips para dispositivos que funcionan con baterías, como los teléfonos inteligentes, para crear un chip llamado Cloud AI 100 que apunta a un consumo de energía parsimonioso.
En los datos de prueba publicados el miércoles por MLCommons, un consorcio de ingeniería que mantiene puntos de referencia de prueba ampliamente utilizados en la industria de chips de IA, el AI 100 de Qualcomm superó al chip insignia H100 de Nvidia en la clasificación de imágenes, según la cantidad de consultas del servidor del centro de datos que cada chip puede realizar por vatio.
Los chips de Qualcomm alcanzan 197,6 consultas del servidor por vatio frente a las 108,4 consultas por vatio de Nvidia. Neuchips, una startup fundada por el veterano académico taiwanés de chips Youn-Long Lin, ocupó el primer lugar con 227 consultas por vatio.
Qualcomm también superó a Nvidia en la detección de objetos con una puntuación de 3,2 consultas por vatio frente a las 2,4 consultas por vatio de Nvidia. La detección de objetos se puede utilizar en aplicaciones como el análisis de imágenes de tiendas minoristas para ver a dónde van los compradores con más frecuencia.
Sin embargo, Nvidia ocupó el primer lugar tanto en términos de rendimiento absoluto como de eficiencia energética en una prueba de procesamiento de lenguaje natural, que es la tecnología de IA más utilizada en sistemas como los chatbots. Nvidia alcanzó 10,8 muestras por vatio, mientras que Neuchips ocupó el segundo lugar con 8,9 muestras por vatio y Qualcomm ocupó el tercer lugar con 7,5 muestras por vatio.
