PyE
SAN FRANCISCO : Cerebras Systems lanzó el martes una herramienta para desarrolladores de IA que les permite acceder a los chips de gran tamaño de la startup para ejecutar aplicaciones, ofreciendo lo que dice es una opción mucho más barata que los procesadores Nvidia estándar de la industria.
El acceso a las unidades de procesamiento de gráficos (GPU) de Nvidia (a menudo a través de un proveedor de computación en la nube) para entrenar e implementar grandes modelos de inteligencia artificial utilizados para aplicaciones como ChatGPT de OpenAI puede ser difícil de obtener y costoso de ejecutar, un proceso al que los desarrolladores se refieren como inferencia.
«Ofrecemos un rendimiento que no se puede conseguir con una GPU», dijo a Reuters el director ejecutivo de Cerebras, Andrew Feldman, en una entrevista. «Lo hacemos con la máxima precisión y lo ofrecemos al precio más bajo».
Se espera que la parte de inferencia del mercado de IA crezca rápidamente y sea atractiva, y que en última instancia valga decenas de miles de millones de dólares si los consumidores y las empresas adoptan herramientas de IA.
La empresa, con sede en Sunnyvale (California), planea ofrecer varios tipos de productos de inferencia a través de una clave para desarrolladores y su nube. La empresa también venderá sus sistemas de inteligencia artificial a clientes que prefieran operar sus propios centros de datos.
Los chips de Cerebras (cada uno del tamaño de un plato de comida y llamados Wafer Scale Engines) evitan uno de los problemas con el procesamiento de datos de IA: los datos procesados por modelos grandes que impulsan aplicaciones de IA normalmente no caben en un solo chip y pueden requerir cientos o miles de chips conectados entre sí.
Eso significa que los chips de Cerebras pueden lograr rendimientos más rápidos, dijo Feldman.
Se planea cobrar a los usuarios tan sólo 10 centavos por millón de tokens, que son una de las formas en que las empresas pueden medir la cantidad de datos de salida de un modelo grande.
Cerebras pretende salir a bolsa y presentó un prospecto confidencial ante la Comisión de Bolsa y Valores este mes, dijo la compañía.
