OpenAI asegura que sus nuevos chips superan a Nvidia en pruebas de rendimiento

OpenAI asegura que su chip Jalapeno superó al GB300 de Nvidia en pruebas de rendimiento y eficiencia energética. La compañía prevé comenzar a usarlo a finales de este año para reducir costos de infraestructura de IA.

Por

Bloomberg — OpenAI ha afirmado que sus nuevos chips ‘Jalapeno’ obtuvieron mejores resultados que la gama actual de Nvidia Corp. (NVDA) durante las pruebas, lo que pone de relieve los avances de la empresa en el desarrollo interno de procesadores de IA.

En las pruebas, el procesador ‘Jalapeno’ se situó a la cabeza en dos categorías: la cantidad de trabajo de IA que podía gestionar por unidad de potencia y su velocidad a la hora de proporcionar respuestas. El semiconductor se comparó con el GB300 de Nvidia, que era la opción líder en el sistema de evaluación comparativa público utilizado en la prueba, según declaró el lunes en una entrevista Richard Ho, responsable de chips de OpenAI.

Ver más: OpenAI refuerza la seguridad para clientes de pago y analizará riesgos entre varias interacciones

El fabricante de ChatGPT tiene previsto empezar a utilizar los nuevos chips para dar soporte a sus modelos de inteligencia artificial a finales de este año, como parte de una iniciativa más amplia para construir su propia infraestructura de IA. Se une así a una avalancha de empresas que trabajan en el desarrollo de chips de IA propios, un campo dominado actualmente por Nvidia.

El nuevo chip debería reducir significativamente los costos para OpenAI a medida que se vaya implantando de forma más generalizada, afirmó Ho en el programa del martes. “Es un chip realmente bueno; debería reducir los costos considerablemente”, afirmó. El objetivo de la empresa es gestionar más tareas de IA con sus propios chips, siempre y cuando OpenAI pueda aumentar la producción de ‘Jalapeno’ y el ahorro de costos sea tan sustancial como se espera, añadió.

OpenAI creó ‘Jalapeno’ en colaboración con Broadcom Inc. (AVGO), empresa que fabrica chips a medida para diversos clientes. Ambas empresas, que anunciaron su acuerdo el año pasado, destacaron en junio la rapidez con la que se desarrolló el procesador, afirmando que se había materializado en un tiempo récord.

Por lo general, algunos chips son más potentes a la hora de ejecutar tareas de IA y otros son mejores en cuanto a rapidez de respuesta, pero ‘Jalapeno’ ofrece ambas cosas, señaló Ho. OpenAI determinará cuáles de sus modelos de IA se ejecutarán en ‘Jalapeno’, añadió, lo que permitirá a los clientes beneficiarse al seleccionar opciones que ofrezcan bien un ahorro de costos, bien un mejor rendimiento.

Ver más: Nvidia invertirá hasta US$105.000 millones en un centro de datos para OpenAI

“En el laboratorio, ‘Jalapeno’ está demostrando su rendimiento tanto en el ámbito del alto rendimiento, lo que significa que podrá dar servicio a muchos clientes de forma más económica, como en el de la baja latencia, lo que implica que, para aquellos clientes a los que les importe este aspecto, el tiempo de respuesta será realmente muy rápido”, afirmó Ho.

Dado que el chip está obteniendo excelentes resultados a baja tensión, 700 vatios, ‘Jalapeno’ permitirá a OpenAI ahorrar dinero en el funcionamiento de sus centros de datos, donde la energía es un costo clave, afirmó.

‘Jalapeno’ no se ha sometido a pruebas comparativas con la nueva generación de chips de Nvidia, Vera Rubin, cuya comercialización acaba de comenzar. Tampoco está diseñado para el entrenamiento de modelos de IA, un ámbito en el que destaca la tecnología de Nvidia. Jalapeno está destinado a la fase de inferencia de la IA: la etapa en la que los modelos ya han sido entrenados y pueden empezar a responder a solicitudes y a realizar tareas.

Las ventajas de Jalapeno en cuanto a velocidad son tales que OpenAI puede alcanzar resultados que antes solo eran posibles con chips que utilizan un tipo diferente de memoria y diseño. Por ejemplo, OpenAI recurre actualmente a la tecnología de Cerebras Systems Inc. (CBRS) para algunos de sus modelos. Sin embargo, ese tipo de chip es más adecuado para modelos más pequeños, señaló Ho.

Ver más: OpenAI pausa trabajos en su modelo Astra ante preocupaciones de ciberseguridad

Jalapeno, por el contrario, puede gestionar modelos más grandes, añadió. Aun así, la tecnología de OpenAI no sustituirá a proveedores como Cerebras a corto plazo, señaló Ho.

“Tenemos una gran necesidad de potencia de cálculo, y por eso hemos contratado a tantos proveedores diferentes”, explicó. “Esta situación se mantendrá durante algún tiempo”.

Ho afirmó que OpenAI desea hacer público lo que ha llevado a cabo con el fin de impulsar la innovación en el ámbito de los chips de IA.

Otras startups están trabajando en ideas similares. Etched, que anunció la semana pasada que había recaudado fondos con una valoración de US$21.000 millones, está empezando a comercializar un chip de bajo voltaje. Y una empresa llamada MatX, fundada por dos antiguos empleados de la división de semiconductores de Google, está trabajando en un semiconductor que pretende alcanzar tanto un alto rendimiento como una baja latencia.

OpenAI probó públicamente sus nuevos chips utilizando uno de sus modelos más pequeños y de código abierto, así como modelos de terceros de DeepSeek y Moonshot AI. Jalapeno ofreció mayores ventajas en el modelo Kimi de Moonshot, el más grande en el que OpenAI lo probó. Durante las pruebas internas, también obtuvo buenos resultados al ejecutar algunos de los modelos grandes y avanzados de OpenAI que aún no se han lanzado. Esto sugiere que el diseño del chip “adquiere mayor valor a medida que las cargas de trabajo se hacen más grandes y exigentes”, afirmó la empresa en una entrada de blog.

Ver más: Así será el primer dispositivo de OpenAI: un altavoz con IA, sensores y piezas móviles

OpenAI señaló que utilizó sus propios modelos de IA para desarrollar el chip con mayor rapidez. La segunda versión ya se encuentra en una fase muy avanzada del proceso. La empresa espera completar el tape out del chip, la etapa final del diseño, en los “próximos meses”, afirmó Ho.

OpenAI ya está diseñando los conceptos para la tercera generación, ya que la empresa busca reducir los costos de la ingente infraestructura de IA que está construyendo en todo el mundo. “Nos encontramos en un nivel de costos y de consumo energético que reducirá el costo de la infraestructura”, afirmó Ho. “Este es el primer paso”.

Aunque OpenAI destaca su propio trabajo y lo compara con el de Nvidia, Ho se esforzó por señalar que sigue considerando a esa empresa como un proveedor clave de chips. “Nvidia es un socio realmente bueno, y seguimos necesitando mucho de Nvidia”, afirmó.

Con la colaboración de Edward Ludlow.

Lea más en Bloomberg.com