Huawei busca ganar cuota de mercado en chips de IA de Nvidia en China.

Huawei busca ampliar su participación en el mercado chino de chips de inteligencia artificial dominado por Nvidia, ayudando a empresas locales a adoptar su competencia para tareas de “inferencia”.

Las principales empresas de IA en China dependen de las unidades de procesamiento gráfico (GPU) fabricadas por Nvidia para “entrenar” grandes modelos de lenguaje, con los productos del fabricante de chips de EE. UU. Visto como vital para desarrollar la tecnología.

En lugar de desafiar a Nvidia en el entrenamiento, Huawei está posicionando sus últimos procesadores de IA Ascend como el hardware de elección para grupos chinos que ejecutan “inferencia”, la computación realizada por los LLM para generar una respuesta a un comando.

El gigante tecnológico chino apuesta a que la inferencia será una fuente futura de demanda mayor si el ritmo de entrenamiento de modelos se reduce y las aplicaciones de IA como chatbots se vuelven más comunes.

“El entrenamiento es importante, pero solo ocurre unas pocas veces”, dijo Georgios Zacharopoulos, investigador senior en IA que trabaja en la aceleración de la inferencia en el laboratorio de Huawei en Zurich. “Huawei se enfoca principalmente en la inferencia, lo que en última instancia servirá a más clientes.”

Se enfoca en el camino técnicamente menos desafiante pero potencialmente lucrativo de adaptar modelos de IA entrenados en productos de Nvidia para ejecutarse en chips Ascend, según empleados de la compañía y clientes de Ascend. Dado que las GPU de Nvidia y Ascend operan en diferentes software, Huawei está ayudando a las empresas a utilizar otra herramienta de software para hacer que los dos sistemas sean compatibles.

El impulso de Huawei cuenta con el respaldo del gobierno. Funcionarios chinos han instado a los gigantes tecnológicos locales a comprar más chips de IA de Huawei y alejarse de Nvidia.

LEAR  ¿Es una buena idea comprar acciones de Palantir antes del 20 de septiembre?

Una persona familiarizada con las operaciones de Nvidia en China dijo que Huawei era vista internamente como el competidor más serio en el país, agregando que su capacidad de diseño de chips era “avanzada”.

Washington ha buscado frenar el desarrollo de la IA en Beijing con controles de exportación destinados a obstaculizar el desarrollo de tecnologías sensibles en China.

A diferencia de sus rivales estadounidenses como OpenAI y Google, las empresas no pueden acceder a las GPU más avanzadas en China. Pero aunque los grupos chinos solo pueden adquirir las GPU menos potentes de Nvidia adaptadas para cumplir con los controles de exportación, las GPU menos potentes siguen siendo muy demandadas, ya que se consideran mejores que las alternativas locales.

Los analistas y los investigadores de Huawei dijeron que Ascend aún no estaba lista para reemplazar a Nvidia para el entrenamiento de modelos debido a problemas técnicos, como una falla en las formas en que los chips interactúan entre sí dentro de un “cluster” más amplio de chips de IA al entrenar modelos cada vez más grandes.

“Si bien los chips Ascend funcionan bien en una base por chip, hay un cuello de botella con la conectividad entre chips”, dijo Lin Qingyuan, analista de semiconductores de Bernstein en China. “Al entrenar un modelo grande, debe dividirlo en tareas más pequeñas. Si un chip falla, el software debe encontrar una manera de que los otros chips lo reemplacen sin demora.”

Otro desafío para Huawei es convencer a los desarrolladores de cambiar del software Cuda de Nvidia, conocido como el “secreto” de la empresa por ser fácil de usar para los desarrolladores y capaz de acelerar considerablemente el procesamiento de datos.

Pero se espera que la próxima versión actualizada de su chip de IA, el Ascend 910C de Huawei, también aborde estas preocupaciones. “Esperamos que esta nueva generación de hardware venga con un software mejorado que lo haga más accesible para los desarrolladores”, dijo un empleado de Huawei, que prefirió no ser nombrado.

LEAR  La votación presidencial de Rusia inicia su último día con acusaciones de sabotaje de Kyiv according to Reuters. La votación presidencial en Rusia comienza su último día con acusaciones de sabotaje por parte de Kyiv según Reuters.

Huawei y Nvidia enfrentan una fuerte competencia. El grupo de internet chino Baidu y el diseñador de chips Cambricon han avanzado en el desarrollo de chips de IA. Mientras tanto, en los EE. UU., Amazon y Microsoft también apuestan a que pueden obtener una mayor participación de mercado en chips para inferencia a medida que las aplicaciones de IA se vuelven más comunes.

Estimaciones de SemiAnalysis, una consultora de chips, sugieren que Nvidia obtuvo $12 mil millones en ventas en China el año pasado al entregar 1 millón de sus chips H20 en el país, vendiendo el doble de chips de IA que Huawei con su Ascend 910B.

“Las GPU específicas de China de Nvidia, H20, conforman la mayoría de los chips de IA vendidos en China. Pero la ventaja se está reduciendo rápidamente a medida que Huawei aumenta la capacidad de fabricación”, dijo Dylan Patel, analista principal de SemiAnalysis.

Insiders de la industria advirtieron que la incursión de Huawei en chips de IA también está siendo limitada por una oferta insuficiente, con dos posibles clientes que dijeron al Financial Times que no pudieron asegurar los chips.

Huawei no respondió a una solicitud de comentarios. Nvidia se negó a comentar.

Los analistas han dicho que la fabricación de Huawei probablemente enfrenta desafíos debido a los controles de exportación de EE. UU. que han dejado a las fábricas chinas dependientes de equipos de fabricación de chips obsoletos.

El enfoque en la inferencia también apunta a una dinámica evolutiva en la IA china que difiere de la de los EE. UU. Los controles de exportación de Washington significan que los actores de la IA china no están participando en la misma carrera que los rivales del Valle del Silicio Meta, x.AI de Elon Musk y OpenAI para construir grandes megaclusters de las GPU más avanzadas de Nvidia.

LEAR  Las tropas israelíes disparan contra multitudes que buscan ayuda mientras funcionarios de Gaza afirman que docenas han sido asesinados.

“Las empresas chinas están jugando un juego diferente. Prestan mucha más atención a la inferencia que los EE. UU. porque es posible lograr grandes ganancias de eficiencia incluso con chips menos potentes, lo que también significa que pueden lograr la comercialización más rápidamente”, dijo el analista de Bernstein Lin.

Las empresas chinas apuestan a que pueden seguir siendo competitivas en IA al reducir los costos de la inferencia, lo que a su vez hace que sea más barato ejecutar aplicaciones de IA, dijo.

El mes pasado, la startup DeepSeek con sede en Hangzhou y Beijing lanzó su modelo V3, que llamó la atención debido a sus bajos costos de entrenamiento e inferencia en comparación con modelos comparativos en los EE. UU.

La compañía propuso una nueva forma para que un modelo de IA se concentre selectivamente en partes específicas de los datos de entrada como una forma de reducir los costos de ejecución del modelo. También utilizó la técnica de “mixture of experts” popular entre otras startups de IA chinas, que también ayuda a acelerar la inferencia ya que solo se utiliza parte del modelo para generar una respuesta.

DeepSeek dijo que Huawei había adaptado con éxito V3 a Ascend, proporcionando instrucciones detalladas para los desarrolladores sobre cómo usar el chip. El FT ha informado previamente que Huawei había enviado ingenieros para ayudar a los clientes a migrar de Nvidia a Ascend.

Reporte adicional de Zijing Wu en Hong Kong

Leave a Comment