“
Las principales figuras en inteligencia artificial se enfrentaron sobre los peligros de la tecnología que avanza rápidamente en el Foro Económico Mundial de esta semana, mientras la exageración giraba en torno a un proyecto de infraestructura de IA de $500 mil millones promocionado por Donald Trump.
Pioneros de la IA, como el jefe de Google DeepMind, Sir Demis Hassabis, el cofundador de Anthropic, Dario Amodei, y el “padre de la IA”, el científico informático Yoshua Bengio, utilizaron la reunión en Davos para reiterar advertencias contundentes sobre las amenazas de la IA, a medida que los intereses comerciales y las rivalidades geopolíticas pasan por encima de las preocupaciones sobre la seguridad.
Aunque Hassabis reconoció que el “genio no puede volver a la botella”, dijo que la inteligencia artificial general, cuando las computadoras superan las capacidades cognitivas humanas, podría amenazar a la civilización si queda fuera de control o es secuestrada por actores maliciosos. Esto es especialmente cierto con los modelos de lenguaje grandes que son “de código abierto” y accesibles para todos.
“Aquí hay mucho más en juego que simplemente empresas o productos”, dijo el ganador del Premio Nobel en una entrevista con el Financial Times. “[Es] el futuro de la humanidad, la condición humana y hacia dónde queremos ir como sociedad.”
Amodei, cuya startup crea el chatbot Claude y cuenta con el respaldo de Google y Amazon, dijo que le preocupaba que los gobiernos autoritarios utilizaran la IA y estaba “muy preocupado por escenarios como los de 1984, o peores”.
“La ciencia no sabe cómo podemos controlar las máquinas que incluso están a nuestro nivel de inteligencia, y peor aún si son más inteligentes que nosotros”, agregó Bengio durante un panel. “Hay personas que dicen, ‘no te preocupes, lo resolveremos’. Pero, ¿entiendes las consecuencias si no lo resolvemos?”
Su postura fue criticada como hipócrita por Yann LeCun, científico jefe de IA de Meta, que ha invertido miles de millones en desarrollar un modelo LLM de código abierto llamado Llama. Dijo que tales preocupaciones eran contradichas por la feroz competencia de sus rivales para construir y vender los mejores modelos.
“Yoshua y Dario han expresado opiniones en contra del código abierto y eso es realmente muy peligroso”, dijo en una entrevista. “Los obstáculos a la distribución de código abierto llevarían a un monopolio regulatorio por parte de unos pocos jugadores, ya sea de la costa oeste de Estados Unidos o de China… [poniendo] el poder en manos de un pequeño número de personas.
“Es muy extraño viniendo de personas como Dario. Nos reunimos ayer donde dijo que los beneficios y riesgos de la IA están aproximadamente en el mismo orden de magnitud, y yo dije ‘si realmente crees esto, ¿por qué sigues trabajando en IA?'”, agregó. “Así que creo que él es un poco doble cara en esto.”
Mientras científicos e ingenieros debatían sobre el riesgo-recompensa de la IA, ejecutivos de negocios mostraban entusiasmo desenfrenado por la tecnología.
“No hay contrarios”, dijo Ervin Tu, presidente del grupo de inversión tecnológica holandés Prosus. “Si tienes algún aprecio por lo que los modelos de lenguaje grandes y los agentes entrenados en ellos pueden hacer, sería difícil como humano concluir que son transformacionales y serán increíblemente disruptivos en cada industria.”
El miércoles, la atmósfera febril se vio aún más cargada con OpenAI, SoftBank y Oracle anunciando una empresa conjunta de infraestructura de IA de EE. UU. de $500 mil millones llamada “Stargate”.
Trump recibió a sus directores ejecutivos, Sam Altman, Masayoshi Son y Larry Ellison, en la Oficina Oval el martes, antes de firmar órdenes ejecutivas esta semana que eliminarían muchas protecciones en torno al desarrollo de la tecnología. El nuevo presidente de EE.UU. dijo que las medidas garantizarían la primacía estadounidense en la tecnología.
“En OpenAI, creemos que la infraestructura es el destino”, dijo la directora financiera de OpenAI, Sarah Friar. “[Stargate] se trata de más cómputo. Más cómputo construye mejores modelos. Modelos mejores resuelven problemas más complejos y ofrecen más beneficios para las personas y las empresas.”
Stargate dominó el debate en Davos durante el resto de la semana, con muchos, incluido Elon Musk, expresando dudas en su sitio de redes sociales, X, sobre cómo financiarían la gran inversión prometida los tres.
El FT informó el viernes que Stargate aún no ha asegurado el financiamiento que necesita, no recibirá financiamiento gubernamental y solo servirá a OpenAI una vez completado. Hasta ahora, SoftBank y OpenAI tienen la intención de aportar más de $15 mil millones cada uno para el proyecto, con la esperanza de recaudar una combinación de capital de sus inversores existentes y deuda para financiar Stargate.
La nueva empresa también se tomó como la última evidencia de una fisura en la relación entre Altman y el director ejecutivo de Microsoft, Satya Nadella, y su principal ejecutivo de IA, Mustafa Suleyman, el ex cofundador de DeepMind que dejó su propia empresa emergente y se unió a Microsoft a principios del año pasado.
“Las tensiones que surgieron entre Mustafa Suleyman y Sam Altman en Davos el año pasado fueron solo el principio”, dijo el director ejecutivo de Salesforce, Marc Benioff, que compite con Microsoft en la venta de agentes potenciados por IA a empresas.
“Microsoft está acelerando su propio desarrollo de IA… Este patrón refleja la historia de Microsoft con sus ‘socios’”, agregó Benioff. “Esto podría marcar el principio del fin de la relación, por lo que es crucial que OpenAI se expanda a otras plataformas rápidamente.”
“Marc no tiene ni idea de lo que está hablando”, dijo el portavoz de Microsoft, Frank Shaw.
Microsoft ha invertido casi $14 mil millones en OpenAI desde 2019 y, a cambio, negoció derechos sobre su propiedad intelectual y ser su proveedor exclusivo de computación en la nube. Pero el último acuerdo fue cancelado junto con el anuncio de Stargate.
En Davos, Nadella también puso en duda los compromisos de gasto de Stargate y promocionó los $80 mil millones planeados en gastos de capital de Microsoft.
“Todo lo que sé es que soy bueno para mis $80 mil millones”, dijo, respondiendo más tarde a Musk en la plataforma de redes sociales X: “¡Y todo este dinero no es solo para exagerar la IA, sino para construir cosas útiles para el mundo real!”
Stargate es solo el último ejemplo de una carrera armamentista de infraestructura para centros de datos en EE.UU. mientras se prepara para la siguiente etapa del auge económico de la IA. xAI de Musk construyó una supercomputadora llamada “Coloso” que contenía 100,000 chips Nvidia interconectados en solo tres meses el año pasado y se comprometió a expandir el número en diez veces.
BlackRock y Microsoft se están preparando para lanzar un fondo de inversión de IA de $30 mil millones para construir centros de datos y proyectos de energía para satisfacer las crecientes demandas derivadas del sector tecnológico. El viernes, el director ejecutivo de Meta, Mark Zuckerberg, dijo que la empresa gastaría entre $60 mil millones y $65 mil millones en infraestructura de capital este año mientras expande sus equipos de IA.
“He tenido reuniones con clientes sin parar, en todos los sectores. No creo que haya un solo director ejecutivo con el que haya hablado que no sepa que necesita desplegar IA”, dijo Friar de OpenAI. “La IA ya no es solo un tema a tratar; es el tema. Ya no es solo un concepto abstracto o una visión futurista. Ya está aquí.”
Reporte adicional de Harriet Agnew en Davos
“