La frase "humano en el bucle" se está convirtiendo rápidamente en el mantra corporativo de hoy para la adopción de inteligencia artificial. Según esta forma de pensar, la IA es principalmente una tecnología de ampliación que se despliega mejor junto a los trabajadores humanos, como copilotos.
Esta comprensión de la IA como tecnología y su relación con los humanos es un alejamiento llamativo de la visión tradicional de la automatización total que ha impulsado con éxito la introducción de tecnologías novedosas en los negocios. Tome la introducción del mercado financiero automatizado en la década de 1990, que ahora nos resulta muy familiar pero que ha sido adecuadamente descrita como una “transformación del sentido común”. La automatización en este espacio dejó obsoletos a los intermediarios humanos, haciendo posibles formas completamente nuevas de transacción a escala global.
Pero, ¿cuál de estas dos visiones del futuro, la ampliación o la automatización total, se ajusta mejor a una economía impulsada por la inteligencia artificial?
Responder a esta pregunta es crítico porque cada enfoque para la adopción de tecnología puede llevar a un lugar económicamente muy diferente, impactando en la creación de valor y la ventaja competitiva, tanto ahora como en el futuro cercano. Cuando las organizaciones se comprometen con una visión de ampliación, por ejemplo, la tecnología misma cambia a medida que se diseña en torno a los trabajadores humanos. Como resultado, los avances en productividad y rendimiento están inherentemente limitados por lo que los humanos, aunque sean “humanos mejorados”, pueden lograr.
El libro de Herbert Simon, “Las Ciencias de lo Artificial”, proporciona una buena ilustración de estas limitaciones. Un experto en la toma de decisiones organizativas, Simon relata el cambio del Departamento de Estado de EE. UU. de teleimpresoras a impresoras de línea en la década de 1960, que se diseñó para mejorar el manejo de mensajes durante crisis, pero que fracasó porque el flujo de información todavía requería que los humanos la procesaran. El paradigma de la ampliación de la adopción tecnológica puede sacrificar gran parte de lo que es económicamente valioso sobre la automatización: una mayor estandarización, seguridad, velocidad y precisión.
Dadas nuestras limitaciones humanas como procesadores lentos de información en serie, la brecha entre las máquinas computacionalmente poderosas e incluso los “humanos mejorados” solo se está ampliando en la era de la IA. Lo mismo ocurre con la brecha entre la promesa económica de la automatización a nivel de flujo de trabajo y la ampliación a nivel de sus tareas constituyentes. Por eso, comprender dónde la automatización total podría ser factible mañana es una guía poderosa para las inversiones actuales, especialmente con tecnologías incipientes como la IA generativa. Al evaluar los obstáculos reconocibles que suelen impedir la automatización total, proponemos un conjunto de criterios de inversión para ayudar a los líderes a navegar por los sentimientos entremezclados de incertidumbre y promesa que definen el amanecer de la GenAI.
La planta de producción de la cognición
Imagínese un banco comprometido con un modelo “humano en el bucle” para préstamos con IA. Tal banco tendría que diseñar algoritmos de evaluación de riesgos que puedan operar, pero que estén limitados a lo que los trabajadores humanos pueden interpretar razonablemente. El volumen y la velocidad de aprobaciones de crédito también estarían limitados por la capacidad de procesamiento de los trabajadores. En comparación, MyBank de Alibaba, creado en 2015, no tiene oficiales de préstamos ni analistas de riesgos humanos. Los modelos de riesgo de IA de MyBank se alimentan de más de 100,000 variables, lo que le permite aprobar solicitudes de préstamo en minutos con una tasa de incumplimiento competitiva (1.94%) con menos del uno por ciento de los costos de procesamiento de sus competidores. El modelo de MyBank es posible solo porque elimina a los humanos y sus limitaciones cognitivas del proceso, permitiendo que la tecnología automatice completamente el complejo proceso de toma de decisiones crediticias.
En el mundo real de las operaciones físicas, los mejores esfuerzos de automatización, al igual que el modelo de MyBank, son aquellos que tienden hacia la automatización completa de procesos complejos. Por ejemplo, el fabricante japonés Fanuc utiliza robots que trabajan en fábricas sin luces para fabricar nuevos robots. La intervención humana solo es necesaria para mantenimiento rutinario y resolución de problemas. Hoy, tres años después de su lanzamiento, el sistema es tan eficiente que puede operar sin supervisión durante 30 días y producir 11,000 robots al mes. Del mismo modo, el puerto de Tianjin en China, el séptimo más grande del mundo, se asoció con Huawei en 2021 para lanzar un terminal automatizado. El puerto está impulsado por un “cerebro” de IA que automatiza y ajusta horarios y opera de forma remota 76 vehículos autónomos para gestionar los movimientos de contenedores de más de 200 países con prácticamente ninguna intervención humana (tasa de intervención <0.1% versus el estándar de la industria del 4%-5%).
Estos casos de automatización exitosa ya no son casos atípicos, y un patrón común atraviesa cada uno: Las máquinas funcionan mejor cuando interactúan con otras máquinas. Para las máquinas, los humanos son demasiado idiosincrásicos, incluso erráticos, lo que los convierte en socios desconcertantes. Como observó correctamente Karl Marx, “Un sistema organizado de máquinas… es la forma más desarrollada de producción mediante maquinaria.” Por eso es más fácil diseñar un almacén totalmente automatizado (como lo está haciendo Amazon) que diseñar robots que operen de manera efectiva y segura junto a trabajadores humanos que tienden a hacer algo inesperado. El puerto de Tianjin no podría lograr el mismo rendimiento si la mitad de su flotilla fuera operada por humanos.
La IA esencialmente extiende esta lógica a una amplia gama de acciones humanas, convirtiendo gran parte de la actividad cognitiva humana (llamada trabajo de conocimiento) en el equivalente al antiguo piso de fábrica. El rendimiento logrado por los LLM, por ejemplo, demuestra que el lenguaje natural, a pesar de sus sutilezas, es lo suficientemente sistemático y basado en patrones como para ser replicable y, crucialmente, apto para la automatización. La IA, por supuesto, puede ampliar una fuerza laboral humana, pero también puede liderar solamente a un negocio hacia esfuerzos de automatización más atrevidos.
Límites de la automatización como guía para la inversión
Volviendo al dilema que enfrentan muchos líderes empresariales hoy: las tecnologías de IA más recientes son impresionantes, pero más allá de los chatbots y copilotos impulsados por GenAI que ahora son omnipresentes, ¿dónde invertir a continuación? Nuestra opinión es que los líderes pueden tomar decisiones más acertadas cuando pueden distinguir entre las aplicaciones tecnológicas que constituyen un paso hacia la automatización total y aquellas que principalmente amplían a los trabajadores humanos. La mejor manera de hacerlo es centrándose en los obstáculos conocidos para la automatización total, cuya presencia señala los retornos relativamente más modestos asociados con usos meramente de ampliación de una tecnología.
Restricción de integración: interfaces. La automatización es más difícil cuanto más dependiente sea un proceso de la interfaz con diferentes sistemas. Considere el caso infame del proyecto Taurus de la Bolsa de Londres, iniciado en 1983 y cancelado en 1993 con pérdidas estimadas en unos £75 millones. Taurus estaba destinado a automatizar el sistema de trading de acciones basado en papel de Londres, pero falló bajo el peso de los requisitos de rediseño que permitían a los registradores humanos seguir desempeñando un papel de “intermediarios” en el proceso de negociación mediante el uso de sus propios sistemas que luego debían interconectarse con los de la bolsa.
El problema de las interfaces puede ser algo aliviado a medida que los agentes autónomos adquieren la capacidad de acceder, controlar y ejecutar cambios en sistemas externos directamente (por ejemplo, a medida que los chatbots impulsados por GenAI se vuelven capaces de emitir reembolsos, reprogramar vuelos, y así sucesivamente). Esa tecnología aún no ha llegado, y hasta que lo haga, las interfaces seguirán siendo una restricción para automatizar flujos de trabajo de extremo a extremo que dependen de sistemas heredados.
Restricción de ingeniería: sistematicidad. Cuanto menos estructurado sea un proceso dado, más difícil será automatizarlo, ya que la falta de sistematicidad requiere una gestión más involucrada de excepciones, lo cual es más difícil de ingeniar.
Es importante no confundir la complejidad con la sistematicidad. Los procesos complejos que involucran lenguaje natural, como las interacciones en vivo con los clientes humanos, han sido efectivamente sistematizados por LLM. La operación de las cadenas de suministro globales, en cambio, aún resulta esquiva debido a su exposición a choques impredecibles, como conflictos violentos, cambios regulatorios o eventos climáticos dramáticos. Esta falta de previsibilidad dificulta la sistematización y requerirá juicio humano en el futuro previsible.
Restricción económica: singularidad. Incluso cuando alguna actividad es lo suficientemente estable y sistemática desde una perspectiva de ingeniería o diseño, puede que no sea lo suficientemente repetible como para hacer económicamente viable la automatización. Este es típicamente el caso de actividades “únicas”, como la construcción, que tienen especificaciones críticas que son únicas. Levantar un edificio siempre implica adaptar planos generales a las especificidades de un terreno dado. Eso hace que el esfuerzo de automatizar un diseño adaptado sea más oneroso que hacerlo con humanos. La empresa electrónica Foxconn, por ejemplo, se dio cuenta de que usar robots para producir muchos productos electrónicos de consumo a menudo no resulta rentable al final. Ciclos de producción cortos y especificaciones que cambian rápidamente significan que cuando la producción de un artículo determinado puede automatizarse, el ciclo de fabricación ha avanzado a nuevos productos.
Para los ejecutivos, estos tres tipos de restricciones son particularmente importantes de abordar porque tienden a perdurar, en alguna forma, incluso con avances tecnológicos. Por eso el trabajo humano seguirá siendo esencial para todos los negocios y por eso las estrategias de ampliación seguirán siendo importantes a pesar de los esfuerzos por lograr la automatización total. Lo crítico para las empresas es entender qué flujos de trabajo son, de hecho, susceptibles de automatización completa y desarrollar una estrategia tecnológica que diferencie claramente entre lo “ampliable” y lo “automatizable”. Donde la automatización sea de hecho factible, las implementaciones tecnológicas no deben diseñarse “alrededor” de los trabajadores humanos, si un negocio desea maximizar el valor de la IA como fuente de ventaja competitiva.
***
Los líderes empresariales harían bien en familiarizarse nuevamente con el hecho de que el valor económico de la tecnología es mayor cuando permite la automatización completa de flujos de trabajo. Aquellos que comprenden esta realidad pueden utilizarla para evaluar cualquier “caso de uso” de IA presentado a su alcance haciendo una serie de preguntas. ¿El caso de uso es parte de un proceso más amplio que es susceptible de automatización total? ¿Son los otros componentes del proceso lo suficientemente sistemáticos como para que una máquina los replique en el futuro cercano? ¿O son demasiado únicos para hacer que una alternativa automatizada valga la pena? ¿Están demasiado enredados en diferentes sistemas, cada uno con su propia lógica independiente? Las respuestas a esas preguntas pueden ayudar a guiar a los líderes hacia los usos más convincentes de esos preciosos dólares de implementación tecnológica.
Lea otras columnas de Fortune escritas por François Candelon.
François Candelon es socio de la firma de capital privado Seven2 y ex director global del BCG Henderson Institute.
Henri Salha es ex socio y director gerente de Boston Consulting Group y ex vicepresidente senior de operaciones de Essilor.
Namrata Rajagopal es consultora en Boston Consulting Group y embajadora en el BCG Henderson Institute.
David Zuluaga Martínez es socio de Boston Consulting Group y embajador en el BCG Henderson Institute.
Algunas de las empresas mencionadas en esta columna son clientes pasados o actuales de los empleadores de los autores.