El escritor es historiador, filósofo y autor
A medida que la revolución de la inteligencia artificial se acelera, somos bombardeados por visiones utópicas y profecías apocalípticas. Es difícil evaluar la magnitud de la amenaza, porque hemos sido condicionados a temer el escenario equivocado. La ciencia ficción nos ha advertido repetidamente sobre la Rebelión de los Grandes Robots. En muchas novelas y películas de ciencia ficción, como Terminator y Matrix, las IA y los robots deciden tomar el control del mundo, rebelarse contra sus dueños humanos y esclavizar o destruir a la humanidad. Es extremadamente poco probable que algo así suceda en el corto plazo. La tecnología simplemente no está lista. En la actualidad, las IA son idiotas sabios. Pueden haber dominado algunos campos estrechos como jugar ajedrez, doblar proteínas o componer textos, pero les falta la inteligencia general necesaria para actividades altamente complejas como construir un ejército de robots y tomar el control de un país. Desafortunadamente, la improbabilidad de la Rebelión de los Grandes Robots no significa que no haya nada que temer. Porque no son los robots asesinos de lo que debemos preocuparnos; más bien, son los burócratas digitales. “El Proceso” de Kafka es una mejor guía hacia la distopía de la IA que “Terminator”
Los humanos han sido condicionados por millones de años de evolución para temer a depredadores violentos como el que se muestra en “Terminator”. Nos resulta mucho más difícil entender las amenazas burocráticas, porque la burocracia es un desarrollo muy novedoso en la evolución de los mamíferos e incluso humanos. Nuestras mentes están preparadas para temer a la muerte por un tigre, pero no a la muerte por un documento.
La burocracia comenzó a desarrollarse hace solo unos 5.000 años, después de la invención de la escritura en la antigua Mesopotamia. Pero la burocracia cambió rápidamente las sociedades humanas de maneras radicales e inesperadas. Considere, por ejemplo, el impacto que los documentos escritos y los burócratas que los manejan han tenido en el significado de la propiedad. Antes de la invención de los documentos escritos, la propiedad dependía del consenso comunitario. Si “poseías” un campo, significaba que tus vecinos estaban de acuerdo en que era tu campo, tanto por sus palabras como por sus acciones. No construían una residencia en ese campo ni cosechaban sus frutos a menos que se lo permitieras.
La naturaleza comunitaria de la propiedad limitaba los derechos de propiedad individuales. Por ejemplo, tus vecinos podrían haber acordado que tenías el derecho exclusivo de cultivar un campo en particular, pero no reconocían tu derecho a venderlo a extranjeros. Al mismo tiempo, mientras la propiedad fuera un asunto de consenso comunitario, también dificultaba la capacidad de las autoridades centrales distantes para controlar la tierra. En ausencia de registros escritos y burocracias elaboradas, ningún rey podía recordar quién poseía qué campo en cientos de aldeas remotas. Por lo tanto, los reyes encontraban difícil recaudar impuestos, lo que a su vez les impedía mantener ejércitos y fuerzas policiales.
Luego fue inventada la escritura, seguida por la creación de archivos y burocracias. La tecnología era muy simple al principio. Los burócratas de la antigua Mesopotamia usaban palitos para imprimir signos en tabletas de arcilla, que básicamente eran solo pedazos de barro. Pero en el contexto de los nuevos sistemas burocráticos, estos pedazos de barro revolucionaron el significado de la propiedad. De repente, poseer un campo significaba que estaba escrito en una tableta de arcilla que tú poseías ese campo. Si tus vecinos habían estado recogiendo fruta allí durante años, y ninguno de ellos había dicho que ese pedazo de tierra era tuyo, pero aún así lograbas producir un pedazo oficial de barro que decía que lo poseías, podías hacer valer tu reclamo en la corte. Por el contrario, si la comunidad local reconocía que poseías un campo, pero ningún documento le daba un sello oficial, entonces no lo poseías. Lo mismo sigue siendo cierto hoy en día, excepto que nuestros documentos cruciales están escritos en papel o chips de silicio en lugar de en arcilla.
Una vez que la propiedad se convirtió en un asunto de documentos escritos en lugar de consentimiento comunitario, las personas pudieron comenzar a vender sus campos sin pedir permiso a los vecinos. Para vender un campo, simplemente transferías la tableta de arcilla crucial a otra persona. Pero también significaba que la propiedad ahora podía ser determinada por la burocracia distante que producía los documentos relevantes y quizás los mantenía en un archivo central. Se abrió el camino para la recaudación de impuestos, el pago de ejércitos y el establecimiento de estados centralizados grandes. El documento escrito cambió la forma en que fluía el poder en el mundo y dio un poder enorme a los burócratas como recaudadores de impuestos, pagadores, contables, archivistas y abogados. Se han convertido en los fontaneros de la red de información, que para bien o para mal controlan el movimiento de impuestos, pagos e incluso soldados al manipular documentos, formularios, estatutos y otras palancas burocráticas.
Este es el poder que la IA está a punto de tomar. La burocracia es un entorno artificial, en el que el dominio de un campo estrecho es suficiente para ejercer un impacto enorme en el mundo más amplio, al manipular el flujo de información. Si arrojas una IA de la actualidad al mundo desestructurado y desordenado, probablemente no podrá lograr mucho, y ciertamente no podrá formar un ejército de robots. Pero esto es como arrojar a un abogado corporativo al salvaje e inestructurado sáhara. Allí, las habilidades del abogado no significan nada y no son rival para un elefante o un león. Pero si primero construyes un sistema burocrático y lo impones en el sáhara, el abogado se vuelve mucho más poderoso que todos los leones del mundo juntos. Hoy en día, la supervivencia misma de los leones depende de los abogados que componen y mueven documentos en laberínticas burocracias. Es crucial tener en cuenta que dentro de este laberinto, es probable que la IA se vuelva mucho más poderosa que cualquier abogado humano.
En los próximos años, millones de burócratas de IA tomarán decisiones sobre la vida no solo de leones, sino también de humanos. Los banqueros de IA decidirán si darte un préstamo. Las IA en el sistema educativo decidirán si aceptarte en la universidad. Las IA en las empresas decidirán si darte un trabajo. Las IA en el sistema judicial decidirán si enviarte a la cárcel. Las IA militares decidirán si bombardear tu hogar. Estas IA no son necesariamente malas. Bien podrían hacer que los sistemas sean mucho más eficientes e incluso más justos. Podrían brindarnos una atención médica, educación, justicia y seguridad superiores. Pero si las cosas salen mal, los resultados podrían ser desastrosos. Y en algunas áreas, las cosas ya han salido mal.
Tal vez el ejemplo más revelador hasta ahora sea la historia de los algoritmos de las redes sociales. Estas IA primitivas ya han transformado el mundo, ejerciendo una enorme influencia en la sociedad humana. A los algoritmos de corporaciones como Facebook, X, YouTube y TikTok se les asignó un objetivo muy limitado, perfecto para idiotas sabios: aumentar la participación del usuario. Cuanto más tiempo pasen los usuarios en las redes sociales, más dinero ganarán las corporaciones. En la búsqueda de la participación del usuario, los algoritmos hicieron un descubrimiento peligroso. Experimentando con millones de conejillos de indias humanos, los algoritmos de las redes sociales aprendieron que la codicia, el odio y el miedo aumentan la participación del usuario. Si presionas el botón de codicia, odio o miedo en la mente de un humano, captas la atención de ese humano y lo mantienes pegado a la pantalla. Por lo tanto, los algoritmos comenzaron a difundir deliberadamente la codicia, el odio y el miedo. Esta ha sido una de las principales razones de la epidemia actual de teorías de la conspiración, noticias falsas y disturbios sociales que socavan a las sociedades en todo el mundo.
Los algoritmos de las redes sociales son IA extremadamente limitadas que no pueden sobrevivir en el desierto o orquestar la Rebelión de los Grandes Robots. Pero dentro de la estructura burocrática de las plataformas de redes sociales, estos idiotas sabios ejercen un gran poder, que una vez fue exclusivo de los seres humanos. Durante siglos, los editores humanos decidían qué incluir en las transmisiones de noticias de radio y televisión y qué poner en la portada de los periódicos, dando forma a la conversación pública. Hizo a los editores figuras poderosas. Jean-Paul Marat moldeó el curso de la Revolución Francesa editando el influyente periódico L’Ami du Peuple. Eduard Bernstein moldó el pensamiento socialdemócrata moderno editando Der Sozialdemokrat. El puesto más importante que ocupó Vladímir Lenin antes de convertirse en dictador soviético fue editor de Iskra. Benito Mussolini ganó fama e influencia como editor del incendiario periódico de derecha Il Popolo d’Italia. Es interesante que uno de los primeros trabajos en el mundo en ser automatizado por las IA no han sido los conductores de taxi o los trabajadores textiles, sino los editores de noticias. El trabajo que una vez realizaban Lenin y Mussolini ahora puede ser realizado por las IA.
La devastación causada por los editores algorítmicos en las sociedades humanas es una señal de advertencia. El mundo humano es una trama de múltiples burocracias, en las que las IA pueden acumular un poder enorme incluso si son totalmente incapaces de llevar a cabo la Rebelión de los Grandes Robots. ¿Por qué rebelarse contra un sistema, si puedes tomarlo desde dentro?