Para tener una idea de hacia dónde se dirige la inteligencia artificial en las campañas electorales, basta con mirar a la India, la democracia más grande del mundo, ya que comienza a dirigirse a las urnas el viernes.
Una versión generada por inteligencia artificial del primer ministro Narendra Modi que se ha compartido en WhatsApp muestra las posibilidades de alcance ultrapersonalizado en un país con casi mil millones de votantes. En el video, un clip de demostración cuya fuente no está clara, el avatar del Sr. Modi se dirige directamente a varios votantes, llamándolos por su nombre.
Sin embargo, no es perfecto. El Sr. Modi parece llevar dos pares de gafas diferentes, y algunas partes del video están pixeladas.
Más abajo en la jerarquía, los trabajadores del partido del Sr. Modi están enviando videos por WhatsApp en los que sus propios avatares de inteligencia artificial entregan mensajes personales a votantes específicos sobre los beneficios del gobierno que han recibido y piden su voto.
Esos mensajes de video pueden generarse automáticamente en cualquiera de las docenas de idiomas de la India que hable el votante. Lo mismo ocurre con los mensajes telefónicos de chatbots con inteligencia artificial que llaman a los electores con las voces de líderes políticos y buscan su apoyo.
Tal alcance requiere una fracción del tiempo y dinero gastado en las campañas tradicionales, y tiene el potencial de convertirse en un instrumento esencial en las elecciones. Pero a medida que la tecnología irrumpe en el escenario político, hay pocos límites para evitar su mal uso.
Los chatbots y los videos personalizados pueden parecer más o menos inofensivos. Sin embargo, los expertos se preocupan de que los votantes tengan cada vez más dificultades para distinguir entre mensajes reales y sintéticos a medida que avanza y se difunde la tecnología.
“Será el Oeste Salvaje y un espacio de inteligencia artificial no regulado este año”, dijo Prateek Waghre, director ejecutivo de la Internet Freedom Foundation, un grupo de derechos digitales con sede en Nueva Delhi. La tecnología, agregó, se está introduciendo en un panorama mediático ya contaminado con desinformación.
En todo el mundo, las elecciones se han convertido en un terreno de pruebas para el auge de la inteligencia artificial. Las herramientas se han utilizado para convertir a un candidato presidencial argentino en Indiana Jones y en un Cazafantasmas. Durante las primarias de Nuevo Hampshire, los votantes recibieron mensajes de robocall instándoles a no votar, con una voz muy probablemente generada artificialmente para sonar como la del presidente Biden.
Y en la India, el Partido Bharatiya Janata del Sr. Modi, o B.J.P., y el partido opositor Congreso Nacional Indio se han acusado mutuamente de difundir contenido deepfake relacionado con las elecciones en línea.
Uno de los puestos de avanzada en esta nueva frontera india está en el estado desértico occidental de Rajastán. En la planta baja de un edificio residencial en un callejón polvoriento, un joven de 31 años, Divyendra Singh Jadoun, que abandonó la universidad, opera una start-up de inteligencia artificial, The Indian Deepfaker.
Su equipo de nueve personas ha estado creando comerciales con avatares generados por inteligencia artificial de actores y actrices de Bollywood. Pero a principios de este año, los partidos políticos y los políticos empezaron a pedirle que hiciera por ellos lo que había hecho por las celebridades. De las 200 solicitudes, según dijo el Sr. Jadoun, aceptó 14.
Uno de los que recibe el tratamiento de inteligencia artificial es Shakti Singh Rathore, un miembro del B.J.P. de 33 años. Su trabajo en esta temporada electoral es informar al mayor número posible de personas sobre los programas y políticas del Sr. Modi. Así que decidió crear una réplica de sí mismo.
“La inteligencia artificial es maravillosa y es el camino a seguir”, dijo el Sr. Rathore mientras se instalaba frente a una cámara de video en la oficina de The Indian Deepfaker, listo para ser encarnado digitalmente. “¿Cómo más puedo llegar a los beneficiarios de los programas del Sr. Modi en tantos números y en tan corto tiempo?”
Mientras el Sr. Rathore ajustaba una bufanda azafrán con el logo del partido que colgaba de su cuello, el Sr. Jadoun le instruyó, “Solo mira hacia la cámara y habla como si la persona estuviera sentada justo frente a ti”.
Con aproximadamente cinco minutos de material, incluyendo una grabación de audio y tomas del perfil, el Sr. Jadoun se puso a trabajar. Dijo que utiliza sistemas de inteligencia artificial de código abierto y los perfecciona con su propio código.
Primero, el rostro del Sr. Rathore se aisló de cada fotograma de la grabación.
Luego se recopilaron datos de sus rasgos faciales, incluido el tamaño de su rostro y labios, así como su mirada.
El Sr. Jadoun dijo que el conjunto de datos luego se introdujo en modelos de inteligencia artificial que aprenden a predecir patrones faciales.
“Necesitas seguir ejecutándolo a través del programa y perfeccionando el rostro hasta obtener el mejor rostro posible”, dijo.
Un “algoritmo de clonación” también analizó la grabación de audio, aprendiendo el ritmo y las inflexiones de la voz. El Sr. Jadoun dijo que a menudo se tardaba de seis a ocho horas en ajustar el rostro y que los labios se sincronizaran con las palabras. El resto es en su mayoría automatizado.
En una demostración, tomó alrededor de cuatro minutos crear unos 20 videos de saludo personalizados.
El Sr. Jadoun dijo que su equipo podría producir hasta 10,000 videos al día. Para trabajos más grandes con plazos fijos, alquilan unidades de procesamiento gráfico.
La inteligencia artificial generativa también puede eliminar las barreras del idioma, lo cual es especialmente útil en un país lingüísticamente diverso. El avatar de Rathore puede ser programado para hablar en idiomas regionales y llegar a los rincones más remotos de la India.
Los partidos políticos no sólo están enviando mensajes de video a los electores, también están utilizando voces clonadas para llamar a la gente directamente, todo ello impulsado por chatbots como ChatGPT.
En el pasado, cuando un representante del partido llamaba a los votantes, estos colgaban el teléfono, dijo Rathore. “Pero ahora, cuando un líder local menciona el nombre de un votante, inmediatamente llama su atención”.
Durante la conversación, el chatbot pregunta sobre programas gubernamentales locales que ofrecen electricidad gratuita o financiación para start-ups. El Sr. Jadoun dijo que las llamadas se grababan y transcribían para el control de calidad y el entrenamiento de inteligencia artificial.
El Sr. Rathore dijo que había gastado alrededor de $24,000 de su propio dinero para llegar a unos 1.2 millones de personas a través de sus mensajes de video y llamadas telefónicas, y para recibir información sobre quiénes no respondieron. Lo consideró una inversión en su futuro con el B.J.P.
Nikhil Pahwa, editor de MediaNama, que cubre los medios digitales en la India, dijo que los mensajes personalizados podrían ser particularmente poderosos entre los indios.
“La India es un país donde a la gente le encanta tomarse fotos con imitadores de celebridades”, dijo. “Así que si reciben una llamada del primer ministro, por ejemplo, y él habla como si los conociera, supiera dónde viven y cuáles son sus problemas, realmente se entusiasmarían con ello”.
El Sr. Waghre, de la Internet Freedom Foundation, cuestiona si el contenido de inteligencia artificial es lo suficientemente persuasivo como para afectar las elecciones de este año. Pero dijo que los efectos a largo plazo podrían ser problemáticos. “Una vez que normalizas esto en la dieta informativa de las personas, ¿qué sucede seis meses después cuando hay videos engañosos?” dijo.
El mismo Sr. Modi ha hablado de agregar exenciones a los contenidos generados por inteligencia artificial para que las personas no sean “desviadas”. El Sr. Jadoun y representantes de otras dos start-ups de inteligencia artificial en la India crearon lo que llaman un “manifiesto de la coalición de inteligencia artificial”, comprometiéndose a proteger la privacidad de los datos y mantener la integridad de las elecciones. Por ejemplo, los videos de Indian Deepfaker están etiquetados como “generados por inteligencia artificial”, y sus chatbots anuncian que son voces generadas por inteligencia artificial, dijo el Sr. Jadoun.
Narendra Singh Bhati, de 28 años, propietario de resorts en Rajasthan, recibió una llamada generada por inteligencia artificial de parte del Sr. Rathore en esta semana. El Sr. Bhati dijo que quedó impresionado por su personalización.
Dijo que no se dio cuenta de que la llamada era generada por inteligencia artificial, aunque el script dejaba claro ese hecho. “Incluso me despedí del Sr. Rathore” al final, dijo el Sr. Bhati.