“
Las grandes empresas de tecnología están apostando a que una nueva ola de modelos de inteligencia artificial más pequeños y precisos será más efectiva para satisfacer las necesidades de empresas en sectores como el derecho, las finanzas y la atención médica.
Jaap Arriens | NurPhoto via Getty Images
OpenAI se está convirtiendo cada vez más en la plataforma de elección para actores cibernéticos que buscan influir en elecciones democráticas en todo el mundo.
En un informe de 54 páginas publicado el miércoles, el creador de ChatGPT dijo que ha interrumpido “más de 20 operaciones y redes engañosas de todo el mundo que intentaron usar nuestros modelos”. Las amenazas iban desde artículos de sitios web generados por IA hasta publicaciones en redes sociales por cuentas falsas.
La empresa dijo que su actualización sobre “influencia y operaciones cibernéticas” tenía la intención de brindar una “instantánea” de lo que está viendo e identificar “un conjunto inicial de tendencias que creemos que pueden informar el debate sobre cómo encaja la IA en el panorama de amenazas más amplio”.
El informe de OpenAI llega menos de un mes antes de las elecciones presidenciales de EE. UU. Más allá de EE. UU., es un año significativo para las elecciones en todo el mundo, con contiendas que afectan a más de 4 mil millones de personas en más de 40 países. El aumento del contenido generado por IA ha generado graves preocupaciones sobre la desinformación relacionada con las elecciones, con el número de deepfakes creados aumentando un 900% año tras año, según datos de Clarity, una firma de aprendizaje automático.
La desinformación en las elecciones no es un fenómeno nuevo. Ha sido un problema importante que se remonta a la campaña presidencial de EE. UU. en 2016, cuando actores rusos encontraron formas baratas y fáciles de difundir contenido falso en plataformas sociales. En 2020, las redes sociales fueron inundadas con desinformación sobre las vacunas contra el Covid y el fraude electoral.
Las preocupaciones de los legisladores hoy están más centradas en el aumento de la IA generativa, que despegó a finales de 2022 con el lanzamiento de ChatGPT y que ahora está siendo adoptada por empresas de todos los tamaños.
OpenAI escribió en su informe que los usos relacionados con las elecciones de la IA “iban desde solicitudes simples de generación de contenido, hasta esfuerzos complejos y multisectoriales para analizar y responder a publicaciones en redes sociales”. El contenido en redes sociales estaba relacionado principalmente con elecciones en EE. UU. y Ruanda, y en menor medida, elecciones en India y la UE, según OpenAI.
A finales de agosto, una operación iraní utilizó los productos de OpenAI para generar “artículos de gran extensión” y comentarios en redes sociales sobre las elecciones en EE. UU., así como sobre otros temas, pero la empresa dijo que la mayoría de las publicaciones identificadas recibieron pocos o ningún “me gusta”, compartidos y comentarios. En julio, la empresa vetó cuentas de ChatGPT en Ruanda que estaban publicando comentarios relacionados con las elecciones en X. Y en mayo, una empresa israelí utilizó ChatGPT para generar comentarios en redes sociales sobre elecciones en India. OpenAI escribió que pudo abordar el caso en menos de 24 horas.
En junio, OpenAI abordó una operación encubierta que usaba sus productos para generar comentarios sobre las elecciones al Parlamento Europeo en Francia, y la política en EE. UU., Alemania, Italia y Polonia. La empresa dijo que si bien la mayoría de las publicaciones en redes sociales que identificó recibieron pocos “me gusta” o compartidos, algunas personas reales respondieron a las publicaciones generadas por IA.
Ninguna de las operaciones relacionadas con las elecciones pudo atraer un “compromiso viral” o construir “audiencias sostenidas” a través del uso de ChatGPT y otras herramientas de OpenAI, escribió la empresa.
VER: La perspectiva de las elecciones podría ser positiva o muy negativa para China
“