Meta eximió a algunos de sus principales anunciantes de su proceso habitual de moderación de contenido, protegiendo su negocio multimillonario en medio de preocupaciones internas de que los sistemas de la compañía penalizaron erróneamente a las principales marcas.
Según documentos internos de 2023 vistos por el Financial Times, el propietario de Facebook e Instagram introdujo una serie de “guardabarros” que “protegen a los grandes gastadores”.
Los memorandos no informados anteriormente decían que Meta “suprimiría detecciones” basadas en cuánto gastaba un anunciante en la plataforma, y que algunos de los principales anunciantes serían revisados por humanos.
Un documento sugería que un grupo llamado “Los mayores gastadores P95” —aquellos que gastaban más de $1,500 al día— estaban “exentos de restricciones publicitarias” pero aún serían “finalmente enviados a revisión humana manual”.
Los documentos anteriores al anuncio de esta semana del director ejecutivo Mark Zuckerberg de que Meta estaba poniendo fin a su programa de verificación de hechos de terceros y reduciendo su moderación de contenido automatizado, ya que se prepara para el regreso de Donald Trump como presidente.
Los documentos de 2023 muestran que Meta había encontrado que sus sistemas automatizados habían señalado incorrectamente algunas cuentas que más gastaban por violaciones de las normas de la compañía.
La empresa le dijo al FT que las cuentas de mayor gasto estaban sometidas de forma desproporcionada a notificaciones erróneas de posibles violaciones. No respondió a preguntas sobre si alguna de las medidas en los documentos eran temporales o continuas.
Ryan Daniels, un portavoz de Meta, dijo que la información del FT es “simplemente inexacta” y “se basa en una lectura selectiva de documentos que claramente indican que este esfuerzo fue diseñado para abordar algo sobre lo que hemos sido muy transparentes: prevenir errores en la aplicación”.
La publicidad representa la mayoría de los ingresos anuales de Meta, que fueron casi $135 mil millones en 2023.
El gigante tecnológico generalmente filtra anuncios usando una combinación de inteligencia artificial y moderadores humanos para detener violaciones de sus estándares, en un esfuerzo por eliminar material como estafas o contenido dañino.
En un documento titulado “prevención de errores de grandes gastadores”, Meta dijo que tenía siete guardabarros que protegían las cuentas comerciales que generaban más de $1,200 en ingresos en un período de 56 días, así como usuarios individuales que gastaban más de $960 en publicidad durante el mismo período.
Escribió que los guardabarros ayudan a la empresa a “decidir si una detección debe proceder a una acción de cumplimiento” y estaban diseñados para “suprimir las detecciones… basadas en características, como el nivel de gasto en publicidad”.
Tomó como ejemplo una empresa que “está en el 5% superior en ingresos”.
Meta le dijo al FT que utiliza el “gasto más alto” como un guardabarro porque esto a menudo significa que los anuncios de la empresa tendrán un mayor alcance, por lo que las consecuencias podrían ser más graves si una empresa o sus anuncios son eliminados erróneamente.
La empresa también reconoció que había evitado que algunas cuentas de grandes gastadores fueran desactivadas por sus sistemas automatizados, en su lugar, las enviaba para una revisión humana, cuando la empresa estaba preocupada por la precisión de sus sistemas.
Sin embargo, dijo que todas las empresas todavía estaban sujetas a los mismos estándares publicitarios y que ningún anunciante estaba exento de sus reglas.
En el memo “prevención de errores de grandes gastadores”, la compañía clasificó diferentes categorías de guardabarros como “baja”, “media” o “alta” en términos de si eran “defendibles”.
El personal de Meta designó la práctica de tener guardabarros relacionados con el gasto como de “baja” defensibilidad.
Otros guardabarros, como usar el conocimiento sobre la confiabilidad del negocio para ayudar a decidir si una detección de una violación de la política debería ser actuada automáticamente, fueron etiquetados como de “alta” defensibilidad.
Meta dijo que el término “defendible” se refería a la dificultad de explicar la noción de guardabarros a las partes interesadas, si estos fueran malinterpretados.
Los documentos de 2023 no nombran a los grandes gastadores que estaban dentro de los guardabarros de la compañía, pero los umbrales de gasto sugieren que miles de anunciantes podrían haber sido considerados exentos del proceso de moderación típico.
Recomendado
Estimaciones de la firma de inteligencia de mercado Sensor Tower sugieren que los 10 principales gastadores de Facebook e Instagram en EE. UU. incluyen a Amazon, Procter & Gamble, Temu, Shein, Walmart, NBCUniversal y Google.
Meta ha logrado ingresos récord en los últimos trimestres y sus acciones cotizan en un máximo histórico, tras la recuperación de la compañía de una caída postpandémica en el mercado global de publicidad.
Pero Zuckerberg ha advertido de las amenazas a su negocio, desde el auge de la inteligencia artificial hasta el rival de propiedad de ByteDance, TikTok, que ha ganado popularidad entre los usuarios más jóvenes.
Una persona familiarizada con los documentos argumentó que la empresa estaba “priorizando los ingresos y las ganancias sobre la integridad y la salud de los usuarios”, y agregó que se habían planteado preocupaciones internas sobre cómo evitar el proceso de moderación estándar.
Zuckerberg dijo el martes que la complejidad del sistema de moderación de contenido de Meta había introducido “demasiados errores y demasiada censura”.
Sus comentarios se produjeron después de que Trump acusara a Meta el año pasado de censurar el discurso conservador y sugiriendo que si la empresa interfería en las elecciones de 2024, Zuckerberg “pasaría el resto de su vida en prisión”.
Los documentos internos también muestran que Meta consideraba buscar otras exenciones para ciertos anunciantes de mayor gasto.
En un memo, el personal de Meta propuso “ofrecer protecciones de manera más agresiva” contra la sobre-moderación a lo que llama “grandes gastadores platino y oro”, que juntos generan más de la mitad de los ingresos por publicidad.
“La aplicación de la integridad contra los falsos positivos a los Anunciantes de Alto Valor cuesta Meta ingresos [y] socava nuestra credibilidad”, decía el memo.
Propuso una opción de una exención general para estos anunciantes de ciertas aplicaciones, excepto en “casos muy raros”.
El memo muestra que el personal concluyó que los anunciantes platino y oro no eran “un segmento adecuado” para una exención general, porque un 73% estimado de sus aplicaciones eran justificadas, según las pruebas de la compañía.
Los documentos internos también muestran que Meta descubrió múltiples cuentas generadas por IA dentro de las categorías de grandes gastadores.
Anteriormente, Meta había sido objeto de escrutinio por establecer exenciones para usuarios importantes. En 2021, la filtradora de Facebook Frances Haugen filtró documentos que mostraban que la empresa tenía un sistema interno llamado “cross-check”, diseñado para revisar contenido de políticos, celebridades y periodistas para asegurarse de que las publicaciones no fueran eliminadas erróneamente.
Según los documentos de Haugen, a veces se usaba esto para proteger a algunos usuarios de la aplicación, incluso si infringían las reglas de Facebook, una práctica conocida como “whitelisting”.
La junta de supervisión de Meta, un órgano independiente estilo “Corte Suprema” financiado por la compañía para supervisar sus decisiones de moderación más difíciles, encontró que el sistema de cross-check había dejado contenido peligroso en línea. Exigió una revisión del sistema, que Meta ha llevado a cabo desde entonces.