Debido a que el clip era solo de audio, significaba que no había pistas visuales, como movimientos robóticos que normalmente revelan manipulación de IA. También mencionaba términos técnicos, como “expectativas de nivel de grado”, y otros detalles, como nombres de personal, que solo las personas cercanas a la escuela conocerían.
Cuando escuchas con atención, sin embargo, hay ediciones claras entre las oraciones – y la voz, aunque similar a la del director, suena bastante monótona. La inteligencia artificial puede usar varios minutos de una grabación real – digamos, de tu actor favorito en una película o de un candidato presidencial dando un discurso – para luego generar un clip que haga que suene como si hubieran dicho algo que nunca dijeron.
Pero quizás la razón más grande por la que la gente creyó que el video era real fue porque se sintió verdadero, me dijo el Sr. Malone.
Se conectó con sus propias experiencias de racismo como hombre negro viviendo en Baltimore.
Cuando el Sr. Malone escuchó al director describir a los estudiantes negros como perezosos, inmediatamente le recordó insultos y discriminación que había enfrentado en la escuela y en el trabajo.
Meses más tarde, los efectos del clip de audio falso todavía se sienten en Pikesville. El Sr. Eiswert ha cambiado de trabajo y está trabajando en otra escuela. Y aunque algunos miembros de la comunidad me dijeron que ahora aceptan que el video es falsoa, el daño está hecho.
“Este es un barrio judío y decir algo tan inflamatorio sobre la comunidad fue perturbador,” me dijo una mujer llamada Sharon mientras metía el coche de su nieto en un coche en una casa frente a la escuela secundaria en agosto pasado.
Durante varios minutos, Sharon me habló como si el clip fuera real.
“Creo que cuando la gente dice cosas así, otras personas se unen y eso me hace sentir más temor.”
Cuando su esposo intervino desde el coche, recordándole que el clip en realidad era falso, ella admitió que “descubrió más tarde que era generado por IA”. Pero dijo que todavía estaba enojada por ello.