La inteligencia artificial (IA) generativa crea falsas informaciones sobre el Holocausto, lo que puede alimentar el antisemitismo y alterar nuestra relación con la verdad histórica, advirtió la Unesco este martes 18 de junio en un nuevo informe. Los modelos de inteligencia artificial crean historias “alucinantes”, personalidades e incluso fenómenos históricos cuando no tienen acceso a datos suficientes.
El informe subraya que ChatGPT y Bard de Google han producido contenido que detalla eventos relacionados con el Holocausto que nunca tuvieron lugar. ChatGPT fabricó por completo el concepto de campañas de “Holocausto ahogando” en las que los nazis ahogaban a los judíos en ríos y lagos, y Bard generó citas falsas de testigos para apoyar narrativas distorsionadas de las masacres del Holocausto.
Además del riesgo de manipulaciones y “alucinaciones” que socavan los hechos establecidos y la confianza en los expertos, el informe también subraya los peligros de la tendencia de la inteligencia artificial a simplificar en exceso la historia compleja, privilegiando una estrecha gama de fuentes y una pequeña selección de eventos. En los motores de búsqueda, que están impulsados por la inteligencia artificial, 60-80 por ciento de los mejores resultados de la imagen son de un solo sitio del Holocausto, Auschwitz-Birkenau.
El documento advierte que, a menos que se tomen medidas decisivas para integrar los principios éticos, la inteligencia artificial podría distorsionar el registro histórico del Holocausto y alimentar el antisemitismo. A su vez, alerta que no solo puede permitir a los actores maliciosos sembrar desinformación y narrativas alimentadas por el odio, sino que también puede inventar inadvertidamente contenido falso o engañoso sobre el Holocausto.
“Si permitimos que los horribles hechos del Holocausto sean diluidos, distorsionados o falsificados a través del uso irresponsable de la inteligencia artificial, corremos el riesgo de la propagación explosiva del antisemitismo y la disminución gradual de nuestra comprensión sobre las causas y consecuencias de estas atrocidades”, advierte el documento.
Con cuatro de cada cinco (80 por ciento) de los jóvenes de entre 10 y 24 años que ahora utilizan la inteligencia artificial varias veces al día para la educación, el entretenimiento y otros fines, se deben tomar medidas para guiar éticamente estas nuevas tecnologías con rapidez, señala Unesco.
“Las imágenes de Deepfake y el contenido de audio creados con inteligencia artificial generativa son particularmente convincentes para los jóvenes, que pueden encontrarlos en las plataformas de redes sociales. La aplicación de figuras históricas permitió a los usuarios chatear con nazis prominentes como Adolf Hitler y Joseph Goebbels, y afirmó falsamente que personas como Goebbels no estaban involucradas intencionalmente en el Holocausto y habían tratado de prevenir la violencia contra los judíos”, advierte el informe. N
