Alemania ha advertido a las plataformas de medios digitales sobre la difusión de imágenes falsas del Holocausto generadas por IA. El gobierno y las instituciones conmemorativas del Holocausto han pedido a las plataformas de medios digitales que detengan la difusión de imágenes falsas, que según afirman están distorsionando y trivializando la historia.
Los sitios conmemorativos de campos de concentración y centros de documentación expresaron su preocupación en una carta reciente, criticando el aumento de las llamadas imágenes falsificadas o de baja calidad generadas por IA, relacionadas con el asesinato de más de seis millones de judíos por parte de los nazis en Alemania durante la Segunda Guerra Mundial. Estas imágenes incluyen ilustraciones emotivas de incidentes inventados, como encuentros de reclusos de campos de concentración con sus liberadores o niños detrás de alambradas de púas.
Alemania quiere detener la difusión de imágenes falsas del Holocausto generadas por IA
En la carta enviada por las organizaciones, señalaron que el contenido generado por IA distorsiona la historia al trivializar eventos graves que ocurrieron hace mucho tiempo. Mencionaron que tales imágenes podrían alimentar la desconfianza entre los usuarios de documentos históricos auténticos. Wolfram Weimer, ministro de Estado de Cultura y Medios de Alemania, mencionó que apoyaba los pasos y esfuerzos realizados por las instituciones conmemorativas en este caso, revelando que es el paso correcto a seguir.
Wolfram también mencionó que apoyaba su decisión de que las imágenes generadas por IA de los incidentes antiguos fueran marcadas y, en los casos necesarios, eliminadas de las plataformas de medios digitales. Mencionó que es una cuestión de respeto para millones de personas que fueron asesinadas y perseguidas bajo el régimen de terror de la Alemania nazi. Según la carta de las instituciones conmemorativas, señalaron que los creadores de las imágenes parecían usarlas para generar atención en línea y ganar dinero.
Las organizaciones también mencionaron que los perpetradores tenían la intención parcial de diluir los hechos, cambiar los roles de víctimas y perpetradores, y difundir narrativas revisionistas. Las instituciones incluyen centros conmemorativos de Belsen, Buchenwald, Dachau y otros campos de concentración donde fueron asesinados judíos, así como otros, incluidos romaníes y sinti. Pidieron a las plataformas de medios digitales que actúen proactivamente contra las imágenes falsas generadas por IA sobre el Holocausto en lugar de esperar a que los usuarios las reporten.
Las organizaciones del Holocausto quieren que las imágenes generadas por IA sean etiquetadas
Además, pidieron a las plataformas que las etiqueten claramente, ya que creen que esto evitará que los usuarios que generaron las imágenes puedan monetizarlas. La difusión de contenido de baja calidad generado por IA, que incluye texto, imágenes o videos falsos, ha generado alarma entre muchos expertos. Creen que contaminaría el panorama informativo y dificultaría que los usuarios separen la verdad de la falsedad. El incidente sigue al que las empresas de IA, notablemente xAI de Elon Musk, propietaria del chatbot Grok, están enfrentando actualmente.
La empresa ha estado bajo presión durante las últimas semanas debido a que ciertos usuarios generan miles de imágenes deepfake sexualizadas de mujeres y menores y las difunden a través de varias plataformas de medios digitales. La amenaza ha llevado a varios líderes de países a llamar a la empresa al orden, mientras que otros les piden desarrollar las salvaguardas apropiadas para abordar los incidentes. Países como Indonesia también han anunciado una prohibición temporal del chatbot hasta que todo se resuelva.
Mientras tanto, la plataforma ha confirmado que bloqueará geográficamente la capacidad de los usuarios de Grok y X para generar deepfakes de personas en ubicaciones donde las acciones sean consideradas ilegales. Sin embargo, queda por ver si las nuevas salvaguardas se aplicarán a su aplicación independiente o a su sitio web. También queda por ver si las medidas detendrán a los usuarios de generar este tipo de imágenes o los impulsarán a buscar nuevas formas de acceder al servicio.
No solo leas noticias cripto. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Fuente: https://www.cryptopolitan.com/germany-warns-spread-ai-holocaust-images/
