Comunicación, Educación, Legislación en materia de comunicación, Media Ecology, Política, Redes Sociales, Sobre Internet, Tecnologías de la Comunicación y Sociedad

La era de la propaganda 4.0: Un nuevo reto para la democracia y la verdad

No Comments

2025-01-22
Nota: Este artículo lo puede consultar también en:
Observatorio de Medios Digitales del Tecnológico de Monterrey.

Fernando Gutiérrez

La evolución de las estrategias de comunicación y persuasión a lo largo de la historia nos lleva a un momento crucial en el siglo XXI: la era de la propaganda 4.0. En este contexto, la integración de redes sociales y tecnologías avanzadas, como la inteligencia artificial (IA), han transformado de manera radical la forma en que se moldean las percepciones y opiniones públicas. Esta evolución plantea enormes desafíos para la democracia, la ética y el acceso a información verídica.

Angela Merkel, ex canciller de Alemania, ha descrito acertadamente este periodo como la “era de la desinformación”. En esta nueva era destacan los efectos perjudiciales de las noticias falsas y las teorías conspirativas sobre el discurso democrático y la confianza pública. Según Merkel, la salud de la democracia está intrínsecamente vinculada a la calidad de la información accesible para sus ciudadanos. La proliferación de desinformación debilita la toma de decisiones informada en los procesos electorales y erosiona la credibilidad de las instituciones democráticas. Como Merkel lo expresó atinadamente: “Debemos proteger la libertad. Enfrentamos desafíos que no existían en el pasado, así como la tendencia a percibir todo en blanco y negro, donde los matices de gris desaparecen en favor de los extremos” (Bassets, 2024).

La propaganda, como herramienta de influencia, no es un fenómeno reciente. Ha evolucionado en paralelo con los avances tecnológicos y sociales. Aquí presento un breve recorrido por las que considero las 4 etapas que ha tenido la propaganda:

Propaganda 1.0: La propaganda de la era clásica que surgió en tiempos antiguos y se extendió hasta la Revolución Industrial. En esta etapa, se usaron discursos, monumentos y arte como medios primarios de comunicación para consolidar el poder político y religioso. Su alcance estaba limitado por la necesidad de reproducir manualmente los mensajes y por la falta de acceso masivo a la información.

Propaganda 2.0: La propaganda de la era de las masas en la que destaca la llegada de la imprenta y el crecimiento de los medios impresos. En esta etapa la propaganda adquirió un alcance sin precedentes. Las publicaciones impresas como panfletos, periódicos y libros permitieron la difusión masiva de mensajes ideológicos, como los usados durante la Revolución Francesa. Este periodo marcó el inicio de esfuerzos propagandísticos más sistemáticos y profesionalizados.

Propaganda 3.0: La propaganda de la era audiovisual que se desarrolló en el siglo XX y trajo consigo el auge de los medios masivos como la radio, el cine y la televisión. Estas herramientas permitieron generar un impacto emocional mucho más profundo a través de imágenes y sonidos. Ejemplos notorios incluyen la propaganda nazi liderada por Joseph Goebbels (ministro de Ilustración Pública y Propaganda de la Alemania nazi) y las campañas de la Guerra Fría, donde la manipulación emocional y la simplificación de mensajes fueron clave para movilizar audiencias.

Propaganda 4.0: La propaganda de la era digital. Con la aparición  y desarrollo de internet, las redes sociales y la inteligencia artificial, nos encontramos en una nueva etapa donde la propaganda se ha descentralizado y personalizado. Los algoritmos y el big data permiten adaptar mensajes específicos a individuos o grupos pequeños, aumentando su efectividad y dificultando la identificación de las fuentes de información. Ejemplos como las elecciones presidenciales de 2016 en Estados Unidos y el referéndum del Brexit han resultado ser un buen ejemplo del poder de las campañas digitales y el uso de bots y deepfakes para influir en la opinión pública.

La inteligencia artificial es el motor principal de esta nueva era. Con herramientas capaces de analizar grandes volúmenes de datos y generar contenido automatizado, la inteligencia artificial ha revolucionado la forma en que se crea y distribuye propaganda. Su impacto se manifiesta en varias áreas. Por ejemplo, en la personalización de mensajes. Los algoritmos pueden adaptar los mensajes para resonar con las emociones, intereses y preocupaciones de audiencias específicas. Otra actividad que ha posibilitado la inteligencia artificial es la creación de contenido engañoso, en la que deepfakes, noticias falsas y otras formas de desinformación se generan con mayor facilidad y sofisticación. Finalmente, la inteligencia artificial también ha tenido un fuerte impacto en lo que se refiere a la amplificación y viralidad de los mensajes. Las redes sociales, impulsadas por algoritmos, priorizan contenido emocional y polarizador, lo que facilita la propagación de mensajes propagandísticos.

La propaganda 4.0 no solo transforma la comunicación política, sino que también representa serios riesgos para las democracias modernas, especialmente en términos de la erosión de la confianza. La creciente dificultad para distinguir fuentes de información fiables debilita la credibilidad de las instituciones y los medios de comunicación.

Otro peligro significativo en esta nueva etapa es la polarización social. Los mensajes personalizados, diseñados para reforzar creencias preexistentes, generan cámaras de eco que profundizan las divisiones dentro de las sociedades. Finalmente, emerge el riesgo crítico de la manipulación electoral. Las campañas segmentadas pueden influir en decisiones trascendentales, como los resultados de elecciones, sin que los votantes sean plenamente conscientes de la manipulación a la que están siendo expuestos.

En esta era, es fundamental desarrollar una alfabetización mediática crítica que permita a los ciudadanos identificar y resistir las estrategias propagandísticas. Esto implica: enseñar a evaluar fuentes de información y a detectar noticias falsas; establecer políticas que obliguen a las empresas tecnológicas a ser transparentes sobre el funcionamiento de sus algoritmos; impulsar el debate público informado y la capacidad de analizar mensajes desde una perspectiva crítica.

La era de la propaganda 4.0 representa un punto de inflexión en la historia de la comunicación. Aunque las tecnologías digitales y la inteligencia artificial ofrecen oportunidades sin precedentes, también exigen una responsabilidad colectiva para mitigar sus riesgos. Solo a través de una acción combinada entre ciudadanos, instituciones y reguladores podremos enfrentar los desafíos éticos y democráticos que plantea esta nueva forma de influencia.

Continue Reading

Comunicación, Inteligencia Artificial, Media Ecology, Política, Tecnologías de la Comunicación y Sociedad

Misinformation, Misdirection, Manipulation and Mischief: Making Sense of Contemporary Propaganda

No Comments

The methods and techniques of political propaganda, and the impact of propaganda on public perceptions and behaviors, have attracted the attention of general semantics scholars since the initial formulation of the discipline. It is well known that Alfred Korzybski’s experience as a soldier in World War I was a key source of his motivation to develop general semantics in hopes of promoting a more sane, humane world.

Korzybski developed the key principles of general semantics during an extremely turbulent era, when people were acutely aware of the potentially devastating impact of propaganda and the way it was being used to justify horrific behavior. Since then, many other scholars have addressed propaganda from a general semantics perspective. Neil Postman, former editor of ETC: A Review of General Semantics, argued in a 1979 ETC article that “[o]f all the words we use to talk about talk, propaganda is perhaps the most mischievous.” Others, such as Jacques Ellul and Terence Moran, also contributed work to ETC where they offered their perspectives on propaganda and its relation to general semantics, and the two recent consecutive special issues of ETC on general semantics and politics demonstrate the continued relevance of the discipline to our understanding of political discourse and propaganda.

In keeping with this long standing tradition of using the principles of general semantics to understand and push back against political propaganda, this session focused on the heightened awareness and concern about misinformation and disinformation in the contemporary media environment during the recent elections in the United States and elsewhere, when artificial intelligence, message personalization, and strategic use of social media were used to influence and persuade the public in a more sophisticated and targeted manners.

Panelists

Fernando Gutiérrez earned a Ph.D. in Design and Data Visualization from the Metropolitan Autonomous University in Mexico and a master’s degree in Information Technologies from Tecnológico de Monterrey. In 1996, he collaborated with the team that designed the first internet system for the Office of the President of Mexico. He is a member of Mexico’s National Researchers System and serves as the Executive Secretary of the Media Ecology Association. An author of numerous books and publications on media and communication, his notable works include Internet: The Intelligent Medium and Understanding Media in the Digital Age, co-edited with Lance Strate and Octavio Islas. He currently leads the Division of Humanities and Education at the State of Mexico campus of Tecnológico de Monterrey.

Christina M. Knopf is a professor and the presentation skills coordinator in the Communication and Media Studies Department, and the Assistant Dean in the School of Arts and Sciences, at the State University of New York (SUNY) at Cortland. She is the author of Politics in the Gutters: American Politicians and Elections in Comic Book Media (University Press of Mississippi, 2021) and The Comic Art of War: A Critical Study of Military Cartoons, 1805-2014 (McFarland, 2015), along with numerous critical essays on politics and military culture in the popular arts. Dr. Knopf is a series co-editor for Routledge’s Advances in Comics Studies. She holds a Ph.D. concentrating in cultural sociology and political communication from the University at Albany.

This event took place on Friday, January 17, 2025 at the historic Players Club in Gramercy Park, New York City, New York.

Continue Reading

Educación, Inteligencia Artificial, Legislación en materia de comunicación, Media Ecology, Redes Sociales, Sobre Internet

Difusión de videos manipulados con inteligencia artificial generativa, en aumento 

No Comments

La proliferación de videos manipulados mediante inteligencia artificial generativa (IAG) en las redes sociales ha generado una creciente preocupación en torno a la desinformación y su impacto en la opinión pública. Este fenómeno se ha intensificado en los últimos meses, particularmente en contextos de ciertas crisis o eventos noticiosos, donde la confusión puede ser fácilmente explotada.

Por ejemplo, en España, durante la reciente Depresión Aislada en Niveles Altos (DANA) que afectó a varias regiones, se difundieron numerosos contenidos visuales generados o alterados por IAG. Algunos de estos casos incluían imágenes de figuras públicas como el presidente de ese país, Pedro Sánchez, así como videos que utilizaban voces sintéticas clonadas para simular declaraciones que nunca fueron hechas (Maldita.es, 2024). El grave problema es que este tipo de manipulación no solo busca entretener, sino también distorsionar la realidad y alimentar narrativas erróneas.

En el caso de México, organizaciones como Verificado han documentado un aumento en la difusión de videos manipulados, donde figuras públicas de alto nivel son presentadas como “anzuelo” para engañar a la gente. Tal es el caso específico del video de la presidenta de México, Claudia Sheinbaum, en el que supuestamente invita a invertir en una plataforma para aumentar ingresos. Sin embargo, el video es completamente falso (Barbosa, 2024).

La IAG ha revolucionado la forma en que creamos y consumimos contenido digital. Desafortunadamente, ésta también ha sido utilizada para manipular la realidad, distorsionar hechos y alimentar narrativas falsas. Desde deepfakes hasta imágenes alteradas, el potencial de la IAG para engañar y desinformar plantea serios desafíos éticos y sociales.

Video Falso Claudia Sheinbaum
Video Falso Claudia Sheinbaum

(Anuncio Falso difundido a través de Facebook en el que se observa a Claudia Sheinbaum Pardo, presidenta de México, hacer una invitación para invertir en una supuesta plataforma. Este video falso fue manipulado utilizando inteligencia artificial generativa).

Tipos de manipulaciones con IAG

 Algunos de los tipos más comunes de manipulaciones realizadas con IAG son las siguientes:

Deepfakes: Los deepfakes son una de las formas más conocidas de manipulación producida por IAG. Utilizan redes neuronales para superponer rostros en videos, creando la ilusión de que una persona ha dicho o hecho algo que en realidad no ocurrió. Esta técnica puede ser utilizada para difundir desinformación, como en el caso de videos falsos de figuras públicas que parecen hacer declaraciones comprometedoras (Chesney & Citron, 2019).

Imágenes alteradas: La IAG permite modificar o crear imágenes que pueden parecer auténticas. Estas imágenes alteradas pueden ser utilizadas para propagar noticias falsas o crear situaciones engañosas que distorsionan la percepción pública de eventos reales. Por ejemplo, se han generado imágenes de políticos en situaciones comprometedoras para influir en la opinión pública durante campañas electorales (Savage Carmona, 2023).

Textos falsos: Las herramientas de IAG pueden crear textos que imitan el estilo de escritores conocidos o generan narrativas completamente nuevas. Estos textos pueden ser utilizados para influir en la opinión pública, difundir propaganda o desinformación, y manipular la percepción sobre eventos actuales o figuras públicas (Tourpe, 2023).

Voces sintéticas: La clonación de voces mediante IAG permite a los estafadores suplantar la identidad de personas conocidas, facilitando fraudes y desinformación. Este tipo de manipulación es especialmente peligrosa en contextos como el político, donde puede ser utilizada para desestabilizar campañas electorales o engañar a votantes (Sophos, 2024).

La manipulación a través de la IAG representa un desafío significativo en la era digital. Las tecnologías disponibles permiten la creación de contenido engañoso que puede tener consecuencias graves en términos de desinformación y manipulación social. Resulta crucial el desarrollo de estrategias efectivas para identificar y combatir estas prácticas, así como promover una mayor alfabetización digital entre los usuarios.

Referencias

Barbosa, M. (2024). Sheinbaum, falso video sobre invertir en plataformas financieras. Verificado. https://verificado.com.mx/sheinbaum-falso-invertir-plataformas-financieras/

Chesney, R., & Citron, D. K. (2019). Deep fakes and the new disinformation war: The coming age of post-truth geopolitics. Foreign Affairs, 98(1), 147-155.

Maldita.es. (2024, 13 de noviembre). Imágenes y vídeos generados con inteligencia artificial durante la DANA en España. https://maldita.es/malditatecnologia/20241113/imagenes-videos-ia-dana-espana/

Savage Carmona, J. (2023). Atajar riesgos por uso de IA. DGCS UNAM. de https://www.dgcs.unam.mx/boletin/bdboletin/2023_728.html

Sophos. (2024). Manipulación política con desinformación y microtargeting masivo basado en modelos de IA.  https://news.sophos.com/es-es/2024/10/14/manipulacion-politica-con-desinformacion-y-microtargeting-masivo-basado-en-modelos-de-ia/

Tourpe, B. (2023). Promesas y riesgos de la inteligencia artificial. F&D Magazine. de https://www.imf.org/es/Publications/fandd/issues/2023/12/B2B-Artificial-Intelligence-promise-peril-Tourpe

Continue Reading

Comunicación, Educación, Inteligencia Artificial, Media Ecology, Tecnologías de la Comunicación y Sociedad

II Congreso Internacional Horizontes Expandidos de la Educación, la Tecnología y la Innovación

No Comments

27 de septiembre de 2024. Universidad El Claustro. Conferencia plenaria en el II Congreso Internacional Horizontes Expandidos de la Educación, la Tecnología y la Innovación. El título de mi ponencia fue: “Naturaleza digital: La inteligencia artificial generativa como motor de innovación en la nueva ecología mediática educativa”. Aquí comparto parte del material que utilicé durante mi presentación.

FdoGtzNaturalezaDigital
Continue Reading

Educación, Inteligencia Artificial, Media Ecology, Tecnologías de la Comunicación y Sociedad

La revolución de la inteligencia artificial generativa en la educación

No Comments

En el marco del II Congreso Internacional “Horizontes expandidos de la educación, la tecnología y la innovación” (HeETI 2024) se ha tratado el tema de la integración de la inteligencia artificial generativa en la educación universitaria. Este tema es de gran importancia ya que propone nuevas formas de enseñar y aprender, transformando los métodos tradicionales de enseñanza a través de la tecnología. Además, se ha abordado el impacto ético y las responsabilidades que conlleva la implementación de estas tecnologías en el ámbito educativo, destacando la necesidad de adaptar los enfoques pedagógicos para aprovechar al máximo las oportunidades que ofrecen, mientras se mitigan los posibles riesgos.

Este es un evento crucial en el ámbito de la innovación educativa, con un enfoque centrado en temas de gran relevancia para la sociedad actual. Este congreso ha buscado reunir a académicos, investigadores y profesionales del sector educativo con el fin de fomentar el intercambio de ideas y experiencias que impulsen nuevas estrategias en el campo educativo. La integración de la inteligencia artificial generativa como una herramienta educativa está en el centro del debate, con un enfoque en cómo esta tecnología puede transformar la enseñanza universitaria, romper con paradigmas tradicionales y ofrecer nuevas oportunidades para la alfabetización mediática. Asimismo, el congreso también ha pretendido abordar importantes cuestiones éticas y de responsabilidad en el uso de tecnologías educativas, subrayando la necesidad de un enfoque cuidadoso y reflexivo ante los desafíos que estas innovaciones presentan.

El evento se proyecta hacia el futuro con la propuesta de crear una red internacional de cooperación científico-técnica e innovación, conectando universidades y centros de investigación de diversos países de Iberoamérica. Esta red permitiría el desarrollo continuo de iniciativas conjuntas que contribuyan a la mejora de los sistemas educativos en distintos países. Los investigadores del Observatorio de Medios Digitales del Tecnológico de Monterrey hemos destacado la relevancia de comprender el nuevo entorno mediático e informativo, que se ha vuelto más complejo con la llegada de la inteligencia artificial generativa. Este cambio no solo afecta la forma en que se producen y consumen los contenidos, sino que también plantea desafíos en cuanto a la veracidad, la ética y la responsabilidad en la creación y distribución de la información. Es indispensable que la sociedad en general adquiera nuevas competencias para analizar críticamente los mensajes que circulan en este ecosistema digital, donde las fronteras entre lo humano y lo automatizado se vuelven cada vez más difusas.

La inteligencia artificial generativa está redefiniendo la forma en que aprendemos y enseñamos, creando una nueva ecología mediática que redefine el aprendizaje. Por un lado, la inteligencia artificial generativa ofrece herramientas innovadoras para personalizar el aprendizaje, automatizar procesos de evaluación y analizar datos de rendimiento, lo que permite una enseñanza más adaptada y eficiente. Sin embargo, también plantea desafíos importantes, como la necesidad de preservar el rol humano en la educación y abordar cuestiones éticas relacionadas con la equidad y la privacidad de los datos, entre otros aspectos.

En un mundo donde la tecnología y la educación convergen rápidamente, espacios como HeETI 2024 son esenciales para asegurar que el uso de la inteligencia artificial y otras innovaciones se implemente de manera responsable y efectiva, beneficiando tanto a los estudiantes como a la sociedad en general.

Continue Reading

Comunicación, Educación, Inteligencia Artificial, Media Ecology, Tecnologías de la Comunicación y Sociedad, Tecnológico de Monterrey

From Natives to Digital Inhabitants

No Comments

I share with you a proposal derived from a text that my dear Jerónimo Rivera, from the University of La Sabana in Colombia, and I worked on together. The presentation took place at The Players, during the symposium titled Communication, Consciousness, and Culture, organized by the Institute of General Semantics. The full text is in the process of being published, and once it is released, I will gladly share it with you in case it is of interest.

The title of our paper was: “From Natives to Digital Inhabitants. An Exploratory Look into a New Generation of Individuals Seduced by the Apparent Benefits of Digital Technologies”.

Here you have the document I used.

DigitalInhabitants
Continue Reading

Comunicación, Media Ecology, Tecnologías de la Comunicación y Sociedad

Sobre la reconfiguración de los medios en la segunda década del siglo XXI

No Comments

En esta segunda década del siglo XXI, se desarrolla un entorno tecnológico completamente nuevo y complejo, donde las herramientas y dispositivos digitales, ahora con el componente de la inteligencia artificial, juegan un papel crucial en la transformación de los hábitos y perspectivas de la sociedad. Esta emergente segunda fase de la ecología digital, con su complejidad, pone en jaque el equilibrio previamente establecido en el entorno social. La dominancia que solían tener las tecnologías tradicionales en términos de atractivo y participación en el mercado se ve ahora restringida por la aparición de nuevas ofertas que fragmentan la atención de los usuarios. Cada medio de comunicación se enfrenta, en efecto, a una competencia creciente por captar la atención de las personas. Desde una perspectiva darwiniana de la biología evolutiva, el público ahora tiene el poder de selección sobre el entorno mediático, influenciando con sus preferencias el desarrollo y la evolución de cada tecnología de comunicación en particular.

Los seres humanos constantemente tomamos decisiones que favorecen a uno u otro medio, un fenómeno que se intensifica con cada generación. Como advertía Paul Levinson en su libro Cellphone (2004), nos encontramos debatiendo continuamente entre ir al cine o disfrutar de una película en streaming, entre leer un libro o ver una serie, entre comunicarnos por teléfono a través de una linea convencional o mediante mensajería instantánea. Sin embargo, la evolución de los medios no sigue un proceso de selección natural, sino que es guiada por las decisiones tomadas por las personas. El medio que prevalece es aquel que mejor responde a las diversas necesidades humanas.

Los medios tradicionales están experimentando cambios en sus estructuras como resultado directo de esta nueva revolución digital. Desde la perspectiva de Roger Fidler (1997), medios como la televisión y la radio –al igual que otros medios convencionales– han atravesado un proceso de “mediamorfosis” en respuesta a la irrupción de diversas y novedosas tecnologías digitales que las han obligado a reconfigurarse. Hoy, existe una segunda fase de la ecología digital, compleja y dinámica, conformada por tecnologías diversas e “inteligentes” que han evolucionado desde sus formas convencionales. Las tecnologías innovadoras que configuran esta nueva fase digital tienen la notable capacidad de expandir y potenciar las funciones y habilidades de las personas dentro de un contexto específico. Por ello, también es posible concebir estas nuevas tecnologías digitales de última generación como herramientas que amplifican la acción humana, al extender capacidades previamente limitadas por diversas circunstancias y aumentar las funciones que se mantenían en un estado de equilibrio.

Hace exactamente 60 años, el teórico canadiense Marshall McLuhan (1964) sostenía, en su reconocida obra La comprensión de los medios como extensiones del hombre que cada tecnología de comunicación actuaba como una extensión de los sentidos. Siguiendo esta línea de pensamiento, las nuevas tecnologías digitales pueden ser vistas como ampliaciones de nuestras capacidades cognitivas y sociales, permitiéndonos interactuar, aprender y compartir información de formas antes inimaginables. Sin embargo, esta expansión de capacidades trae consigo desafíos inéditos. La sobrecarga de información, la fragmentación de la atención y el creciente poder de los algoritmos son solo algunas de las tensiones emergentes en esta nueva fase de la ecología digital. Los seres humanos nos encontramos en un constante proceso de adaptación, tratando de equilibrar los beneficios y los riesgos que estas tecnologías conllevan. Al mismo tiempo, los medios que mejor se adapten a las cambiantes demandas y necesidades humanas serán aquellos que prevalezcan en este entorno competitivo.

Finalmente, la segunda fase de la ecología digital nos confronta con una realidad en la que las tecnologías no solo extienden nuestras capacidades, sino que también reconfiguran el paisaje social, cultural y económico en el que operamos. Entender y navegar esta nueva ecología es esencial para aprovechar sus oportunidades y mitigar sus riesgos. Así como las tecnologías evolucionan, también lo deben hacer nuestras formas de interactuar con ellas, para asegurar que estas herramientas sigan siendo aliadas en el progreso humano. 

Continue Reading

Comunicación, Inteligencia Artificial, Media Ecology

Disinformation and political propaganda: An exploration of the risks of artificial intelligence

No Comments
eme.23.2.105

ABSTRACT: A significant shift is currently underway in the disinformation industry. We are transitioning from the era of disinformation fuelled by fake news and social media to disinformation on a larger scale generated through artificial intelligence (AI). Therefore, the objective of this text is to analyse this disinformation phenomenon, catalysed by social media and AI, from the media ecology perspective. This work is divided into two parts. In the first part of the text, we analyse the disinformation phenomenon, highlighting the involvement of certain governments. In the second part of the text, we focus on recognizing the effects that can arise from the use of AI within the extensive landscape of the disinformation industry.

Continue Reading
1 2 3 … 11