El uso de las redes sociales y la Inteligencia Artificial en el ejercicio de desinformación

Muchos autores identifican a Internet y particularmente a las redes sociales como los principales culpables de la proliferación de información falsa. Incluso, se ha llegado a afirmar que la desinformación es un fenómeno característico de las sociedades contemporáneas. Las noticias falsas –señalan los autores Lazer, Baum, Benler y otros más, en el artículo denominado “La ciencia de las noticias falsas”– se difunden más rápido que las noticias verdaderas debido a su notable capacidad para evocar emociones intensas en las personas y su rápida difusión a través de las redes sociales. Otros autores atribuyen este fenómeno a la influencia ejercida por algunos líderes digitales sobre sus seguidores, gracias a su carisma y habilidades persuasivas.

Hay quienes argumentan que Internet y las redes sociales crean un entorno propicio para la desinformación debido a la polarización política, la fragmentación de la audiencia y la escasa alfabetización digital en las sociedades. Otros, simplemente sostienen que las plataformas digitales facilitan la difusión de información falsa debido a su naturaleza global, su enorme alcance y su facilidad de uso.

Hoy, muchas de nuestras conversaciones en las redes sociales podrían estar además influenciadas por la inteligencia artificial, y los usuarios apenas lo notarían porque los programas autónomos (mejor conocidos como bots) que impactan nuestras interacciones son cada vez más difíciles de detectar. En la actualidad, los bots, en lugar de enviar mensajes automáticos que las plataformas podrían eliminar, se reprograman para amplificar y difundir mensajes generados por humanos en el entorno digital. Esto es lo que expresa Brandie Nonnecke y otros investigadores del Centro de Investigación en Tecnología de la Información para el Interés de la Sociedad, de la Universidad de California, en su artículo titulado: Propaganda computacional sobre los derechos reproductivos de las mujeres en los Estados Unidos: El papel de los bots en la difusión de desinformación, acoso y divisiones en Twitter en 2018.

Sin embargo, la desinformación no es un fenómeno reciente. Manuel Martín Serrano plantea en su obra Teoría de la comunicación. La comunicación, la vida, la sociedad, que la paleontología de la información nos permite entender que las noticias falsas y la desinformación desbordan los medios y los imaginarios culturales. El uso de mentiras –señala Serrano– no es un privilegio reservado a los humanos. En el reino animal, la información implícita en estados y señales es crucial en la dinámica de supervivencia, evolución y desarrollo de las especies. Las energías químicas, por ejemplo, generan señales que pueden ser percibidas por los órganos del olfato y el gusto. Los materiales producidos por el catabolismo orgánico, principalmente el sudor, la orina y las heces, son fuentes de señales químicas, que, más allá de nuestra voluntad, nos convierten en “informantes”. En el reino animal, el engaño y la trampa son parte de un extenso repertorio de mecanismos de supervivencia.

En el contexto social, las noticias falsas han impulsado el desarrollo de una robusta industria de desinformación de dimensiones globales, que anualmente genera ganancias estimadas en miles de millones de dólares.

Las redes sociales juegan un papel catalizador en la difusión de información, sirviendo no solo como canales de diseminación, sino también como espacios donde la información falsa se amplifica rápidamente, alcanzando audiencias masivas en tiempo real. La capacidad de la IA para generar contenido persuasivo y adaptarse a las preferencias individuales amplifica la amenaza, con su capacidad de analizar patrones de comportamiento y preferencias, llevando la desinformación a niveles altamente sofisticados, aumentando su efectividad y complicando su detección.

Para más información sobre el tema consulte:

Islas, O., Gutiérrez, F., & Arribas, A. (2024). Artificial Intelligence, a Powerful Battering Ram in the Disinformation Industry. New Explorations: Studies in Culture and Communication4(1). Retrieved from https://jps.library.utoronto.ca/index.php/nexj/article/view/43331

Lazer, D. M., Baum, M. A., Benkler, Y., Berinsky, A. J., Greenhill, K. M., Menczer, F., & Watts, D. J. (2017). “The science of fake news”. Science, 359:6380, pp. 1094-1096. DOI: 10.1126/science.aao2998

Nonnecke, B., Martín-del-Campo, A., Singh, S., Wu, W., & Crittenden, C. (2019). Women’s reproductive rights computational propaganda in the united states: The role of bots in spreading disinformation, harassment, and divisiveness on Twitter in 2018. CITRIS Policy Lab, CITRIS and the Banatao Institute. https://bit.ly/3dwdQVq.

Serrano, M. M. (2007). Teoría de la comunicación. La comunicación, la vida, la sociedad. Spain: McGraw Hill.

Continue Reading

Prevalecen las acciones de manipulación ideológica a través de las redes sociales

Hace un par de años escribí un artículo con mis colegas Juan Carlos Foong y Oscar Miranda, denominado “Manipulación ideológica en redes sociales: acoso, engaño y violencia”. En éste exploramos cómo la inteligencia artificial (IA) y los bots podían influir en la formación de identidades y la diseminación de mensajes ideológicos en las redes sociales. La IA estaba siendo utilizada para apalancarse en la identidad del usuario y generar un espejo identitario atractivo para ellos, lo que podía llevar a una rápida formación de identidad y alineación grupal. 

Además, el artículo destacaba cómo las plataformas digitales como Twitter –ahora X– podían ser utilizadas para difundir mensajes ideológicos y polarizar a la población. Los líderes de opinión y celebridades podían utilizar estas plataformas para amplificar sus mensajes y generar una identidad política que les beneficiaba directamente. Esto podía llevar a una mercantilización ideológica, donde la ideología política se podía transformar en un producto para venta y consumo.

Hoy, dos años después, observamos que lo único que ha cambiado es el nivel de sofisticación de la tecnología y el refinamiento de herramientas que utilizan inteligencia artificial generativa. La manipulación ideológica en redes sociales sigue siendo un problema significativo, ya que la IA está siendo utilizada para influir en la formación de identidades y la diseminación de mensajes ideológicos con cierto impacto en la cultura. Nuevamente encontramos manipulación de la opinión a través de las herramientas digitales (redes sociales) en las recientes elecciones federales de México. En el Observatorio de Medios Digitales del Tecnológico de Monterrey identificamos numerosos ejemplos de estas formas de manipulación a favor o en contra de las diferentes instituciones políticas. 

Las redes sociales han sido ampliamente utilizadas para influir en la formación de opiniones y la toma de decisiones políticas. La manipulación ha sido llevada a cabo a través de la difusión deliberada de contenidos falsos o de dudosa calidad, la creación de cuentas falsas y automatizadas (bots), y la utilización de algoritmos que sesgan la información y crean “burbujas de filtro” que refuerzan argumentos similares. Las burbujas de filtro son un fenómeno en el que las plataformas de redes sociales y motores de búsqueda utilizan algoritmos para presentarnos contenido personalizado basado en nuestros intereses, opiniones y comportamientos pasados.

Las plataformas digitales, como Twitter (ahora X), Facebook, e incluso TikTok han sido utilizadas para difundir mensajes ideológicos y polarizar a la población. Los líderes de opinión y celebridades pueden utilizar estas plataformas para amplificar sus mensajes y generar una identidad política que les beneficia directamente.

La manipulación de la opinión a través de las redes sociales es realmente peligrosa, ya que puede influir en la percepción ciudadana y afectar la confianza en los sistemas democráticos. Las autoridades, las instituciones educativas y de la sociedad civil, y los medios debieran ocuparse más de adoptar un rol activo para garantizar la calidad de la información y combatir la desinformación. Resulta cada vez más necesario un nuevo alfabetismo mediático e informacional que contemple a las nuevas tecnologías que aparecen en el entorno.

Continue Reading

Disinformation and Political Propaganda in the Era of Artificial Intelligence

A significant shift is currently underway in the disinformation industry. We are transitioning from the era of disinformation fueled by fake news and social media to disinformation on a larger scale generated through artificial intelligence (AI). Therefore, the objective of this text is to analyze this disinformation phenomenon, catalyzed by social media and AI, from the media ecology perspective. This work is divided into two parts. In the first part of the text, we analyze the disinformation phenomenon, highlighting the involvement of certain governments. In the second part of the text, we focus on recognizing the effects that can arise from the use of AI within the extensive landscape of the disinformation industry.

Disinformation and Political Propaganda in the Era of Artificial Intelligence.

This presentation stems from a paper written by my colleagues and friends Octavio Islas, Amaia Arribas, and myself. The text will be published in the special issue on Artificial Intelligence of our journal Explorations in Media Ecology (EME).

You will read the complete article soon.

Continue Reading

La ecología de medios: un ambiente y un territorio complejos por reconocer

Comparto esta editorial que se presenta en el VOL. 27 NÚM. 1 (2024) dedicada a la ecología de los medios. Este trabajo fue producto de mis queridos amigos Octavio Islas, Amaia Arribas, Lance Strate y un servidor para la revista científica Palabra Clave de la Universidad de la Sabana, Colombia. Espero resulte de su interés.

La versión original la pueden encontrar aquí:
https://palabraclave.unisabana.edu.co/index.php/palabraclave/article/view/23155/7963

Editorial: La ecología de medios: un ambiente y un territorio complejos por reconocer.

Para citar este editorial / to reference this editorial / Islas-Carmona, O., Gutiérrez-Cortés, F., Arribas-Urrutia, A. y Strate, L. (2024). La ecología de medios: un ambiente y un territorio complejos por reconocer. Palabra Clave, 27(1), e2711. https://doi.org/10.5294/pacla.2024.27.1.1

Continue Reading

Why Media Still Matter?

This is a great opportunity to hear Dr. Lance Strate and Dr. Thom Gencarelli discuss the relevance of media. These two esteemed academics delve into the impact of technologies such as oral and written word, press, radio, television, internet, and even artificial intelligence in this video. Why is Media Ecology also important? What relationship does it have with General Semantics? If you’re interested in these topics, I invite you to watch the video.

Continue Reading

Desentrañanado la revolución de la inteligencia artificial en el campo de la comunicación.

Comparto parte del material que utilice en la conferencia inaugural del Coloquio Inteligencia artificial, presente y futuro, que organizó la Maestría en Comunicación y Política, en el marco de los eventos del 50 Aniversario de la Universidad Autónoma Metropolitana (UAM). El tuvo lugar el 29 de noviembre, en las instalaciones de la UAM Xochimilco.

El título de la conferencia fue Desentrañanado la revolución de la inteligencia artificial en el campo de la comunicación.

Continue Reading

Tecnología educativa de última generación para el enriquecimiento del proceso de aprendizaje

Comparto parte del material que trabajé durante mi estancia en la universidad de Cartagena donde dicté la conferencia titulada: “Tecnología educativa de última generación para el enriquecimiento del proceso de aprendizaje”.

Aquí parte del contenido que revisamos en el evento: Tecnología educativa de última generación para el enriquecimiento del proceso de aprendizaje. Cartagena, Colombia. Del 1 al 4 de noviembre de 2023

Continue Reading

Exploring the Limits of Artificial Intelligence in the Artistic Domain

Some months ago, nobody was talking about artificial intelligence, but now things are different. Many magazines have designated 2023 as the year of artificial intelligence. Anyway, the challenges we are witnessing today with the introduction of artificial intelligence are not very different from what we saw several years ago with the advent of the Internet and computers, and other devices. Artificial intelligence is being used to perform various tasks that can undoubtedly bring great benefits to different fields. However, this intriguing technology still has limitations when it comes to its capacity. Artificial intelligence still lacks the competence that some human beings possess to understand and reflect the meaning and cultural context of their creations or productions. Humans can think abstractly and find innovative solutions that go beyond the limits of available data.

The Limits of Artificial Intelligence

This was part of my presentation at the 24th Annual Convention of the Media Ecology Association which took place at Fordham University, in New York City.

An AI language model can assist in the artistic field in several ways. Here are some things an AI model can do (OpenAI, 2023):

  1. Generate poetry and song lyrics: AI can compose poems in different styles and themes, as well as assist in writing song lyrics.
  2. Aid in creative writing: AI can provide ideas, suggestions, and help develop plots, characters, and dialogues for plays, novels, short stories, scripts, and more.
  3. Create visual descriptions: AI can help paint detailed and vivid mental images by describing landscapes, scenes, or any other visual elements.
  4. Design artistic or band names: If you need a creative stage name for yourself or your band, AI can assist in generating original and appealing ideas.
  5. Provide artistic information and knowledge: AI can answer questions related to artists, artistic movements, styles, famous artworks, music, and more.
Continue Reading