Educación, Inteligencia Artificial, Legislación en materia de comunicación, Media Ecology, Redes Sociales, Sobre Internet

Difusión de videos manipulados con inteligencia artificial generativa, en aumento 

No Comments

La proliferación de videos manipulados mediante inteligencia artificial generativa (IAG) en las redes sociales ha generado una creciente preocupación en torno a la desinformación y su impacto en la opinión pública. Este fenómeno se ha intensificado en los últimos meses, particularmente en contextos de ciertas crisis o eventos noticiosos, donde la confusión puede ser fácilmente explotada.

Por ejemplo, en España, durante la reciente Depresión Aislada en Niveles Altos (DANA) que afectó a varias regiones, se difundieron numerosos contenidos visuales generados o alterados por IAG. Algunos de estos casos incluían imágenes de figuras públicas como el presidente de ese país, Pedro Sánchez, así como videos que utilizaban voces sintéticas clonadas para simular declaraciones que nunca fueron hechas (Maldita.es, 2024). El grave problema es que este tipo de manipulación no solo busca entretener, sino también distorsionar la realidad y alimentar narrativas erróneas.

En el caso de México, organizaciones como Verificado han documentado un aumento en la difusión de videos manipulados, donde figuras públicas de alto nivel son presentadas como “anzuelo” para engañar a la gente. Tal es el caso específico del video de la presidenta de México, Claudia Sheinbaum, en el que supuestamente invita a invertir en una plataforma para aumentar ingresos. Sin embargo, el video es completamente falso (Barbosa, 2024).

La IAG ha revolucionado la forma en que creamos y consumimos contenido digital. Desafortunadamente, ésta también ha sido utilizada para manipular la realidad, distorsionar hechos y alimentar narrativas falsas. Desde deepfakes hasta imágenes alteradas, el potencial de la IAG para engañar y desinformar plantea serios desafíos éticos y sociales.

Video Falso Claudia Sheinbaum
Video Falso Claudia Sheinbaum

(Anuncio Falso difundido a través de Facebook en el que se observa a Claudia Sheinbaum Pardo, presidenta de México, hacer una invitación para invertir en una supuesta plataforma. Este video falso fue manipulado utilizando inteligencia artificial generativa).

Tipos de manipulaciones con IAG

 Algunos de los tipos más comunes de manipulaciones realizadas con IAG son las siguientes:

Deepfakes: Los deepfakes son una de las formas más conocidas de manipulación producida por IAG. Utilizan redes neuronales para superponer rostros en videos, creando la ilusión de que una persona ha dicho o hecho algo que en realidad no ocurrió. Esta técnica puede ser utilizada para difundir desinformación, como en el caso de videos falsos de figuras públicas que parecen hacer declaraciones comprometedoras (Chesney & Citron, 2019).

Imágenes alteradas: La IAG permite modificar o crear imágenes que pueden parecer auténticas. Estas imágenes alteradas pueden ser utilizadas para propagar noticias falsas o crear situaciones engañosas que distorsionan la percepción pública de eventos reales. Por ejemplo, se han generado imágenes de políticos en situaciones comprometedoras para influir en la opinión pública durante campañas electorales (Savage Carmona, 2023).

Textos falsos: Las herramientas de IAG pueden crear textos que imitan el estilo de escritores conocidos o generan narrativas completamente nuevas. Estos textos pueden ser utilizados para influir en la opinión pública, difundir propaganda o desinformación, y manipular la percepción sobre eventos actuales o figuras públicas (Tourpe, 2023).

Voces sintéticas: La clonación de voces mediante IAG permite a los estafadores suplantar la identidad de personas conocidas, facilitando fraudes y desinformación. Este tipo de manipulación es especialmente peligrosa en contextos como el político, donde puede ser utilizada para desestabilizar campañas electorales o engañar a votantes (Sophos, 2024).

La manipulación a través de la IAG representa un desafío significativo en la era digital. Las tecnologías disponibles permiten la creación de contenido engañoso que puede tener consecuencias graves en términos de desinformación y manipulación social. Resulta crucial el desarrollo de estrategias efectivas para identificar y combatir estas prácticas, así como promover una mayor alfabetización digital entre los usuarios.

Referencias

Barbosa, M. (2024). Sheinbaum, falso video sobre invertir en plataformas financieras. Verificado. https://verificado.com.mx/sheinbaum-falso-invertir-plataformas-financieras/

Chesney, R., & Citron, D. K. (2019). Deep fakes and the new disinformation war: The coming age of post-truth geopolitics. Foreign Affairs, 98(1), 147-155.

Maldita.es. (2024, 13 de noviembre). Imágenes y vídeos generados con inteligencia artificial durante la DANA en España. https://maldita.es/malditatecnologia/20241113/imagenes-videos-ia-dana-espana/

Savage Carmona, J. (2023). Atajar riesgos por uso de IA. DGCS UNAM. de https://www.dgcs.unam.mx/boletin/bdboletin/2023_728.html

Sophos. (2024). Manipulación política con desinformación y microtargeting masivo basado en modelos de IA.  https://news.sophos.com/es-es/2024/10/14/manipulacion-politica-con-desinformacion-y-microtargeting-masivo-basado-en-modelos-de-ia/

Tourpe, B. (2023). Promesas y riesgos de la inteligencia artificial. F&D Magazine. de https://www.imf.org/es/Publications/fandd/issues/2023/12/B2B-Artificial-Intelligence-promise-peril-Tourpe

Continue Reading

Comunicación, Educación, Inteligencia Artificial, Media Ecology, Tecnologías de la Comunicación y Sociedad

II Congreso Internacional Horizontes Expandidos de la Educación, la Tecnología y la Innovación

No Comments

27 de septiembre de 2024. Universidad El Claustro. Conferencia plenaria en el II Congreso Internacional Horizontes Expandidos de la Educación, la Tecnología y la Innovación. El título de mi ponencia fue: “Naturaleza digital: La inteligencia artificial generativa como motor de innovación en la nueva ecología mediática educativa”. Aquí comparto parte del material que utilicé durante mi presentación.

FdoGtzNaturalezaDigital
Continue Reading

Educación, Inteligencia Artificial, Media Ecology, Tecnologías de la Comunicación y Sociedad

La revolución de la inteligencia artificial generativa en la educación

No Comments

En el marco del II Congreso Internacional “Horizontes expandidos de la educación, la tecnología y la innovación” (HeETI 2024) se ha tratado el tema de la integración de la inteligencia artificial generativa en la educación universitaria. Este tema es de gran importancia ya que propone nuevas formas de enseñar y aprender, transformando los métodos tradicionales de enseñanza a través de la tecnología. Además, se ha abordado el impacto ético y las responsabilidades que conlleva la implementación de estas tecnologías en el ámbito educativo, destacando la necesidad de adaptar los enfoques pedagógicos para aprovechar al máximo las oportunidades que ofrecen, mientras se mitigan los posibles riesgos.

Este es un evento crucial en el ámbito de la innovación educativa, con un enfoque centrado en temas de gran relevancia para la sociedad actual. Este congreso ha buscado reunir a académicos, investigadores y profesionales del sector educativo con el fin de fomentar el intercambio de ideas y experiencias que impulsen nuevas estrategias en el campo educativo. La integración de la inteligencia artificial generativa como una herramienta educativa está en el centro del debate, con un enfoque en cómo esta tecnología puede transformar la enseñanza universitaria, romper con paradigmas tradicionales y ofrecer nuevas oportunidades para la alfabetización mediática. Asimismo, el congreso también ha pretendido abordar importantes cuestiones éticas y de responsabilidad en el uso de tecnologías educativas, subrayando la necesidad de un enfoque cuidadoso y reflexivo ante los desafíos que estas innovaciones presentan.

El evento se proyecta hacia el futuro con la propuesta de crear una red internacional de cooperación científico-técnica e innovación, conectando universidades y centros de investigación de diversos países de Iberoamérica. Esta red permitiría el desarrollo continuo de iniciativas conjuntas que contribuyan a la mejora de los sistemas educativos en distintos países. Los investigadores del Observatorio de Medios Digitales del Tecnológico de Monterrey hemos destacado la relevancia de comprender el nuevo entorno mediático e informativo, que se ha vuelto más complejo con la llegada de la inteligencia artificial generativa. Este cambio no solo afecta la forma en que se producen y consumen los contenidos, sino que también plantea desafíos en cuanto a la veracidad, la ética y la responsabilidad en la creación y distribución de la información. Es indispensable que la sociedad en general adquiera nuevas competencias para analizar críticamente los mensajes que circulan en este ecosistema digital, donde las fronteras entre lo humano y lo automatizado se vuelven cada vez más difusas.

La inteligencia artificial generativa está redefiniendo la forma en que aprendemos y enseñamos, creando una nueva ecología mediática que redefine el aprendizaje. Por un lado, la inteligencia artificial generativa ofrece herramientas innovadoras para personalizar el aprendizaje, automatizar procesos de evaluación y analizar datos de rendimiento, lo que permite una enseñanza más adaptada y eficiente. Sin embargo, también plantea desafíos importantes, como la necesidad de preservar el rol humano en la educación y abordar cuestiones éticas relacionadas con la equidad y la privacidad de los datos, entre otros aspectos.

En un mundo donde la tecnología y la educación convergen rápidamente, espacios como HeETI 2024 son esenciales para asegurar que el uso de la inteligencia artificial y otras innovaciones se implemente de manera responsable y efectiva, beneficiando tanto a los estudiantes como a la sociedad en general.

Continue Reading

Comunicación, Educación, Inteligencia Artificial, Media Ecology, Tecnologías de la Comunicación y Sociedad, Tecnológico de Monterrey

From Natives to Digital Inhabitants

No Comments

I share with you a proposal derived from a text that my dear Jerónimo Rivera, from the University of La Sabana in Colombia, and I worked on together. The presentation took place at The Players, during the symposium titled Communication, Consciousness, and Culture, organized by the Institute of General Semantics. The full text is in the process of being published, and once it is released, I will gladly share it with you in case it is of interest.

The title of our paper was: “From Natives to Digital Inhabitants. An Exploratory Look into a New Generation of Individuals Seduced by the Apparent Benefits of Digital Technologies”.

Here you have the document I used.

DigitalInhabitants
Continue Reading

Comunicación, Media Ecology, Tecnologías de la Comunicación y Sociedad

Sobre la reconfiguración de los medios en la segunda década del siglo XXI

No Comments

En esta segunda década del siglo XXI, se desarrolla un entorno tecnológico completamente nuevo y complejo, donde las herramientas y dispositivos digitales, ahora con el componente de la inteligencia artificial, juegan un papel crucial en la transformación de los hábitos y perspectivas de la sociedad. Esta emergente segunda fase de la ecología digital, con su complejidad, pone en jaque el equilibrio previamente establecido en el entorno social. La dominancia que solían tener las tecnologías tradicionales en términos de atractivo y participación en el mercado se ve ahora restringida por la aparición de nuevas ofertas que fragmentan la atención de los usuarios. Cada medio de comunicación se enfrenta, en efecto, a una competencia creciente por captar la atención de las personas. Desde una perspectiva darwiniana de la biología evolutiva, el público ahora tiene el poder de selección sobre el entorno mediático, influenciando con sus preferencias el desarrollo y la evolución de cada tecnología de comunicación en particular.

Los seres humanos constantemente tomamos decisiones que favorecen a uno u otro medio, un fenómeno que se intensifica con cada generación. Como advertía Paul Levinson en su libro Cellphone (2004), nos encontramos debatiendo continuamente entre ir al cine o disfrutar de una película en streaming, entre leer un libro o ver una serie, entre comunicarnos por teléfono a través de una linea convencional o mediante mensajería instantánea. Sin embargo, la evolución de los medios no sigue un proceso de selección natural, sino que es guiada por las decisiones tomadas por las personas. El medio que prevalece es aquel que mejor responde a las diversas necesidades humanas.

Los medios tradicionales están experimentando cambios en sus estructuras como resultado directo de esta nueva revolución digital. Desde la perspectiva de Roger Fidler (1997), medios como la televisión y la radio –al igual que otros medios convencionales– han atravesado un proceso de “mediamorfosis” en respuesta a la irrupción de diversas y novedosas tecnologías digitales que las han obligado a reconfigurarse. Hoy, existe una segunda fase de la ecología digital, compleja y dinámica, conformada por tecnologías diversas e “inteligentes” que han evolucionado desde sus formas convencionales. Las tecnologías innovadoras que configuran esta nueva fase digital tienen la notable capacidad de expandir y potenciar las funciones y habilidades de las personas dentro de un contexto específico. Por ello, también es posible concebir estas nuevas tecnologías digitales de última generación como herramientas que amplifican la acción humana, al extender capacidades previamente limitadas por diversas circunstancias y aumentar las funciones que se mantenían en un estado de equilibrio.

Hace exactamente 60 años, el teórico canadiense Marshall McLuhan (1964) sostenía, en su reconocida obra La comprensión de los medios como extensiones del hombre que cada tecnología de comunicación actuaba como una extensión de los sentidos. Siguiendo esta línea de pensamiento, las nuevas tecnologías digitales pueden ser vistas como ampliaciones de nuestras capacidades cognitivas y sociales, permitiéndonos interactuar, aprender y compartir información de formas antes inimaginables. Sin embargo, esta expansión de capacidades trae consigo desafíos inéditos. La sobrecarga de información, la fragmentación de la atención y el creciente poder de los algoritmos son solo algunas de las tensiones emergentes en esta nueva fase de la ecología digital. Los seres humanos nos encontramos en un constante proceso de adaptación, tratando de equilibrar los beneficios y los riesgos que estas tecnologías conllevan. Al mismo tiempo, los medios que mejor se adapten a las cambiantes demandas y necesidades humanas serán aquellos que prevalezcan en este entorno competitivo.

Finalmente, la segunda fase de la ecología digital nos confronta con una realidad en la que las tecnologías no solo extienden nuestras capacidades, sino que también reconfiguran el paisaje social, cultural y económico en el que operamos. Entender y navegar esta nueva ecología es esencial para aprovechar sus oportunidades y mitigar sus riesgos. Así como las tecnologías evolucionan, también lo deben hacer nuestras formas de interactuar con ellas, para asegurar que estas herramientas sigan siendo aliadas en el progreso humano. 

Continue Reading

Comunicación, Inteligencia Artificial, Media Ecology

Disinformation and political propaganda: An exploration of the risks of artificial intelligence

No Comments
eme.23.2.105

ABSTRACT: A significant shift is currently underway in the disinformation industry. We are transitioning from the era of disinformation fuelled by fake news and social media to disinformation on a larger scale generated through artificial intelligence (AI). Therefore, the objective of this text is to analyse this disinformation phenomenon, catalysed by social media and AI, from the media ecology perspective. This work is divided into two parts. In the first part of the text, we analyse the disinformation phenomenon, highlighting the involvement of certain governments. In the second part of the text, we focus on recognizing the effects that can arise from the use of AI within the extensive landscape of the disinformation industry.

Continue Reading

Comunicación, Inteligencia Artificial, Media Ecology, Redes Sociales, Sobre Internet, Tecnologías de la Comunicación y Sociedad

Tendencias tecnológicas que moldean nuestra sociedad contemporánea (1/2)

No Comments

La rápida evolución tecnológica ha cambiado nuevamente la forma en que vivimos, interactuamos y nos comunicamos. Cinco tendencias clave han emergido como impulsores principales de este nuevo cambio: la Inteligencia Artificial, la analítica de datos, las redes sociales, la comunicación transmedia y una nueva cibercultura que es producto de estas y otras tendencias que la han reconfigurado. Cada una de estas tendencias desempeña un papel crucial en la forma en que experimentamos y navegamos por el entorno digital. 

La Revolución Industrial 4.0 representa la cuarta fase significativa en la evolución de la industria. Klaus Schwab (2017) es uno de los autores que utiliza este término (4IR) para referirse a la integración de tecnologías avanzadas en los procesos de fabricación y producción, lo que implica una mayor automatización, interconexión y análisis de datos en tiempo real. La revolución que visualiza Schwab se ha caracterizado por la convergencia de tecnologías digitales, físicas y biológicas, y abarca áreas como la Inteligencia Artificial, Internet de las cosas (IoT), la analítica de datos, la robótica avanzada, la realidad aumentada, la impresión 3D y otras innovaciones tecnológicas. La Industria 4.0 tiene como objetivo aumentar la eficiencia, la flexibilidad y la capacidad de respuesta de las operaciones industriales, lo que lleva a la creación de fábricas inteligentes y procesos de producción más adaptables y personalizados que han moldeado nuevamente a nuestras sociedades.

A continuación, se describen de forma general dos de estas tendencias, destacando la relevancia que tienen en la humanidad.

Fuente:  Dall-E

INTELIGENCIA ARTIFICIAL (IA)

La Inteligencia Artificial ha emergido como una de las tendencias tecnológicas más impactantes e interesantes de nuestra era. Se refiere a la capacidad que se ha generado en las máquinas para aprender y tomar decisiones similares a los humanos, gracias a algoritmos complejos y capacidades de procesamiento masivo. 

Desde agentes virtuales hasta vehículos autónomos, la inteligencia artificial está presente en diversas facetas de nuestra vida cotidiana. La inteligencia artificial tiene el potencial de transformar profundamente diversos aspectos de la sociedad, desde la economía y la atención médica hasta la educación y la movilidad. Sin embargo, también plantea desafíos importantes que deben abordarse de manera ética y responsable (Osoba et al, 2017).

La inteligencia artificial puede automatizar tareas repetitivas y mejorar la eficiencia en diversos sectores, lo que puede conducir a cambios en la fuerza laboral y la creación de nuevos tipos de empleos. También puede aumentar la productividad y el crecimiento económico. 

Por otra parte, la inteligencia artificial también promete mejoras en la accesibilidad de servicios y tecnologías para personas con discapacidades, y tiene el potencial de revolucionar la atención médica al mejorar el diagnóstico y el tratamiento de enfermedades, personalizar la atención médica y agilizar la investigación médica. Además, puede adaptar la educación a las necesidades individuales de los estudiantes, proporcionando contenido y métodos de aprendizaje personalizados.

Sin embargo, como cualquier otra tecnología, también presenta ciertas limitaciones y consecuencias no intencionadas que desafían su aplicación en diferentes ámbitos. La humanidad se encuentra ante desafíos y riesgos inéditos, a la espera de sugerencias que delineen su experiencia en los emergentes escenarios de la inteligencia artificial (Barrios et al, 2020).

Fuente: Dall-E

Analítica de Datos

La analítica de datos se ha convertido en un pilar fundamental para empresas y organizaciones en la toma de decisiones informadas. Esta tendencia implica la capacidad de recopilar, procesar y analizar grandes cantidades de datos para extraer información valiosa y patrones significativos. 

En la actualidad, la analítica de datos emerge como el principal motor para obtener una ventaja competitiva. Las empresas que transforman su modelo de negocio hacia la innovación, la anticipación de riesgos, el aumento de utilidades y el crecimiento empresarial, comienzan a priorizar este aspecto (Treviño et al, 2020). Se espera un avance en las capacidades predictivas, permitiendo a las empresas anticipar tendencias y tomar decisiones proactivas en tiempo real.

Por otra parte, la capacidad de analizar datos en tiempo real se vuelve aún más crítica para la toma de decisiones ágiles y la identificación de oportunidades inmediatas. Sobre este aspecto, se espera una mejora en la capacidad narrativa a través de datos, lo que facilitará la comprensión de los resultados y la comunicación de insights a todas las partes interesadas. Sin embargo, a medida que la analítica de datos se va desarrollando y va obteniendo un papel más significativo en la toma de decisiones, se espera un mayor escrutinio sobre cuestiones éticas y de privacidad (Rustad y Koenig, 2019).

Otro aspecto importante sobre el tema es que se espera una mayor simplificación y democratización de las herramientas de analítica de datos para que estén al alcance de un público más amplio. La analítica de datos encontrará aplicaciones en una amplia gama de industrias, desde la salud hasta la manufactura y más allá. La demanda de profesionales capacitados en analítica de datos seguirá en aumento, lo que conducirá a un crecimiento en programas educativos y de capacitación en este campo.

Estas perspectivas reflejan la continua evolución y crecimiento de la analítica de datos en diversos sectores y su creciente importancia en la toma de decisiones organizacionales y estratégicas.

Fuente: Dall-E

Redes sociales

Las Redes Sociales han transformado la forma en que nos conectamos y compartimos información. Desde la explosión de plataformas como Facebook, Twitter e Instagram, hasta la aparición de nuevas como TikTok, estas redes se han convertido en canales de comunicación omnipresentes. 

Las redes sociales son percibidas por las organizaciones como herramientas poderosas para interactuar con su diversidad de públicos, promocionar sus productos o servicios, y construir una marca sólida. Son canales de comunicación directa que permiten a las empresas llegar a un a clientes potenciales de manera rápida y efectiva. Además, las redes sociales ofrecen la posibilidad de recopilar comentarios y opiniones de los clientes, lo que resulta ser invaluable para la mejora continua de productos o servicios de las organizaciones (Saavedra et al, 2013).

Sin embargo, también se reconoce que las redes sociales pueden representar un riesgo en términos de reputación si no son manejadas correctamente. Los comentarios negativos o polémicos pueden difundirse rápidamente, lo que vuelve imprescindible una gestión cuidadosa y una estrategia de comunicación sólida en estos canales. Por tal motivo, la influencia de las redes sociales en la opinión pública, la difusión de información y la cultura popular es innegable (Blasco, 2021).

Se espera que las redes sociales incorporen también tecnologías como la realidad aumentada, la realidad virtual y la inteligencia artificial para ofrecer experiencias más inmersivas y personalizadas. Por otra parte, también hay la expectativa de que las redes sociales desarrollen medidas más avanzadas para proteger los datos de los usuarios y garantizar la seguridad en línea.

Las redes sociales requieren de un enfoque estratégico y una gestión diligente para maximizar sus beneficios y minimizar los riesgos. 

Las tendencias futuras indican una mayor integración de características multimedia y la evolución hacia espacios virtuales más inmersivos.

Referencias:

Barrios Tao, H., Díaz Pérez, V., & Guerra, Y. (2020). “Subjetividades e inteligencia artificial: desafíos para ‘lo humano’”. Veritas, (47), 81-107.

Blasco Fontecilla, H. (2021). “El impacto de las redes sociales en las personas y en la sociedad: redes sociales, redil social, ¿o telaraña?”. Tarbiya, Revista De Investigación E Innovación Educativa, (49). https://doi.org/10.15366/tarbiya2021.49.007

Rustad, M. L., & Koenig, T. H. (2019). “Towards a global data privacy standard”. Fla. L. Rev., 71, 365.

Saavedra, F. U., Rialp Criado, J., & Llonch Andreu, J. (2013). “El uso de las redes sociales digitales como herramienta de marketing en el desempeño empresarial”. Cuadernos de Administración, 26(47), 205-231.

Schwab, K. (2017). The fourth industrial revolution. New York, NY: Crown Business.

Treviño-Reyes, R., Rivera-Rodríguez, F., & Garza-Alonso, J. (2020). “La analítica de datos como ventaja competitiva en las organizaciones”. VINCULATEGICA EFAN, 6(2), 1063-1074.

Continue Reading

Comunicación, Inteligencia Artificial, Media Ecology, Redes Sociales, Sobre Internet, Tecnologías de la Comunicación y Sociedad

El uso de las redes sociales y la Inteligencia Artificial en el ejercicio de desinformación

No Comments

Muchos autores identifican a Internet y particularmente a las redes sociales como los principales culpables de la proliferación de información falsa. Incluso, se ha llegado a afirmar que la desinformación es un fenómeno característico de las sociedades contemporáneas. Las noticias falsas –señalan los autores Lazer, Baum, Benler y otros más, en el artículo denominado “La ciencia de las noticias falsas”– se difunden más rápido que las noticias verdaderas debido a su notable capacidad para evocar emociones intensas en las personas y su rápida difusión a través de las redes sociales. Otros autores atribuyen este fenómeno a la influencia ejercida por algunos líderes digitales sobre sus seguidores, gracias a su carisma y habilidades persuasivas.

Hay quienes argumentan que Internet y las redes sociales crean un entorno propicio para la desinformación debido a la polarización política, la fragmentación de la audiencia y la escasa alfabetización digital en las sociedades. Otros, simplemente sostienen que las plataformas digitales facilitan la difusión de información falsa debido a su naturaleza global, su enorme alcance y su facilidad de uso.

Hoy, muchas de nuestras conversaciones en las redes sociales podrían estar además influenciadas por la inteligencia artificial, y los usuarios apenas lo notarían porque los programas autónomos (mejor conocidos como bots) que impactan nuestras interacciones son cada vez más difíciles de detectar. En la actualidad, los bots, en lugar de enviar mensajes automáticos que las plataformas podrían eliminar, se reprograman para amplificar y difundir mensajes generados por humanos en el entorno digital. Esto es lo que expresa Brandie Nonnecke y otros investigadores del Centro de Investigación en Tecnología de la Información para el Interés de la Sociedad, de la Universidad de California, en su artículo titulado: Propaganda computacional sobre los derechos reproductivos de las mujeres en los Estados Unidos: El papel de los bots en la difusión de desinformación, acoso y divisiones en Twitter en 2018.

Sin embargo, la desinformación no es un fenómeno reciente. Manuel Martín Serrano plantea en su obra Teoría de la comunicación. La comunicación, la vida, la sociedad, que la paleontología de la información nos permite entender que las noticias falsas y la desinformación desbordan los medios y los imaginarios culturales. El uso de mentiras –señala Serrano– no es un privilegio reservado a los humanos. En el reino animal, la información implícita en estados y señales es crucial en la dinámica de supervivencia, evolución y desarrollo de las especies. Las energías químicas, por ejemplo, generan señales que pueden ser percibidas por los órganos del olfato y el gusto. Los materiales producidos por el catabolismo orgánico, principalmente el sudor, la orina y las heces, son fuentes de señales químicas, que, más allá de nuestra voluntad, nos convierten en “informantes”. En el reino animal, el engaño y la trampa son parte de un extenso repertorio de mecanismos de supervivencia.

En el contexto social, las noticias falsas han impulsado el desarrollo de una robusta industria de desinformación de dimensiones globales, que anualmente genera ganancias estimadas en miles de millones de dólares.

Las redes sociales juegan un papel catalizador en la difusión de información, sirviendo no solo como canales de diseminación, sino también como espacios donde la información falsa se amplifica rápidamente, alcanzando audiencias masivas en tiempo real. La capacidad de la IA para generar contenido persuasivo y adaptarse a las preferencias individuales amplifica la amenaza, con su capacidad de analizar patrones de comportamiento y preferencias, llevando la desinformación a niveles altamente sofisticados, aumentando su efectividad y complicando su detección.

Para más información sobre el tema consulte:

Islas, O., Gutiérrez, F., & Arribas, A. (2024). Artificial Intelligence, a Powerful Battering Ram in the Disinformation Industry. New Explorations: Studies in Culture and Communication, 4(1). Retrieved from https://jps.library.utoronto.ca/index.php/nexj/article/view/43331

Lazer, D. M., Baum, M. A., Benkler, Y., Berinsky, A. J., Greenhill, K. M., Menczer, F., & Watts, D. J. (2017). “The science of fake news”. Science, 359:6380, pp. 1094-1096. DOI: 10.1126/science.aao2998

Nonnecke, B., Martín-del-Campo, A., Singh, S., Wu, W., & Crittenden, C. (2019). Women’s reproductive rights computational propaganda in the united states: The role of bots in spreading disinformation, harassment, and divisiveness on Twitter in 2018. CITRIS Policy Lab, CITRIS and the Banatao Institute. https://bit.ly/3dwdQVq.

Serrano, M. M. (2007). Teoría de la comunicación. La comunicación, la vida, la sociedad. Spain: McGraw Hill.

Continue Reading

Inteligencia Artificial, Media Ecology, Redes Sociales, Tecnologías de la Comunicación y Sociedad

Prevalecen las acciones de manipulación ideológica a través de las redes sociales

No Comments

Hace un par de años escribí un artículo con mis colegas Juan Carlos Foong y Oscar Miranda, denominado “Manipulación ideológica en redes sociales: acoso, engaño y violencia”. En éste exploramos cómo la inteligencia artificial (IA) y los bots podían influir en la formación de identidades y la diseminación de mensajes ideológicos en las redes sociales. La IA estaba siendo utilizada para apalancarse en la identidad del usuario y generar un espejo identitario atractivo para ellos, lo que podía llevar a una rápida formación de identidad y alineación grupal. 

Además, el artículo destacaba cómo las plataformas digitales como Twitter –ahora X– podían ser utilizadas para difundir mensajes ideológicos y polarizar a la población. Los líderes de opinión y celebridades podían utilizar estas plataformas para amplificar sus mensajes y generar una identidad política que les beneficiaba directamente. Esto podía llevar a una mercantilización ideológica, donde la ideología política se podía transformar en un producto para venta y consumo.

Hoy, dos años después, observamos que lo único que ha cambiado es el nivel de sofisticación de la tecnología y el refinamiento de herramientas que utilizan inteligencia artificial generativa. La manipulación ideológica en redes sociales sigue siendo un problema significativo, ya que la IA está siendo utilizada para influir en la formación de identidades y la diseminación de mensajes ideológicos con cierto impacto en la cultura. Nuevamente encontramos manipulación de la opinión a través de las herramientas digitales (redes sociales) en las recientes elecciones federales de México. En el Observatorio de Medios Digitales del Tecnológico de Monterrey identificamos numerosos ejemplos de estas formas de manipulación a favor o en contra de las diferentes instituciones políticas. 

Las redes sociales han sido ampliamente utilizadas para influir en la formación de opiniones y la toma de decisiones políticas. La manipulación ha sido llevada a cabo a través de la difusión deliberada de contenidos falsos o de dudosa calidad, la creación de cuentas falsas y automatizadas (bots), y la utilización de algoritmos que sesgan la información y crean “burbujas de filtro” que refuerzan argumentos similares. Las burbujas de filtro son un fenómeno en el que las plataformas de redes sociales y motores de búsqueda utilizan algoritmos para presentarnos contenido personalizado basado en nuestros intereses, opiniones y comportamientos pasados.

Las plataformas digitales, como Twitter (ahora X), Facebook, e incluso TikTok han sido utilizadas para difundir mensajes ideológicos y polarizar a la población. Los líderes de opinión y celebridades pueden utilizar estas plataformas para amplificar sus mensajes y generar una identidad política que les beneficia directamente.

La manipulación de la opinión a través de las redes sociales es realmente peligrosa, ya que puede influir en la percepción ciudadana y afectar la confianza en los sistemas democráticos. Las autoridades, las instituciones educativas y de la sociedad civil, y los medios debieran ocuparse más de adoptar un rol activo para garantizar la calidad de la información y combatir la desinformación. Resulta cada vez más necesario un nuevo alfabetismo mediático e informacional que contemple a las nuevas tecnologías que aparecen en el entorno.

Continue Reading
1 2 3 … 11