Educación, Inteligencia Artificial, Legislación en materia de comunicación, Media Ecology, Redes Sociales, Sobre Internet

Difusión de videos manipulados con inteligencia artificial generativa, en aumento 

No Comments

La proliferación de videos manipulados mediante inteligencia artificial generativa (IAG) en las redes sociales ha generado una creciente preocupación en torno a la desinformación y su impacto en la opinión pública. Este fenómeno se ha intensificado en los últimos meses, particularmente en contextos de ciertas crisis o eventos noticiosos, donde la confusión puede ser fácilmente explotada.

Por ejemplo, en España, durante la reciente Depresión Aislada en Niveles Altos (DANA) que afectó a varias regiones, se difundieron numerosos contenidos visuales generados o alterados por IAG. Algunos de estos casos incluían imágenes de figuras públicas como el presidente de ese país, Pedro Sánchez, así como videos que utilizaban voces sintéticas clonadas para simular declaraciones que nunca fueron hechas (Maldita.es, 2024). El grave problema es que este tipo de manipulación no solo busca entretener, sino también distorsionar la realidad y alimentar narrativas erróneas.

En el caso de México, organizaciones como Verificado han documentado un aumento en la difusión de videos manipulados, donde figuras públicas de alto nivel son presentadas como “anzuelo” para engañar a la gente. Tal es el caso específico del video de la presidenta de México, Claudia Sheinbaum, en el que supuestamente invita a invertir en una plataforma para aumentar ingresos. Sin embargo, el video es completamente falso (Barbosa, 2024).

La IAG ha revolucionado la forma en que creamos y consumimos contenido digital. Desafortunadamente, ésta también ha sido utilizada para manipular la realidad, distorsionar hechos y alimentar narrativas falsas. Desde deepfakes hasta imágenes alteradas, el potencial de la IAG para engañar y desinformar plantea serios desafíos éticos y sociales.

Video Falso Claudia Sheinbaum
Video Falso Claudia Sheinbaum

(Anuncio Falso difundido a través de Facebook en el que se observa a Claudia Sheinbaum Pardo, presidenta de México, hacer una invitación para invertir en una supuesta plataforma. Este video falso fue manipulado utilizando inteligencia artificial generativa).

Tipos de manipulaciones con IAG

 Algunos de los tipos más comunes de manipulaciones realizadas con IAG son las siguientes:

Deepfakes: Los deepfakes son una de las formas más conocidas de manipulación producida por IAG. Utilizan redes neuronales para superponer rostros en videos, creando la ilusión de que una persona ha dicho o hecho algo que en realidad no ocurrió. Esta técnica puede ser utilizada para difundir desinformación, como en el caso de videos falsos de figuras públicas que parecen hacer declaraciones comprometedoras (Chesney & Citron, 2019).

Imágenes alteradas: La IAG permite modificar o crear imágenes que pueden parecer auténticas. Estas imágenes alteradas pueden ser utilizadas para propagar noticias falsas o crear situaciones engañosas que distorsionan la percepción pública de eventos reales. Por ejemplo, se han generado imágenes de políticos en situaciones comprometedoras para influir en la opinión pública durante campañas electorales (Savage Carmona, 2023).

Textos falsos: Las herramientas de IAG pueden crear textos que imitan el estilo de escritores conocidos o generan narrativas completamente nuevas. Estos textos pueden ser utilizados para influir en la opinión pública, difundir propaganda o desinformación, y manipular la percepción sobre eventos actuales o figuras públicas (Tourpe, 2023).

Voces sintéticas: La clonación de voces mediante IAG permite a los estafadores suplantar la identidad de personas conocidas, facilitando fraudes y desinformación. Este tipo de manipulación es especialmente peligrosa en contextos como el político, donde puede ser utilizada para desestabilizar campañas electorales o engañar a votantes (Sophos, 2024).

La manipulación a través de la IAG representa un desafío significativo en la era digital. Las tecnologías disponibles permiten la creación de contenido engañoso que puede tener consecuencias graves en términos de desinformación y manipulación social. Resulta crucial el desarrollo de estrategias efectivas para identificar y combatir estas prácticas, así como promover una mayor alfabetización digital entre los usuarios.

Referencias

Barbosa, M. (2024). Sheinbaum, falso video sobre invertir en plataformas financieras. Verificado. https://verificado.com.mx/sheinbaum-falso-invertir-plataformas-financieras/

Chesney, R., & Citron, D. K. (2019). Deep fakes and the new disinformation war: The coming age of post-truth geopolitics. Foreign Affairs, 98(1), 147-155.

Maldita.es. (2024, 13 de noviembre). Imágenes y vídeos generados con inteligencia artificial durante la DANA en España. https://maldita.es/malditatecnologia/20241113/imagenes-videos-ia-dana-espana/

Savage Carmona, J. (2023). Atajar riesgos por uso de IA. DGCS UNAM. de https://www.dgcs.unam.mx/boletin/bdboletin/2023_728.html

Sophos. (2024). Manipulación política con desinformación y microtargeting masivo basado en modelos de IA.  https://news.sophos.com/es-es/2024/10/14/manipulacion-politica-con-desinformacion-y-microtargeting-masivo-basado-en-modelos-de-ia/

Tourpe, B. (2023). Promesas y riesgos de la inteligencia artificial. F&D Magazine. de https://www.imf.org/es/Publications/fandd/issues/2023/12/B2B-Artificial-Intelligence-promise-peril-Tourpe

Continue Reading

Comunicación, E-Marketing, Inteligencia Artificial, Redes Sociales, Sobre Internet

Elecciones de EU 2024: el ambiente político y digital se intensifica

No Comments

Comparto este breve texto que publiqué en Expansión con motivo de las elecciones en Estados Unidos.

Las elecciones presidenciales en Estados Unidos de 2024 están programadas para el 5 de noviembre. En esta contienda, en la que se enfrentan Kamala Harris, actual vicepresidenta y candidata del Partido Demócrata, y Donald Trump, expresidente y candidato del Partido Republicano, hemos presenciado de todo: desde dos intensos debates en los medios (el primero Biden vs. Trump, el segundo Harris vs. Trump) hasta campañas publicitarias formales e informales que inundan el espacio digital. A medida que se acerca la fecha, el ambiente político y digital se intensifica, con encuestas que reflejan una carrera extremadamente reñida…

Aquí pueden encontrar la liga completa.

Continue Reading

Comunicación, Educación, Inteligencia Artificial, Redes Sociales, Sobre Internet, Tecnologías de la Comunicación y Sociedad

La Inteligencia Artificial, poderoso ariete en la industria de la desinformación

No Comments

“La Inteligencia Artificial, poderoso ariete en la industria de la desinformación” es uno de los artículos consignados en el capítulo III, denominado Inteligencia Artificial y Educomunicación, que se encuentra dentro del libro titulado: Redes Sociales y Ciudadanía. El reto de la formación del profesorado en educación mediática. Esta investigación fue presentada en el VII Congreso Internacional
Alfamed, que se llevó a cabo en San José, Costa Rica, del 15 al 17 de octubre de 2024.

InteligenciaArtificial

Aquí la liga para acceder al libro completo: https://www.grupocomunicar.com/pdf/redes-sociales-y-ciudadania-2024.pdf

redes-sociales-y-ciudadania-2024

Nuestro texto se encuentra en la página 305 del libro.

Continue Reading

Comunicación, Educación, Inteligencia Artificial, Media Ecology, Tecnologías de la Comunicación y Sociedad

II Congreso Internacional Horizontes Expandidos de la Educación, la Tecnología y la Innovación

No Comments

27 de septiembre de 2024. Universidad El Claustro. Conferencia plenaria en el II Congreso Internacional Horizontes Expandidos de la Educación, la Tecnología y la Innovación. El título de mi ponencia fue: “Naturaleza digital: La inteligencia artificial generativa como motor de innovación en la nueva ecología mediática educativa”. Aquí comparto parte del material que utilicé durante mi presentación.

FdoGtzNaturalezaDigital
Continue Reading

Comunicación, Inteligencia Artificial, Redes Sociales, Tecnologías de la Comunicación y Sociedad

Foro de Comunicación Futurible 2024. Paradigma Humano/Relacional en tiempos de la inteligencia artificial

No Comments

El Foro de Comunicación Futurible 2024, Nueva Teoría Estratégica (NTE): Paradigma Humano/Relacional en tiempos de la inteligencia artificial.

El libro derivado del Foro de Comunicación Futurible 2023, Nueva Teoría Estratégica (NTE): Paradigma para recibir al futuro, trabajó con el objetivo de analizar la riqueza de la NTE como un nuevo paradigma aplicable en la comunicación estratégica, tomando en cuenta los cambios, complejidades y retos que enfrenta en la revolución industrial 4.0.

Las diversas miradas que integran este libro, se hacen eco de la complejidad del sistema en el que vivimos, derivada de una mega externalidad multidimensional agravada por la pandemia fruto del virus Covid 19 (2020-2021), la que nos obliga a remirar las estrategias desde el punto de vista conceptual, epistemológico y metodológico, así como su relación e implicaciones cuando se relaciona con la comunicación en un contexto de revolución industrial 4.0.

libro_FUTURIBLE2023

En la página 140 podrán encontrar mi colaboración que resume los revisado en la MESA 4 titulada: Nueva Teoría Estratégica en la revolución industrial 4.0. Dispositivos.

Continue Reading

Educación, Inteligencia Artificial, Media Ecology, Tecnologías de la Comunicación y Sociedad

La revolución de la inteligencia artificial generativa en la educación

No Comments

En el marco del II Congreso Internacional “Horizontes expandidos de la educación, la tecnología y la innovación” (HeETI 2024) se ha tratado el tema de la integración de la inteligencia artificial generativa en la educación universitaria. Este tema es de gran importancia ya que propone nuevas formas de enseñar y aprender, transformando los métodos tradicionales de enseñanza a través de la tecnología. Además, se ha abordado el impacto ético y las responsabilidades que conlleva la implementación de estas tecnologías en el ámbito educativo, destacando la necesidad de adaptar los enfoques pedagógicos para aprovechar al máximo las oportunidades que ofrecen, mientras se mitigan los posibles riesgos.

Este es un evento crucial en el ámbito de la innovación educativa, con un enfoque centrado en temas de gran relevancia para la sociedad actual. Este congreso ha buscado reunir a académicos, investigadores y profesionales del sector educativo con el fin de fomentar el intercambio de ideas y experiencias que impulsen nuevas estrategias en el campo educativo. La integración de la inteligencia artificial generativa como una herramienta educativa está en el centro del debate, con un enfoque en cómo esta tecnología puede transformar la enseñanza universitaria, romper con paradigmas tradicionales y ofrecer nuevas oportunidades para la alfabetización mediática. Asimismo, el congreso también ha pretendido abordar importantes cuestiones éticas y de responsabilidad en el uso de tecnologías educativas, subrayando la necesidad de un enfoque cuidadoso y reflexivo ante los desafíos que estas innovaciones presentan.

El evento se proyecta hacia el futuro con la propuesta de crear una red internacional de cooperación científico-técnica e innovación, conectando universidades y centros de investigación de diversos países de Iberoamérica. Esta red permitiría el desarrollo continuo de iniciativas conjuntas que contribuyan a la mejora de los sistemas educativos en distintos países. Los investigadores del Observatorio de Medios Digitales del Tecnológico de Monterrey hemos destacado la relevancia de comprender el nuevo entorno mediático e informativo, que se ha vuelto más complejo con la llegada de la inteligencia artificial generativa. Este cambio no solo afecta la forma en que se producen y consumen los contenidos, sino que también plantea desafíos en cuanto a la veracidad, la ética y la responsabilidad en la creación y distribución de la información. Es indispensable que la sociedad en general adquiera nuevas competencias para analizar críticamente los mensajes que circulan en este ecosistema digital, donde las fronteras entre lo humano y lo automatizado se vuelven cada vez más difusas.

La inteligencia artificial generativa está redefiniendo la forma en que aprendemos y enseñamos, creando una nueva ecología mediática que redefine el aprendizaje. Por un lado, la inteligencia artificial generativa ofrece herramientas innovadoras para personalizar el aprendizaje, automatizar procesos de evaluación y analizar datos de rendimiento, lo que permite una enseñanza más adaptada y eficiente. Sin embargo, también plantea desafíos importantes, como la necesidad de preservar el rol humano en la educación y abordar cuestiones éticas relacionadas con la equidad y la privacidad de los datos, entre otros aspectos.

En un mundo donde la tecnología y la educación convergen rápidamente, espacios como HeETI 2024 son esenciales para asegurar que el uso de la inteligencia artificial y otras innovaciones se implemente de manera responsable y efectiva, beneficiando tanto a los estudiantes como a la sociedad en general.

Continue Reading

Comunicación, Educación, Inteligencia Artificial, Media Ecology, Tecnologías de la Comunicación y Sociedad, Tecnológico de Monterrey

From Natives to Digital Inhabitants

No Comments

I share with you a proposal derived from a text that my dear Jerónimo Rivera, from the University of La Sabana in Colombia, and I worked on together. The presentation took place at The Players, during the symposium titled Communication, Consciousness, and Culture, organized by the Institute of General Semantics. The full text is in the process of being published, and once it is released, I will gladly share it with you in case it is of interest.

The title of our paper was: “From Natives to Digital Inhabitants. An Exploratory Look into a New Generation of Individuals Seduced by the Apparent Benefits of Digital Technologies”.

Here you have the document I used.

DigitalInhabitants
Continue Reading

Comunicación, Media Ecology, Tecnologías de la Comunicación y Sociedad

Sobre la reconfiguración de los medios en la segunda década del siglo XXI

No Comments

En esta segunda década del siglo XXI, se desarrolla un entorno tecnológico completamente nuevo y complejo, donde las herramientas y dispositivos digitales, ahora con el componente de la inteligencia artificial, juegan un papel crucial en la transformación de los hábitos y perspectivas de la sociedad. Esta emergente segunda fase de la ecología digital, con su complejidad, pone en jaque el equilibrio previamente establecido en el entorno social. La dominancia que solían tener las tecnologías tradicionales en términos de atractivo y participación en el mercado se ve ahora restringida por la aparición de nuevas ofertas que fragmentan la atención de los usuarios. Cada medio de comunicación se enfrenta, en efecto, a una competencia creciente por captar la atención de las personas. Desde una perspectiva darwiniana de la biología evolutiva, el público ahora tiene el poder de selección sobre el entorno mediático, influenciando con sus preferencias el desarrollo y la evolución de cada tecnología de comunicación en particular.

Los seres humanos constantemente tomamos decisiones que favorecen a uno u otro medio, un fenómeno que se intensifica con cada generación. Como advertía Paul Levinson en su libro Cellphone (2004), nos encontramos debatiendo continuamente entre ir al cine o disfrutar de una película en streaming, entre leer un libro o ver una serie, entre comunicarnos por teléfono a través de una linea convencional o mediante mensajería instantánea. Sin embargo, la evolución de los medios no sigue un proceso de selección natural, sino que es guiada por las decisiones tomadas por las personas. El medio que prevalece es aquel que mejor responde a las diversas necesidades humanas.

Los medios tradicionales están experimentando cambios en sus estructuras como resultado directo de esta nueva revolución digital. Desde la perspectiva de Roger Fidler (1997), medios como la televisión y la radio –al igual que otros medios convencionales– han atravesado un proceso de “mediamorfosis” en respuesta a la irrupción de diversas y novedosas tecnologías digitales que las han obligado a reconfigurarse. Hoy, existe una segunda fase de la ecología digital, compleja y dinámica, conformada por tecnologías diversas e “inteligentes” que han evolucionado desde sus formas convencionales. Las tecnologías innovadoras que configuran esta nueva fase digital tienen la notable capacidad de expandir y potenciar las funciones y habilidades de las personas dentro de un contexto específico. Por ello, también es posible concebir estas nuevas tecnologías digitales de última generación como herramientas que amplifican la acción humana, al extender capacidades previamente limitadas por diversas circunstancias y aumentar las funciones que se mantenían en un estado de equilibrio.

Hace exactamente 60 años, el teórico canadiense Marshall McLuhan (1964) sostenía, en su reconocida obra La comprensión de los medios como extensiones del hombre que cada tecnología de comunicación actuaba como una extensión de los sentidos. Siguiendo esta línea de pensamiento, las nuevas tecnologías digitales pueden ser vistas como ampliaciones de nuestras capacidades cognitivas y sociales, permitiéndonos interactuar, aprender y compartir información de formas antes inimaginables. Sin embargo, esta expansión de capacidades trae consigo desafíos inéditos. La sobrecarga de información, la fragmentación de la atención y el creciente poder de los algoritmos son solo algunas de las tensiones emergentes en esta nueva fase de la ecología digital. Los seres humanos nos encontramos en un constante proceso de adaptación, tratando de equilibrar los beneficios y los riesgos que estas tecnologías conllevan. Al mismo tiempo, los medios que mejor se adapten a las cambiantes demandas y necesidades humanas serán aquellos que prevalezcan en este entorno competitivo.

Finalmente, la segunda fase de la ecología digital nos confronta con una realidad en la que las tecnologías no solo extienden nuestras capacidades, sino que también reconfiguran el paisaje social, cultural y económico en el que operamos. Entender y navegar esta nueva ecología es esencial para aprovechar sus oportunidades y mitigar sus riesgos. Así como las tecnologías evolucionan, también lo deben hacer nuestras formas de interactuar con ellas, para asegurar que estas herramientas sigan siendo aliadas en el progreso humano. 

Continue Reading
1 2 3 … 40