Difusión de videos manipulados con inteligencia artificial generativa, en aumento 

La proliferación de videos manipulados mediante inteligencia artificial generativa (IAG) en las redes sociales ha generado una creciente preocupación en torno a la desinformación y su impacto en la opinión pública. Este fenómeno se ha intensificado en los últimos meses, particularmente en contextos de ciertas crisis o eventos noticiosos, donde la confusión puede ser fácilmente explotada.

Por ejemplo, en España, durante la reciente Depresión Aislada en Niveles Altos (DANA) que afectó a varias regiones, se difundieron numerosos contenidos visuales generados o alterados por IAG. Algunos de estos casos incluían imágenes de figuras públicas como el presidente de ese país, Pedro Sánchez, así como videos que utilizaban voces sintéticas clonadas para simular declaraciones que nunca fueron hechas (Maldita.es, 2024). El grave problema es que este tipo de manipulación no solo busca entretener, sino también distorsionar la realidad y alimentar narrativas erróneas.

En el caso de México, organizaciones como Verificado han documentado un aumento en la difusión de videos manipulados, donde figuras públicas de alto nivel son presentadas como “anzuelo” para engañar a la gente. Tal es el caso específico del video de la presidenta de México, Claudia Sheinbaum, en el que supuestamente invita a invertir en una plataforma para aumentar ingresos. Sin embargo, el video es completamente falso (Barbosa, 2024).

La IAG ha revolucionado la forma en que creamos y consumimos contenido digital. Desafortunadamente, ésta también ha sido utilizada para manipular la realidad, distorsionar hechos y alimentar narrativas falsas. Desde deepfakes hasta imágenes alteradas, el potencial de la IAG para engañar y desinformar plantea serios desafíos éticos y sociales.

Video Falso Claudia Sheinbaum
Video Falso Claudia Sheinbaum

(Anuncio Falso difundido a través de Facebook en el que se observa a Claudia Sheinbaum Pardo, presidenta de México, hacer una invitación para invertir en una supuesta plataforma. Este video falso fue manipulado utilizando inteligencia artificial generativa).

Tipos de manipulaciones con IAG

 Algunos de los tipos más comunes de manipulaciones realizadas con IAG son las siguientes:

Deepfakes: Los deepfakes son una de las formas más conocidas de manipulación producida por IAG. Utilizan redes neuronales para superponer rostros en videos, creando la ilusión de que una persona ha dicho o hecho algo que en realidad no ocurrió. Esta técnica puede ser utilizada para difundir desinformación, como en el caso de videos falsos de figuras públicas que parecen hacer declaraciones comprometedoras (Chesney & Citron, 2019).

Imágenes alteradas: La IAG permite modificar o crear imágenes que pueden parecer auténticas. Estas imágenes alteradas pueden ser utilizadas para propagar noticias falsas o crear situaciones engañosas que distorsionan la percepción pública de eventos reales. Por ejemplo, se han generado imágenes de políticos en situaciones comprometedoras para influir en la opinión pública durante campañas electorales (Savage Carmona, 2023).

Textos falsos: Las herramientas de IAG pueden crear textos que imitan el estilo de escritores conocidos o generan narrativas completamente nuevas. Estos textos pueden ser utilizados para influir en la opinión pública, difundir propaganda o desinformación, y manipular la percepción sobre eventos actuales o figuras públicas (Tourpe, 2023).

Voces sintéticas: La clonación de voces mediante IAG permite a los estafadores suplantar la identidad de personas conocidas, facilitando fraudes y desinformación. Este tipo de manipulación es especialmente peligrosa en contextos como el político, donde puede ser utilizada para desestabilizar campañas electorales o engañar a votantes (Sophos, 2024).

La manipulación a través de la IAG representa un desafío significativo en la era digital. Las tecnologías disponibles permiten la creación de contenido engañoso que puede tener consecuencias graves en términos de desinformación y manipulación social. Resulta crucial el desarrollo de estrategias efectivas para identificar y combatir estas prácticas, así como promover una mayor alfabetización digital entre los usuarios.

Referencias

Barbosa, M. (2024). Sheinbaum, falso video sobre invertir en plataformas financieras. Verificado. https://verificado.com.mx/sheinbaum-falso-invertir-plataformas-financieras/

Chesney, R., & Citron, D. K. (2019). Deep fakes and the new disinformation war: The coming age of post-truth geopolitics. Foreign Affairs, 98(1), 147-155.

Maldita.es. (2024, 13 de noviembre). Imágenes y vídeos generados con inteligencia artificial durante la DANA en España. https://maldita.es/malditatecnologia/20241113/imagenes-videos-ia-dana-espana/

Savage Carmona, J. (2023). Atajar riesgos por uso de IA. DGCS UNAM. de https://www.dgcs.unam.mx/boletin/bdboletin/2023_728.html

Sophos. (2024). Manipulación política con desinformación y microtargeting masivo basado en modelos de IA.  https://news.sophos.com/es-es/2024/10/14/manipulacion-politica-con-desinformacion-y-microtargeting-masivo-basado-en-modelos-de-ia/

Tourpe, B. (2023). Promesas y riesgos de la inteligencia artificial. F&D Magazine. de https://www.imf.org/es/Publications/fandd/issues/2023/12/B2B-Artificial-Intelligence-promise-peril-Tourpe

Continue Reading

La Inteligencia Artificial, poderoso ariete en la industria de la desinformación

“La Inteligencia Artificial, poderoso ariete en la industria de la desinformación” es uno de los artículos consignados en el capítulo III, denominado Inteligencia Artificial y Educomunicación, que se encuentra dentro del libro titulado: Redes Sociales y Ciudadanía. El reto de la formación del profesorado en educación mediática. Esta investigación fue presentada en el VII Congreso Internacional
Alfamed, que se llevó a cabo en San José, Costa Rica, del 15 al 17 de octubre de 2024.

InteligenciaArtificial

Aquí la liga para acceder al libro completo: https://www.grupocomunicar.com/pdf/redes-sociales-y-ciudadania-2024.pdf

redes-sociales-y-ciudadania-2024

Nuestro texto se encuentra en la página 305 del libro.

Continue Reading

II Congreso Internacional Horizontes Expandidos de la Educación, la Tecnología y la Innovación

27 de septiembre de 2024. Universidad El Claustro. Conferencia plenaria en el II Congreso Internacional Horizontes Expandidos de la Educación, la Tecnología y la Innovación. El título de mi ponencia fue: “Naturaleza digital: La inteligencia artificial generativa como motor de innovación en la nueva ecología mediática educativa”. Aquí comparto parte del material que utilicé durante mi presentación.

FdoGtzNaturalezaDigital
Continue Reading

La revolución de la inteligencia artificial generativa en la educación

En el marco del II Congreso Internacional “Horizontes expandidos de la educación, la tecnología y la innovación” (HeETI 2024) se ha tratado el tema de la integración de la inteligencia artificial generativa en la educación universitaria. Este tema es de gran importancia ya que propone nuevas formas de enseñar y aprender, transformando los métodos tradicionales de enseñanza a través de la tecnología. Además, se ha abordado el impacto ético y las responsabilidades que conlleva la implementación de estas tecnologías en el ámbito educativo, destacando la necesidad de adaptar los enfoques pedagógicos para aprovechar al máximo las oportunidades que ofrecen, mientras se mitigan los posibles riesgos.

Este es un evento crucial en el ámbito de la innovación educativa, con un enfoque centrado en temas de gran relevancia para la sociedad actual. Este congreso ha buscado reunir a académicos, investigadores y profesionales del sector educativo con el fin de fomentar el intercambio de ideas y experiencias que impulsen nuevas estrategias en el campo educativo. La integración de la inteligencia artificial generativa como una herramienta educativa está en el centro del debate, con un enfoque en cómo esta tecnología puede transformar la enseñanza universitaria, romper con paradigmas tradicionales y ofrecer nuevas oportunidades para la alfabetización mediática. Asimismo, el congreso también ha pretendido abordar importantes cuestiones éticas y de responsabilidad en el uso de tecnologías educativas, subrayando la necesidad de un enfoque cuidadoso y reflexivo ante los desafíos que estas innovaciones presentan.

El evento se proyecta hacia el futuro con la propuesta de crear una red internacional de cooperación científico-técnica e innovación, conectando universidades y centros de investigación de diversos países de Iberoamérica. Esta red permitiría el desarrollo continuo de iniciativas conjuntas que contribuyan a la mejora de los sistemas educativos en distintos países. Los investigadores del Observatorio de Medios Digitales del Tecnológico de Monterrey hemos destacado la relevancia de comprender el nuevo entorno mediático e informativo, que se ha vuelto más complejo con la llegada de la inteligencia artificial generativa. Este cambio no solo afecta la forma en que se producen y consumen los contenidos, sino que también plantea desafíos en cuanto a la veracidad, la ética y la responsabilidad en la creación y distribución de la información. Es indispensable que la sociedad en general adquiera nuevas competencias para analizar críticamente los mensajes que circulan en este ecosistema digital, donde las fronteras entre lo humano y lo automatizado se vuelven cada vez más difusas.

La inteligencia artificial generativa está redefiniendo la forma en que aprendemos y enseñamos, creando una nueva ecología mediática que redefine el aprendizaje. Por un lado, la inteligencia artificial generativa ofrece herramientas innovadoras para personalizar el aprendizaje, automatizar procesos de evaluación y analizar datos de rendimiento, lo que permite una enseñanza más adaptada y eficiente. Sin embargo, también plantea desafíos importantes, como la necesidad de preservar el rol humano en la educación y abordar cuestiones éticas relacionadas con la equidad y la privacidad de los datos, entre otros aspectos.

En un mundo donde la tecnología y la educación convergen rápidamente, espacios como HeETI 2024 son esenciales para asegurar que el uso de la inteligencia artificial y otras innovaciones se implemente de manera responsable y efectiva, beneficiando tanto a los estudiantes como a la sociedad en general.

Continue Reading

From Natives to Digital Inhabitants

I share with you a proposal derived from a text that my dear Jerónimo Rivera, from the University of La Sabana in Colombia, and I worked on together. The presentation took place at The Players, during the symposium titled Communication, Consciousness, and Culture, organized by the Institute of General Semantics. The full text is in the process of being published, and once it is released, I will gladly share it with you in case it is of interest.

The title of our paper was: “From Natives to Digital Inhabitants. An Exploratory Look into a New Generation of Individuals Seduced by the Apparent Benefits of Digital Technologies”.

Here you have the document I used.

DigitalInhabitants
Continue Reading

Tendencias tecnológicas que moldean nuestra sociedad contemporánea (2/2)

Este texto está dividido en dos partes. Lo invitamos a leer la primera parte y posteriormente continuar con esta segunda parte.

Comunicación Transmedia

El concepto de transmedia surge en el ámbito de la narrativa y la comunicación mediática. Fue acuñado por el académico Henry Jenkins en su libro “Convergence Culture: Where Old and New Media Collide” (Cultura de convergencia: donde los medios antiguos y nuevos chocan), publicado en 2006.

Jenkins introdujo el término para describir una forma de contar historias que se extiende a través de múltiples plataformas de medios y canales de comunicación. En lugar de limitarse a un solo medio, como la televisión o el cine, las narrativas transmedia se despliegan a través de diversos medios, como libros, cómics, videojuegos, redes sociales y otros más (Jenkins, 2006). La idea central es que cada pieza de contenido contribuye de manera única a la historia general, aportando diferentes perspectivas, personajes o elementos que enriquecen la experiencia del espectador o participante. En lugar de ser meros consumidores pasivos, los espectadores se convierten en “prosumidores”, es decir, participantes activos que pueden explorar y contribuir al mundo narrativo. El término “prosumidor” surge de la combinación de las palabras “productor” y “consumidor”. Fue acuñado por primera vez por Alvin Toffler en su libro “The Third Wave” (La Tercera Ola), publicado en 1980.

El enfoque transmedia ha revolucionado la forma en que se crea y se consume contenido, permitiendo una mayor inmersión en universos narrativos complejos y fomentando la participación interactiva del público. Ha sido ampliamente adoptado en industrias como el entretenimiento, la publicidad y la educación, y continúa evolucionando con el avance de la tecnología y la convergencia de medios.

La comunicación transmedia se extiende a través de múltiples plataformas y medios. Esta tendencia permite una experiencia más rica y envolvente para el consumidor, al sumergirlo en un universo narrativo completo. Desde películas y series que se complementan con libros y videojuegos, hasta campañas publicitarias que se despliegan en diversos canales, la comunicación transmedia se perfila como una herramienta poderosa para la creación de experiencias de marca impactantes.

Fuente:  Dall-E

CIBERCULTURA

La cibercultura ha experimentado una metamorfosis notable en los últimos años. En su origen, representaba la cultura emergente en la era digital (Lévy, 1997), pero ahora se encuentra en un nuevo umbral, influenciada por avances tecnológicos disruptivos como la inteligencia artificial, la proliferación de las redes sociales y la compleja interconexión de narrativas a través de la comunicación transmedia.´

La inteligencia artificial ha sido uno de los motores más potentes de esta reconfiguración cibercultural. La capacidad de las máquinas para aprender, procesar datos y tomar decisiones ha permeado diversos aspectos de la vida cotidiana. Desde asistentes virtuales que simplifican nuestras tareas hasta algoritmos que personalizan nuestras experiencias en línea, la inteligencia artificial se ha vuelto omnipresente. Esto ha alterado la forma en que consumimos información, interactuamos en la red y, en última instancia, percibimos la realidad. La cibercultura actual se caracteriza por una simbiosis entre la creatividad humana y la capacidad de procesamiento de la inteligencia artificial.

Por otra parte, las redes sociales también han sido un elemento definitorio de esta nueva fase de la cibercultura. Plataformas como Facebook, Twitter, Instagram y TikTok han creado ecosistemas digitales ricos y complejos que facilitan la conexión global y la creación de comunidades virtuales. Sin embargo, también han dado lugar a fenómenos como las burbujas de filtro y la propagación de la desinformación. En las burbujas de filtro las personas son expuestas a información y contenido que está en línea y que se adapta a sus preferencias y comportamientos anteriores, lo cual hace que solo vean y consuman contenido que confirma y refuerza sus creencias y opiniones existentes (Holone, 2016). Esto ha llevado a una reflexión crítica sobre la influencia y el poder de las redes en la formación de opiniones y comportamientos, lo que a su vez ha moldeado la cultura en línea.

La cibercultura incluye prácticas sociales, normas, valores y formas de expresión que surgen en el ciberespacio y que cambian continuamente. La cibercultura ha democratizado la creación y distribución de contenidos, permitiendo la participación activa de individuos en la producción cultural (Ruiz, 2008). A medida que la tecnología sigue avanzando, la cibercultura continúa evolucionando y dando forma a nuestra identidad digital.

Fuente: Dall-E

Conclusiones

Las tendencias tecnológicas, en lo relativo a la inteligencia artificial, la analítica de datos, las redes sociales, y la comunicación transmedia, están transformando radicalmente nuestras sociedades. Estas fuerzas impulsoras están moldeando la forma en que vivimos, interactuamos y nos comunicamos en esta nueva era. 

Para los individuos y organizaciones, comprender las últimas tendencias tecnológicas puede ser un factor clave para mantenerse competitivo y a la vanguardia en un campo determinado. El conocimiento de estas tendencias proporciona la base necesaria para la toma de decisiones informadas sobre estrategias y acciones a seguir. Por tal razón, resulta imperativo estudiarlas y adaptarlas para navegar con éxito en el mundo contemporáneo. Tal y como sugería Marshall McLuhan, es importante comprender las transformaciones revolucionarias provocadas por las tecnologías porque nos brinda la capacidad de preverlas, gestionarlas y ajustarnos a ellas (Norden, 1969).

Dadas las circunstancias expuestas, es fundamental que las personas busquemos en primera instancia desarrollar atributos (conocimiento, habilidades y actitudes) que nos permita la adaptación eficaz al entorno. Al mismo tiempo, es esencial que nos liberemos de prácticas y hábitos que, en lugar de favorecer la adaptación a las nuevas demandas del entorno, dificulten o impidan dicho proceso. Las tendencias que se han revisado en este texto están dando forma al futuro. Comprenderlas nos ayuda a prepararnos para lo que está por venir y a tener un papel activo en la construcción del futuro tecnológico y social.

Referencias

Blasco Fontecilla, H. (2021). “El impacto de las redes sociales en las personas y en la sociedad: redes sociales, redil social, ¿o telaraña?”. Tarbiya, Revista De Investigación E Innovación Educativa, (49). https://doi.org/10.15366/tarbiya2021.49.007

Holone H. (2016). “The filter bubble and its effect on online personal health information”. Croatian medical journal, 57(3), 298–301. https://doi.org/10.3325/cmj.2016.57.298

Jenkins, H. (2006). Convergence culture: Where old and new media collide. NYU Press, New York, NY.

Lévy, P. (1997). Cyberculture., Minneapolis, MN: University of Minnesota Press.

Norden, E. (1969). Playboy interview: Marshall McLuhan: A candid conversation with the high priest of popcult and metaphysician of media. Chicago: HMH Pub. Co.

Saavedra, F. U., Rialp Criado, J., & Llonch Andreu, J. (2013). El uso de las redes sociales digitales como herramienta de marketing en el desempeño empresarial. Cuadernos de Administración, 26(47), 205-231.

Toffler, A. (1980). The Third Wave. New York, NY: Bantam Books.

Continue Reading

MIL Cities and ESG Principles

Comparto, la presentación que utilicé en el WEBINAR que organizaron el Dr. Felipe Chibás Ortiz, International Co-líder del Grupo de Innovación de UNESCO MIL Alliance y el Dr. Emmanuel Komi Kounakou, Director de PAFEME, Líder de la Iniciativa MILCities initiative para Canada y Africa.

Participantes:

Aquí los datos del Webinar:

Key Details:
Language: English
Date: Tuesday, February 27, 2024
Time: 12:30 PM to 01:30 PM Brazilian Time / 4:30 PM to 5:30 PM GMT
Co-Moderators: Dr. Felipe Chibás Ortiz, Associate Professor at the Latin American Integration Program,
University of São Paulo. International Co-leader of the Innovation Group, UNESCO MIL Alliance
Dr. Emmanuel Komi Kounakou, Director of PAFEME, Leader of MIL Cities initiative in Canada and Africa.

Presentación:

Continue Reading

Tecnología educativa de última generación para el enriquecimiento del proceso de aprendizaje

Comparto parte del material que trabajé durante mi estancia en la universidad de Cartagena donde dicté la conferencia titulada: “Tecnología educativa de última generación para el enriquecimiento del proceso de aprendizaje”.

Aquí parte del contenido que revisamos en el evento: Tecnología educativa de última generación para el enriquecimiento del proceso de aprendizaje. Cartagena, Colombia. Del 1 al 4 de noviembre de 2023

Continue Reading

Exploring the Limits of Artificial Intelligence in the Artistic Domain

Some months ago, nobody was talking about artificial intelligence, but now things are different. Many magazines have designated 2023 as the year of artificial intelligence. Anyway, the challenges we are witnessing today with the introduction of artificial intelligence are not very different from what we saw several years ago with the advent of the Internet and computers, and other devices. Artificial intelligence is being used to perform various tasks that can undoubtedly bring great benefits to different fields. However, this intriguing technology still has limitations when it comes to its capacity. Artificial intelligence still lacks the competence that some human beings possess to understand and reflect the meaning and cultural context of their creations or productions. Humans can think abstractly and find innovative solutions that go beyond the limits of available data.

The Limits of Artificial Intelligence

This was part of my presentation at the 24th Annual Convention of the Media Ecology Association which took place at Fordham University, in New York City.

An AI language model can assist in the artistic field in several ways. Here are some things an AI model can do (OpenAI, 2023):

  1. Generate poetry and song lyrics: AI can compose poems in different styles and themes, as well as assist in writing song lyrics.
  2. Aid in creative writing: AI can provide ideas, suggestions, and help develop plots, characters, and dialogues for plays, novels, short stories, scripts, and more.
  3. Create visual descriptions: AI can help paint detailed and vivid mental images by describing landscapes, scenes, or any other visual elements.
  4. Design artistic or band names: If you need a creative stage name for yourself or your band, AI can assist in generating original and appealing ideas.
  5. Provide artistic information and knowledge: AI can answer questions related to artists, artistic movements, styles, famous artworks, music, and more.
Continue Reading