Difusión de videos manipulados con inteligencia artificial generativa, en aumento 

La proliferación de videos manipulados mediante inteligencia artificial generativa (IAG) en las redes sociales ha generado una creciente preocupación en torno a la desinformación y su impacto en la opinión pública. Este fenómeno se ha intensificado en los últimos meses, particularmente en contextos de ciertas crisis o eventos noticiosos, donde la confusión puede ser fácilmente explotada.

Por ejemplo, en España, durante la reciente Depresión Aislada en Niveles Altos (DANA) que afectó a varias regiones, se difundieron numerosos contenidos visuales generados o alterados por IAG. Algunos de estos casos incluían imágenes de figuras públicas como el presidente de ese país, Pedro Sánchez, así como videos que utilizaban voces sintéticas clonadas para simular declaraciones que nunca fueron hechas (Maldita.es, 2024). El grave problema es que este tipo de manipulación no solo busca entretener, sino también distorsionar la realidad y alimentar narrativas erróneas.

En el caso de México, organizaciones como Verificado han documentado un aumento en la difusión de videos manipulados, donde figuras públicas de alto nivel son presentadas como “anzuelo” para engañar a la gente. Tal es el caso específico del video de la presidenta de México, Claudia Sheinbaum, en el que supuestamente invita a invertir en una plataforma para aumentar ingresos. Sin embargo, el video es completamente falso (Barbosa, 2024).

La IAG ha revolucionado la forma en que creamos y consumimos contenido digital. Desafortunadamente, ésta también ha sido utilizada para manipular la realidad, distorsionar hechos y alimentar narrativas falsas. Desde deepfakes hasta imágenes alteradas, el potencial de la IAG para engañar y desinformar plantea serios desafíos éticos y sociales.

Video Falso Claudia Sheinbaum
Video Falso Claudia Sheinbaum

(Anuncio Falso difundido a través de Facebook en el que se observa a Claudia Sheinbaum Pardo, presidenta de México, hacer una invitación para invertir en una supuesta plataforma. Este video falso fue manipulado utilizando inteligencia artificial generativa).

Tipos de manipulaciones con IAG

 Algunos de los tipos más comunes de manipulaciones realizadas con IAG son las siguientes:

Deepfakes: Los deepfakes son una de las formas más conocidas de manipulación producida por IAG. Utilizan redes neuronales para superponer rostros en videos, creando la ilusión de que una persona ha dicho o hecho algo que en realidad no ocurrió. Esta técnica puede ser utilizada para difundir desinformación, como en el caso de videos falsos de figuras públicas que parecen hacer declaraciones comprometedoras (Chesney & Citron, 2019).

Imágenes alteradas: La IAG permite modificar o crear imágenes que pueden parecer auténticas. Estas imágenes alteradas pueden ser utilizadas para propagar noticias falsas o crear situaciones engañosas que distorsionan la percepción pública de eventos reales. Por ejemplo, se han generado imágenes de políticos en situaciones comprometedoras para influir en la opinión pública durante campañas electorales (Savage Carmona, 2023).

Textos falsos: Las herramientas de IAG pueden crear textos que imitan el estilo de escritores conocidos o generan narrativas completamente nuevas. Estos textos pueden ser utilizados para influir en la opinión pública, difundir propaganda o desinformación, y manipular la percepción sobre eventos actuales o figuras públicas (Tourpe, 2023).

Voces sintéticas: La clonación de voces mediante IAG permite a los estafadores suplantar la identidad de personas conocidas, facilitando fraudes y desinformación. Este tipo de manipulación es especialmente peligrosa en contextos como el político, donde puede ser utilizada para desestabilizar campañas electorales o engañar a votantes (Sophos, 2024).

La manipulación a través de la IAG representa un desafío significativo en la era digital. Las tecnologías disponibles permiten la creación de contenido engañoso que puede tener consecuencias graves en términos de desinformación y manipulación social. Resulta crucial el desarrollo de estrategias efectivas para identificar y combatir estas prácticas, así como promover una mayor alfabetización digital entre los usuarios.

Referencias

Barbosa, M. (2024). Sheinbaum, falso video sobre invertir en plataformas financieras. Verificado. https://verificado.com.mx/sheinbaum-falso-invertir-plataformas-financieras/

Chesney, R., & Citron, D. K. (2019). Deep fakes and the new disinformation war: The coming age of post-truth geopolitics. Foreign Affairs, 98(1), 147-155.

Maldita.es. (2024, 13 de noviembre). Imágenes y vídeos generados con inteligencia artificial durante la DANA en España. https://maldita.es/malditatecnologia/20241113/imagenes-videos-ia-dana-espana/

Savage Carmona, J. (2023). Atajar riesgos por uso de IA. DGCS UNAM. de https://www.dgcs.unam.mx/boletin/bdboletin/2023_728.html

Sophos. (2024). Manipulación política con desinformación y microtargeting masivo basado en modelos de IA.  https://news.sophos.com/es-es/2024/10/14/manipulacion-politica-con-desinformacion-y-microtargeting-masivo-basado-en-modelos-de-ia/

Tourpe, B. (2023). Promesas y riesgos de la inteligencia artificial. F&D Magazine. de https://www.imf.org/es/Publications/fandd/issues/2023/12/B2B-Artificial-Intelligence-promise-peril-Tourpe

Continue Reading

Derechos personales, violencia y otras conductas en internet

El seminario titulado “Derechos personales, violencia y otras conductas en internet”, tuvo lugar los días: miércoles 3 y jueves 4 de mayo, en el Aula Magna de la Universidad Panamericana, campus Mixcoac.

Mi participación fue en la mesa 6 (jueves 4 de mayo) hablando sobre el tema de los discursos de odio en Internet (Tiempo: 02:12:00)

Discurso de odio en Internet
Continue Reading

Democracy and Media Ecology

The New York Society for General Semantics is proud to present a special event titled “Democracy and Media Ecology” at the historic Players at 16 Gramercy Park South in New York City. Our event will take place on Friday evening, January 27th between 6pm and 9pm, and we hope you’ll register and join us for what promises to be a lively and engaging discussion.

Date: 27 Jan 2023
Time: 6:00 PM – 9:00 PM
Location: The Players NYC – 16 Gramercy Park South, NY, NY

Media ecology entails the study of media as environments. Those things that go between us and what’s “out there” strongly influence the way we think, act, and communicate. Neil Postman famously called media ecology “general semantics writ large.” As our good friend Thom Gencarelli wrote in 2020, reviewing Postman’s role in both fields, “If general semantics considers our semantic environment, or context in which utterances take place, and the fact that the sense and sensibility and result of such utterances are to a great extent determined by that context, then the same holds true when we expand the concept of our semantic environment to consider our various media environments – wherein the nature of the medium, as a context, influences both the nature of utterances offered and the meanings we make from such utterances.”

This point is particularly valuable in attempting to understand how we shape our world through the choices we make in organizing and governing our affairs. Democracy is one system, method, or medium for engaging in that important work and therefore it’s important to consider the democratic shape of things as we seek to improve and progress as human beings. As democratic systems of various types become strained by the pace and intensity of our contemporary condition, we gather to consider what’s going on and what we might do about it.

Each January, the Executive Board of the Media Ecology Association holds its annual meeting in New York City, and the NYSGS is very pleased to have a number of principals of the MEA Board with us to share food, drink, and an evening of intellectual reflection.

Dr. Adriana Braga is Immediate Past President of the MEA and Associate Professor at the Social Communication Department at the Pontifícia Universidade Católica/Rio de Janeiro (PUC-Rio), Coordinator of the Digital Media Lab and researcher of the National Council for Scientific and Technological Development (CNPq, Brazil).

Dr. Thom Gencarelli is a Past President of the MEA, Treasurer of the NYSGS, and Editor-in-Chief of the Institute of General Semantics’ journal ETC: A Review of General Semantics. He is Professor and founding Chair of the Communication Department at Manhattan College.

Dr. Fernando Gutiérrez is the long time Executive Secretary of the MEA and the head of the Division of Humanities and Education at the Monterrey Institute of Technology and Higher Education (State of Mexico Campus). Dr. Gutiérrez is an author of several titles about media and information technologies; and part of the National System of Researchers in Mexico. His interest focuses on the exploration of different media environments.

Moderating the evening’s discussion is Dr. Michael Plugh, President of the MEA and the NYSGS. Dr. Plugh is Associate Professor in the Communication Department at Manhattan College.

We hope you’ll drop in to join us. Registration is free, but all attendees must be registered in order to gain admittance to the club. This includes any guests you might want to bring with you.

The program will take place in the Library on the 2nd floor of the club. Please note that, as an historic 19th century landmark, the site is not handicap accessible. Dress code is business casual and is strictly enforced, including no sneakers, shorts, ripped jeans, t-shirts).

Continue Reading

Transnational Media: Concepts and Cases

Gutiérrez, F. y Ocampo, A. (2019) Latin America: From Media Censorship to Media Ownership: New Forms of Communication Hegemony Across the Continent. En Mishra, S. y Kern-Stone, R. (Ed.) Transnational Media: Concepts and Cases. (pp. 97-105). Hoboken, NJ: Wiley-Blackwell

Esta es mi más reciente colaboración, en la que comparto crédito con mi gran amigo y colega Alejandro Ocampo. El libro se llama Transnational Media: Concepts and Cases, y fue coordinado por Suman Mishra y Rebecca Kern-Stone, a quienes agradezco por la invitación para sumarme a este interesante proyecto. Mi aprecio y agradecimiento, por la atenta recomendación, a mi querido amigo Thom Gencarelli –quien también participó con un capítulo en esta obra–.

Continue Reading

Reseña Crítica del libro: La industria musical y los derechos de autor

La industria musical y los derechos de autor

Reseña Crítica presentada por José Eduardo Ortega Ríos sobre libro denominado La industria musical y los derechos de autor de León y Rico, J. publicado por Editorial Porrúa.

La presente reseña crítica es presentada para la cátedra de Marco Jurídico de la Comunicación, del ITESM, como trabajo para aterrizar y aplicar de manera crítica algunos de los conocimientos adquiridos durante el curso. El libro analizado es “La industria musical y los derechos de autor” de 2009, por Jorge León y Rico, relacionado a la materia mediante el tema de la Ley Federal de Derechos de Autor, y relevante por el contexto que se vive actualmente respecto a la comercialización de la música de forma tradicional a través de fonogramas, la transición a un modelo de negocios digital, y la facilidad de transmisión ilegal de material que existe gracias a internet.

El libro está dividido en cinco capítulos de los cuáles los dos primeros se enfocan en definir lo que es un fonograma, y en exponer lo que es relevante a ellos dentro de la Ley Federal de Derechos de Autor. Sin embargo, su contenido más relevante recae en sus definiciones de fonograma, los diversos tipos de derechos que existen en nuestra legislación para proteger las obras de los autores, su inminente extinción y el entorno digital en el que se comercializan muchos materiales susceptibles de derechos de autor, incluida la música.

El texto es bastante detallado en cuanto a la historia de los fonogramas y su comercialización y protección en México, y aunque contiene demasiada información histórica, es muy puntual en señalar las condiciones que han llevado al mercado a su situación actual de piratería: el autor se refiere a a los puntos de venta de discos como monopolios, cuyas excesivas ganancias del 200% más del valor real de un solo disco generan precios elevados, que hacen que la adquisición de un disco sea considerada lujo para una buena parte de la población, para quienes adquirir un fonograma equivale hasta el 20% del salario mínimo, provocando así una extendida preferencia por la piratería (León y Rico, 2009).

Continue Reading

Reseña Crítica del Libro Responsabilidad Social, Autorregulación y Legislación en Radio y Televisión

Responsabilidad Social, Autorregulación y Legislación en Radio y Televisión

Reseña crítica presentada por la alumna Brianda Sindy Rodríguez Paredes para la clase de Marco Jurídico de la Comunicación del programa de Comunicación y Medios Digitales del Tecnológico de Monterrey.

Marco Normativo de la Radio y la Televisión

I. La Concesión

El libro define primero el concepto de concesión como acción o efecto de conceder, lo que significa otorgar. Por lo tanto desde la perspectiva jurídica, la concesión puede entenderse como el mecanismo mediante el cual quien tiene la titularidad de ciertas atribuciones, bienes o servicios, delega ese ejercicio en favor de un tercero.

Luego las concesiones pueden dividirse, en administrativas y en mercantiles, pero el libro se enfoca en trabajar con la primera, definida como la transferencia que hace la administración pública a particulares del desempeño de alguna de las actividades no esenciales que tiene atribuidas, o bien, del uso y aprovechamiento de bienes del dominio público. La concesión sólo puede ser entregada por organismos públicos porque se considera un acto de soberanía, luego entonces se entiende que un particular o un privado no pueden darte tales derechos.

Las concesiones nacen a raíz de que el Estado se moderniza y ya no tiene el tiempo o la facultad para proveer ciertos servicios o bienes públicos, por lo que confiere esa responsabilidad a particulares sin que signifique la renuncia a ellos, por eso lo particulares no pueden hacerse cargo sin que antes le sean delegados. Lo anterior está tipificado en el artículo 28 constitucional en sus párrafos diez y once.

Específicamente, la concesión de un servicio público se entiende como “la actividad técnica destinada a satisfacer una necesidad de carácter general, suma de muchas necesidades individuales con sujeción a un margen jurídico exorbitante del derecho ordinario” (Fernández, 2002, 15). Por ello el concesionario del servicio público está sometido al control y a la vigilancia de la administración pública, porque es una de las formas del ejercicio privado de la administración pública.

Existen otras dos modalidades de la concesión administrativa. La concesión demanial puede entenderse como el otorgamiento que hace el Estado, en favor de un particular, del privativo uso de un bien o conjunto de bienes del dominio público. Y la concesión de obra pública, que no está contemplada en la Constitución de nuestro país, compuesta por dos partes, primero por un contrato de obra pública y luego por una concesión demanial; la concesión de obra pública se convierte en una forma de financiar obras sin que el Estado aporte recursos financieros.

La concesión administrativa ha sido estudiada y dividida para su comprensión, pero aún hay debate sobre lo que en realidad es. Los promotores de la teoría contractual sobre la naturaleza jurídica de la concesión administrativa y las teorías contractuales de la concesión administrativa la consideran un contrato, otros como un acto administrativo y las teorías de la concesión como un acto mixto (la explicación más clara y aceptable para la concesión administrativa).

En el ámbito federal mexicano, la concesión administrativa es considera como un acto mixto por conformarse de tres distintas naturalezas, una parte reglada, otra parte contractual, y una última parte como acto administrativo mediante el cual la autoridad confiere y otorga los términos de la concesión.

La concesión de servicios públicos es de alguna forma también un contrato de derecho público porque por sujetarse a un régimen jurídico, lo que significa que se sus leyes con imperativas, es decir, que imponen obligaciones, prohibiciones y límites. Por lo anterior es que el concesionario tiene cualidades de carácter moral, financiero, técnico y legal.

Toda concesión administrativa requiere ciertos elementos:

  1. El concedente: órgano competente del poder público.
  2. El concesionario: personas físicas o morales a condición de satisfacer ciertos requisitos.
  3. El servicio público o bien dominial materia de la concesión: se concesiones bajo normas de derecho público e intuito personae, que significa que el concesionario lo es en virtud de tomarse en cuenta sus cualidades específicas de carácter legal, técnico, financiero y moral.

La concesión administrativa tiene un carácter fugaz, se extingue por el solo hecho del periodo de tiempo por el que se otorga. Pero además existen otras razones por las que una concesión se puede extinguir, no siendo una de ellas la anulación, pues no puede desaparecer lo que aún no existía.

Una de las formas extraordinarias que extingue a la concesión administrativa es el rescate, entendido como una revocación por motivos de interés público. Se distingue de la revocación porque no tiene que ver con fines legales. En el rescate el concesionario debe ser avisado y posteriormente indemnizado, incluso por el lucro cesante (una parte de las utilidades que el concesionario deja de percibir).

Otra forma de extinción es la caducidad. El incumplimiento de algunas de las obligaciones del concesionario puede provocarla. El concesionario debe recibir una notificación y tiene derecho a una audiencia.

La rescisión es otra forma de perder anticipadamente una concesión administrativa. Se da cuando de común acuerdo el concedente y el concesionario pactan la rescisión de la misma, sin que haya responsabilidades para ninguna de las partes.

Finalmente, otras causas de la extinción de la concesión administrativa pueden ser la quiebra o la muerte del concesionario. La quiebra lleva a la caducidad y la muerte a que la concesión se transmita a sus herederos.

Continue Reading