MundoMundo

EEUU: las empresas combatirán las imágenes manipuladas por inteligencia artificial

Siete empresas norteamericanas se comprometieron, a través de una iniciativa impulsada por el gobierno, a combatir las imágenes catalogadas como "deepfakes".

Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI, siete de las empresas de Estados Unidos más grandes en materia de tecnología, aceptaron voluntariamente una serie de compromisos en el desarrollo de la inteligencia artificial(IA) para que sea más «segura y transparente».

Las compañías anunciaron que trabajarán en sistemas de marcado de contenidos creados con IA con el fin de reducir los riesgos de fraude y desinformación

Es por eso que las desarrolladoras norteamericanas de IA se comprometieron a tres acciones puntuales: probar sus programas informáticos interna y externamente antes de su lanzamiento, invertir en ciberseguridad y compartir las informaciones pertinentes sobre sus herramientas con autoridades e investigadores.

El gobierno estadounidense, por su parte, lanzó un comunicado oficial donde explicó que estas compañías deberán «desarrollar técnicas sólidas para asegurar que los usuarios sepan cuándo los contenidos fueron generados por IA, como un sistema de marca de agua». «Esto permitirá que la creatividad ligada a la IA prospere mientras se reducen los peligros relacionados con fraudes o engaños», agregan las autoridades.

Las iniciativas impulsadas por el gobierno de Estados Unidosbuscarán limitar el alcance de las fotografías falsas o los vídeos manipulados extremadamente realistas, también llamados deepfakes, en el marco de una ola desinformativa generada por IA.

Desde Trump hasta el Papa: las imágenes con IA y la desinformación

A lo largo de este año, donde la inteligencia artificial explotó entre los usuarios de las redes sociales, distintos personajes fueron víctimas de armados falsos o deepfakes.

Es probable, en este contexto, que hayas visto fotos generadas por bots, como la del Papa Francisco con una campera puffer o la de Donald Trump detenido por la policía. Con la creciente ola tecnológica de IA en diversos ámbitos, es cada vez más importante saber si una imagen ha sido creada por un humano o por una máquina.

El sumo pontífice, por su parte, fue furor en las redes sociales por las imágenes alteradas a través de la nueva tecnología. La postal del Papa Francisco con el camperón gigante blanco no pasó desapercibida y miles de usuarios en las redes sociales salieron a opinar sobre la llamativa vestimenta con memes y comentarios de todo tipo.

El expresidente de Estados Unidos, por su parte, fue víctima de un montaje un poco más agresivo: imágenes creadas con IA lo mostraron violentado y detenido por la policía, en días donde se discutía su culpabilidad por un supuesto soborno a la estrella porno Stormy Daniels.

Las imágenes, creadas por Eliot Higgins, fundador de la plataforma de periodismo de investigación Bellingcat, generaron gran revuelo por su parecido con la realidad.

Comparte esta noticia

Publicaciones relacionadas

Botón volver arriba