Facebook aplicará a partir de mayo la etiqueta “Hecho con IA” a los videos, imágenes y audio generados por inteligencia artificial (AI), que se publiquen en sus plataformas
ESTADOS UNIDOS.- Meta, propietaria de Facebook, anunció que hará cambios en sus políticas de medios creados y alterados digitalmente, cerca de las elecciones de Estados Unidos, que pondrán a prueba su capacidad para vigilar contenidos engañosos generador por las nuevas tecnologías de inteligencia artificial.
El nuevo enfoque cambiará el tratamiento que la empresa da a los contenidos manipulados | Reuters
Facebook aplicará a partir de mayo la etiqueta “Hecho con IA” a los videos, imágenes y audio generados por inteligencia artificial (AI), que se publiquen en sus plataformas.
Con esto ampliará una política que anteriormente se aplicaba únicamente a una pequeña parte de los videos manipulados, explicó en un blog la vicepresidente de Política y Contenidos, Monika Bickert.
Bickert dijo que Meta también aplicará etiquetas separadas y más prominentes a los medios alterados digitalmente que plantean un "riesgo particularmente alto de engañar materialmente al público sobre un asunto de importancia", independientemente de si el contenido fue creado utilizando IA u otras herramientas.
El nuevo enfoque cambiará el tratamiento que la empresa da a los contenidos manipulados. Se pasará de un enfoque centrado en la eliminación de un conjunto limitado de publicaciones a otro que mantendrá el contenido y proporcionará a los espectadores información sobre cómo se creó.
Meta ya había anunciado un plan para detectar las imágenes creadas con herramientas de IA generativa de otras empresas mediante marcadores invisibles integrados en los archivos, pero en aquel momento no dio una fecha de inicio.
Un portavoz de la empresa dijo a Reuters que el nuevo enfoque de etiquetado se aplicaría a los contenidos publicados en los servicios de Facebook, Instagram y Threads de Meta. Sus otros servicios, incluidos WhatsApp y los cascos de realidad virtual Quest, están cubiertos por normas diferentes.
Meta comenzará a aplicar las etiquetas de "alto riesgo" más prominentes de inmediato, dijo el portavoz.
Los cambios se anuncian unos meses antes de las elecciones presidenciales estadounidenses de noviembre, que, según advierten los investigadores tecnológicos, podrían verse transformadas por las nuevas tecnologías de IA generativa.
Las campañas políticas ya han empezado a desplegar herramientas de IA en lugares como Indonesia, sobrepasando los límites de las directrices emitidas por proveedores como Meta y OpenAI, líder del mercado de IA generativa.
En febrero, la junta de supervisión de Meta calificó de "incoherentes" las normas de la empresa sobre manipulación de medios, tras revisar un vídeo del presidente de Estados Unidos, Joe Biden, publicado en Facebook el año pasado, en el que se alteraban imágenes reales para sugerir erróneamente que se había comportado de forma inapropiada.
Se permitió que el vídeo siguiera colgado, ya que la política de "medios manipulados" de Meta sólo prohíbe los vídeos alterados engañosamente si han sido producidos por inteligencia artificial o si hacen que parezca que las personas dicen palabras que en realidad no han dicho.
La junta directiva dijo que la política también debería aplicarse a los contenidos no generados por IA, que "no son necesariamente menos engañosos" que los generados por IA, así como a los contenidos de sólo audio y a los vídeos que muestran a personas haciendo cosas que en realidad nunca hicieron.