American Marconi Wireless News - YouTube ofrece detección de "deepfakes" a artistas de Hollywood

La plataforma de videos propiedad de Google lanzó el mes pasado su herramienta de protección de la imagen, que ayuda a identificar contenidos en los que un rostro aparece modificado o generado con tecnologías de IA para imitar el de una persona real.

El proyecto estaba inicialmente dirigido a funcionarios de gobierno, candidatos políticos y periodistas.

Pero esta semana YouTube amplió el acceso a la industria del entretenimiento, incluidos actores y músicos, a través agencias de talentos y representantes de celebridades.

La herramienta permite "buscar contenidos generados por IA que reproduzcan la apariencia de una persona inscrita, como un 'deepfake' de su rostro, y le da la facultad de localizarlos y solicitar su eliminación".

Las celebridades y los artistas pueden acceder a ella incluso sin disponer de un canal en YouTube..

"El hecho de que YouTube abra sus capacidades de detección de deepfakes a las personalidades públicas marca un punto de inflexión en la manera en que las plataformas abordan la protección de la identidad en la era de la IA generativa", declaró a la AFP Alon Yamin, director ejecutivo y cofundador de la plataforma Copyleaks de detección de contenido de IA.

"La tecnología que permite reproducir el rostro, la voz y los gestos de una persona ha avanzado más rápido que las salvaguardas que la rodean, creando una brecha que actores malintencionados ya están explotando", señaló.

- Importantes desafíos -

La iniciativa llega en un momento en que se multiplican los vídeos hiperrealistas de celebridades fallecidas, creados con aplicaciones de uso general como Sora, la herramienta de OpenAI. La aplicación ha desencadenado una avalancha de videos de Michael Jackson o Elvis Presley.

El mes pasado, OpenAI anunció que cerraría su aplicación Sora.

En febrero, el director irlandés Ruairí Robinson creó un clip sorprendentemente realista que mostraba a Brad Pitt luchando contra Tom Cruise en una azotea mediante una instrucción de dos frases.

El clip, que provocó gran inquietud en Hollywood, fue generado con Seedance 2.0, una herramienta perteneciente al grupo chino ByteDance.

Robinson también creó otros videos: uno en el que Pitt lucha contra un zombi ninja armado con una espada, y otro en el que se une a Cruise para combatir a un robot.

Charles Rivkin, presidente de la Motion Picture Association (MPA) que agrupa a los grandes estudios de producción estadounidenses, instó a ByteDance a "cesar inmediatamente sus actividades de falsificación", acusándola de pisotear la los derechos de autor.

YouTube dijo que estaba trabajando con las principales agencias de talentos para mejorar la detección de imágenes problemáticas y proteger mejor a los artistas.

- "Su patrimonio" -

YouTube "hace lo correcto al proporcionar estas herramientas gratuitamente a los talentos, para que puedan proteger su patrimonio", señaló Jason Newman, de la empresa de representación y producción Untitled Entertainment.

"Su patrimonio es su rostro, su cuerpo, quiénes son, lo que hacen, su forma de expresarse", añadió en una entrevista con la revista Hollywood Reporter.

El desarrollo de la herramienta se produce tras las quejas de destacadas personalidades estadounidenses que denunciaban lo engorroso del procedimiento en YouTube para señalar y retirar un 'deepfake'.

"Los riesgos son especialmente elevados porque los 'deepfakes' pueden utilizarse para difundir desinformación, manipular los mercados, dañar reputaciones o hacer creer en un apoyo engañoso. Una detección robusta ya no es opcional", explicó el responsable de Copyleaks.

"Los sistemas de detección deben ser extremadamente precisos, actualizarse continuamente y estar asociados a normas claras y procedimientos de retirada rápidos para ser eficaces", apuntó.

"Esto no eliminará por completo los 'deepfakes', pero puede reducir considerablemente su alcance y su impacto, al dificultar la circulación de contenidos manipulados sin ser detectados o cuestionados", argumentó Yamin.

F.Schneider--AMWN