Según los funcionarios, la prohibición se dirigirá a aplicaciones que utilizan inteligencia artificial de deepfake para superponer contenido explícito sobre imágenes de individuos sin su consentimiento. Estas aplicaciones han sido vinculadas a un aumento en la compartición de imágenes no consensuadas, con las víctimas a menudo quedando con sentimientos de vulnerabilidad y traumatismo. "No podemos permitir que estas aplicaciones continúen causando daño a individuos y comunidades", dijo un portavoz del gobierno del Reino Unido. "Nuestra prioridad es proteger a las personas del acoso en línea y asegurarnos de que aquellos responsables rindan cuentas".

La prohibición propuesta se espera que afecte a varias aplicaciones de inteligencia artificial de deepfake populares, incluyendo DeepNude y FakeApp. Estas aplicaciones han sido ampliamente criticadas por su potencial para ser utilizadas con fines maliciosos y han sido vinculadas a varios casos de alto perfil de compartición de imágenes no consensuadas. "Estamos comprometidos a trabajar con el gobierno del Reino Unido para asegurarnos de que nuestra tecnología se utilice de manera responsable y para el beneficio de la sociedad", dijo un portavoz de la empresa detrás de DeepNude.

El uso de tecnologías de inteligencia artificial de deepfake ha sido una creciente preocupación en los últimos años, con muchos expertos advirtiendo sobre los riesgos potenciales asociados con estas tecnologías. Las aplicaciones de inteligencia artificial de deepfake utilizan algoritmos de aprendizaje automático avanzados para manipular imágenes y videos, a menudo con consecuencias devastadoras. En el caso de las aplicaciones de "nudificación" de inteligencia artificial de deepfake, la tecnología se utiliza para superponer contenido explícito sobre imágenes de individuos sin su consentimiento.

La prohibición propuesta es parte de un esfuerzo más amplio para regular el uso de tecnologías de inteligencia artificial en el Reino Unido. En 2020, el gobierno del Reino Unido estableció un nuevo organismo regulatorio, el Centro para la Ética y la Innovación de los Datos, para supervisar el desarrollo y el uso de tecnologías de inteligencia artificial. El centro ha estado trabajando en estrecha colaboración con partes interesadas de la industria para desarrollar directrices y mejores prácticas para el uso de tecnologías de inteligencia artificial.

Los expertos de la industria han acogido con satisfacción la prohibición propuesta, citando preocupaciones sobre los riesgos potenciales asociados con las aplicaciones de "nudificación" de inteligencia artificial de deepfake. "Este es un paso positivo hacia la regulación del uso de tecnologías de inteligencia artificial y la protección de los individuos del acoso en línea", dijo un portavoz de la asociación de la industria tecnológica líder del Reino Unido. "Estamos ansiosos por trabajar con el gobierno del Reino Unido para asegurarnos de que estas regulaciones sean efectivas y ejecutables".

La prohibición propuesta se espera que se implemente en los próximos meses, con los funcionarios trabajando para desarrollar nuevas directrices y regulaciones para el uso de tecnologías de inteligencia artificial de deepfake. Mientras tanto, se aconseja a los individuos que ejerzan precaución al utilizar aplicaciones de inteligencia artificial de deepfake y que informen cualquier instancia de compartición de imágenes no consensuadas a las autoridades.