Selon les responsables, l'interdiction ciblera les applications qui utilisent l'IA deepfake pour superposer du contenu explicite sur des images de personnes sans leur consentement. Ces applications ont été liées à une augmentation du partage d'images non consensuelles, les victimes se sentant souvent vulnérables et traumatisées. "Nous ne pouvons pas permettre à ces applications de continuer à causer des dommages aux individus et aux communautés", a déclaré un porte-parole du gouvernement britannique. "Notre priorité est de protéger les gens contre les harcèlements en ligne et de veiller à ce que ceux qui sont responsables soient tenus responsables."

L'interdiction proposée devrait affecter plusieurs applications populaires d'IA deepfake, notamment DeepNude et FakeApp. Ces applications ont été largement critiquées pour leur potentiel d'être utilisées à des fins malveillantes et ont été liées à plusieurs affaires de partage d'images non consensuelles de haut profil. "Nous sommes déterminés à travailler avec le gouvernement britannique pour nous assurer que notre technologie est utilisée de manière responsable et pour le bénéfice de la société", a déclaré un porte-parole de l'entreprise derrière DeepNude.

L'utilisation des technologies d'IA deepfake a été une préoccupation croissante ces dernières années, de nombreux experts avertissant des risques potentiels associés à ces technologies. Les applications d'IA deepfake utilisent des algorithmes d'apprentissage automatique avancés pour manipuler les images et les vidéos, souvent avec des conséquences dévastatrices. Dans le cas des applications d'IA deepfake de "nudification", la technologie est utilisée pour superposer du contenu explicite sur des images de personnes sans leur consentement.

L'interdiction proposée fait partie d'un effort plus large pour réglementer l'utilisation des technologies d'IA au Royaume-Uni. En 2020, le gouvernement britannique a créé un nouvel organisme réglementaire, le Centre pour l'éthique des données et l'innovation, pour superviser le développement et l'utilisation des technologies d'IA. Le centre a travaillé en étroite collaboration avec les parties prenantes de l'industrie pour élaborer des lignes directrices et des meilleures pratiques pour l'utilisation des technologies d'IA.

Les experts de l'industrie ont salué l'interdiction proposée, citant des préoccupations concernant les risques potentiels associés aux applications d'IA deepfake de "nudification". "C'est un pas positif vers la réglementation de l'utilisation des technologies d'IA et la protection des individus contre les harcèlements en ligne", a déclaré un porte-parole de l'association de l'industrie technologique britannique de premier plan. "Nous nous réjouissons de travailler avec le gouvernement britannique pour nous assurer que ces réglementations sont efficaces et applicables."

L'interdiction proposée devrait être mise en œuvre dans les prochains mois, les responsables travaillant à élaborer de nouvelles lignes directrices et réglementations pour l'utilisation des technologies d'IA deepfake. Dans l'intervalle, les individus sont invités à exercer la prudence lors de l'utilisation des applications d'IA deepfake et à signaler tout cas de partage d'images non consensuelles aux autorités.