De acordo com os funcionários, a proibição irá visar aplicativos que usam inteligência artificial de deepfake para superpor conteúdo explícito em imagens de indivíduos sem o seu consentimento. Esses aplicativos foram ligados a um aumento na partilha de imagens não consentidas, com as vítimas frequentemente deixadas se sentindo vulneráveis e traumatizadas. "Não podemos permitir que esses aplicativos continuem a causar danos a indivíduos e comunidades", disse um porta-voz do governo do Reino Unido. "Nossa prioridade é proteger as pessoas do assédio online e garantir que aqueles responsáveis sejam responsabilizados."

A proibição proposta deve afetar vários aplicativos de inteligência artificial de deepfake populares, incluindo DeepNude e FakeApp. Esses aplicativos foram amplamente criticados por seu potencial de serem usados para fins maliciosos e foram ligados a vários casos de alto perfil de partilha de imagens não consentidas. "Estamos comprometidos em trabalhar com o governo do Reino Unido para garantir que nossa tecnologia seja usada de forma responsável e para o benefício da sociedade", disse um porta-voz da empresa por trás do DeepNude.

O uso de tecnologias de inteligência artificial de deepfake tem sido uma preocupação crescente nos últimos anos, com muitos especialistas advertindo sobre os riscos potenciais associados a essas tecnologias. Os aplicativos de inteligência artificial de deepfake usam algoritmos de aprendizado de máquina avançados para manipular imagens e vídeos, frequentemente com consequências devastadoras. No caso dos aplicativos de "nudificação" de inteligência artificial de deepfake, a tecnologia é usada para superpor conteúdo explícito em imagens de indivíduos sem o seu consentimento.

A proibição proposta faz parte de um esforço mais amplo para regular o uso de tecnologias de inteligência artificial no Reino Unido. Em 2020, o governo do Reino Unido estabeleceu um novo órgão regulador, o Centro de Ética e Inovação de Dados, para supervisionar o desenvolvimento e uso de tecnologias de inteligência artificial. O centro tem trabalhado em estreita colaboração com partes interessadas da indústria para desenvolver diretrizes e práticas recomendadas para o uso de tecnologias de inteligência artificial.

Especialistas da indústria acolheram a proibição proposta, citando preocupações sobre os riscos potenciais associados a aplicativos de "nudificação" de inteligência artificial de deepfake. "Este é um passo positivo para regular o uso de tecnologias de inteligência artificial e proteger indivíduos do assédio online", disse um porta-voz da principal associação da indústria de tecnologia do Reino Unido. "Aguardamos com ansiedade a oportunidade de trabalhar com o governo do Reino Unido para garantir que essas regulamentações sejam eficazes e aplicáveis."

A proibição proposta deve ser implementada nos próximos meses, com os funcionários trabalhando para desenvolver novas diretrizes e regulamentações para o uso de tecnologias de inteligência artificial de deepfake. Enquanto isso, as pessoas são aconselhadas a exercer cautela ao usar aplicativos de inteligência artificial de deepfake e a relatar qualquer instância de partilha de imagens não consentidas às autoridades.