根据官员的说法，该禁令将针对使用深度伪造人工智能（deepfake AI）将露骨内容叠加到个人图像上的应用程序，而这些个人并未同意。这些应用程序已被证实与非自愿图像共享的增加有关，受害者往往会感到脆弱和创伤。“我们不能让这些应用程序继续对个人和社区造成伤害，”英国政府发言人说。“我们的优先事项是保护人们免受在线骚扰，并确保那些负责的人承担责任。”

拟议的禁令预计将影响几款流行的深度伪造人工智能应用程序，包括DeepNude和FakeApp。这些应用程序因其可能被用于恶意目的而受到广泛批评，并已被证实与多起非自愿图像共享的高调案件有关。“我们致力于与英国政府合作，确保我们的技术被负责任地使用，并造福社会，”DeepNude背后的公司发言人说。

近年来，深度伪造人工智能技术的使用已成为一个日益增长的担忧，许多专家警告了这些技术所带来的潜在风险。深度伪造人工智能应用程序使用先进的机器学习算法来操纵图像和视频，往往带来毁灭性的后果。在深度伪造人工智能“裸体化”应用程序的例子中，该技术用于在未经个人同意的情况下将露骨内容叠加到个人图像上。

拟议的禁令是英国监管人工智能技术使用的更广泛努力的一部分。2020年，英国政府建立了一个新的监管机构——数据伦理和创新中心（Centre for Data Ethics and Innovation），以监督人工智能技术的开发和使用。该中心一直与行业利益相关者密切合作，制定人工智能技术使用的指南和最佳实践。

行业专家对拟议的禁令表示欢迎，援引了与深度伪造人工智能“裸体化”应用程序相关的潜在风险的担忧。“这是监管人工智能技术使用和保护个人免受在线骚扰的积极一步，”英国领先的科技行业协会发言人说。“我们期待与英国政府合作，确保这些法规是有效的和可执行的。”

拟议的禁令预计将在未来几个月内实施，官员们正在努力制定新的指南和法规，以规范深度伪造人工智能技术的使用。与此同时，个人被建议在使用深度伪造人工智能应用程序时要谨慎，并将任何非自愿图像共享的实例报告给当局。