政府関係者によると、この禁止措置は、個人の同意なしに画像に明確なコンテンツを重ねるためにディープフェイクAIを使用するアプリを対象とする予定です。これらのアプリは、非同意による画像共有の増加に関連しており、被害者は多くの場合、脆弱でトラウマを抱えたままです。「これらのアプリが個人やコミュニティに損害を与え続けることを許すことはできない」と、英国政府のスポークスパーソンは述べました。「私たちの優先事項は、オンラインでの嫌がらせから人々を守り、責任がある者が責任を負うことを保証することです。」

提案された禁止措置は、DeepNudeやFakeAppを含むいくつかの人気のあるディープフェイクAIアプリに影響を及ぼすことが予想されています。これらのアプリは、悪意のある目的で使用される可能性があるため、広く批判されており、非同意による画像共有のいくつかの著名な事件に関連しています。「私たちは、英国政府と協力して、技術が責任を持って社会の利益のために使用されることを保証することに尽力しています」と、DeepNudeを開発した会社のスポークスパーソンは述べました。

ディープフェイクAI技術の使用は、近年、多くの専門家がこれらの技術に関連する潜在的なリスクについて警告しているため、増大する懸念事項となっています。ディープフェイクAIアプリは、画像や動画を操作するために高度な機械学習アルゴリズムを使用し、多くの場合、壊滅的な結果をもたらします。ディープフェイクAIの「ヌーディファイ」アプリの場合、技術は、個人の同意なしに画像に明確なコンテンツを重ねるために使用されます。

提案された禁止措置は、英国でのAI技術の使用を規制するためのより広範な取り組みの一部です。2020年、英国政府は、AI技術の開発と使用を監督するための新しい規制機関であるデータ倫理・イノベーションセンターを設立しました。このセンターは、業界の利害関係者と協力して、AI技術の使用に関するガイドラインとベストプラクティスを開発するために取り組んでいます。

業界の専門家は、ディープフェイクAIの「ヌーディファイ」アプリに関連する潜在的なリスクに関する懸念を引用して、提案された禁止措置を歓迎しています。「これは、AI技術の使用を規制し、個人がオンラインでの嫌がらせから保護されるための前向きな一歩です」と、英国を代表するテクノロジー業界協会のスポークスパーソンは述べました。「これらの規制が効果的で施行可能であることを保証するために、英国政府と協力することを楽しみにしています。」

提案された禁止措置は、近い将来に実施される予定で、政府関係者はディープフェイクAI技術の使用に関する新しいガイドラインと規制を開発するために取り組んでいます。その間、個人はディープフェイクAIアプリを使用する際に注意を払い、非同意による画像共有の事例を当局に報告することが求められています。