Laut den Behörden wird das Verbot Apps treffen, die Deepfake-KI verwenden, um explizite Inhalte auf Bilder von Personen ohne deren Zustimmung zu überlagern. Diese Apps wurden mit einer Zunahme der nicht-einvernehmlichen Bildteilung in Verbindung gebracht, wobei die Opfer oft verletzlich und traumatisiert zurückbleiben. "Wir können es nicht zulassen, dass diese Apps weiterhin Schaden bei Einzelpersonen und Gemeinschaften anrichten", sagte ein Sprecher der britischen Regierung. "Unser Ziel ist es, Menschen vor Online-Belästigung zu schützen und sicherzustellen, dass die Verantwortlichen zur Rechenschaft gezogen werden."

Das vorgeschlagene Verbot wird voraussichtlich mehrere beliebte Deepfake-KI-Apps, einschließlich DeepNude und FakeApp, betreffen. Diese Apps wurden wegen ihres Potenzials, für schädliche Zwecke verwendet zu werden, weitgehend kritisiert und wurden mit mehreren prominenten Fällen von nicht-einvernehmlicher Bildteilung in Verbindung gebracht. "Wir sind entschlossen, mit der britischen Regierung zusammenzuarbeiten, um sicherzustellen, dass unsere Technologie verantwortungsvoll und zum Wohle der Gesellschaft eingesetzt wird", sagte ein Sprecher des Unternehmens hinter DeepNude.

Die Verwendung von Deepfake-KI-Technologien ist in den letzten Jahren ein wachsendes Anliegen gewesen, da viele Experten vor den potenziellen Risiken, die mit diesen Technologien verbunden sind, warnen. Deepfake-KI-Apps verwenden fortschrittliche Algorithmen des maschinellen Lernens, um Bilder und Videos zu manipulieren, oft mit verheerenden Folgen. Im Falle von Deepfake-KI-"Entkleidungs"-Apps wird die Technologie verwendet, um explizite Inhalte auf Bilder von Personen ohne deren Zustimmung zu überlagern.

Das vorgeschlagene Verbot ist Teil einer umfassenderen Bemühung, die Verwendung von KI-Technologien im Vereinigten Königreich zu regulieren. Im Jahr 2020 richtete die britische Regierung eine neue Regulierungsbehörde, das Centre for Data Ethics and Innovation, ein, um die Entwicklung und Verwendung von KI-Technologien zu überwachen. Das Zentrum arbeitet eng mit Branchenbeteiligten zusammen, um Richtlinien und Best Practices für die Verwendung von KI-Technologien zu entwickeln.

Branchenexperten haben das vorgeschlagene Verbot begrüßt und Bedenken hinsichtlich der potenziellen Risiken, die mit Deepfake-KI-"Entkleidungs"-Apps verbunden sind, geäußert. "Dies ist ein positiver Schritt zur Regulierung der Verwendung von KI-Technologien und zum Schutz von Einzelpersonen vor Online-Belästigung", sagte ein Sprecher des führenden britischen Technologie-Verbandes. "Wir freuen uns darauf, mit der britischen Regierung zusammenzuarbeiten, um sicherzustellen, dass diese Vorschriften wirksam und durchsetzbar sind."

Das vorgeschlagene Verbot wird voraussichtlich in den kommenden Monaten umgesetzt, wobei die Behörden daran arbeiten, neue Richtlinien und Vorschriften für die Verwendung von Deepfake-KI-Technologien zu entwickeln. In der Zwischenzeit wird den Einzelpersonen geraten, Vorsicht walten zu lassen, wenn sie Deepfake-KI-Apps verwenden, und alle Fälle von nicht-einvernehmlicher Bildteilung den Behörden zu melden.