अधिकारियों के अनुसार, प्रतिबंध उन ऐप्स पर लक्षित होगा जो व्यक्तियों की तस्वीरों पर उनकी सहमति के बिना स्पष्ट सामग्री को ओवरले करने के लिए डीपफेक AI का उपयोग करते हैं। इन ऐप्स को गैर-सहमति वाली छवि साझा करने में वृद्धि से जोड़ा गया है, जिसमें अक्सर पीड़ित कमजोर और आघातग्रस्त महसूस करते हैं। "हम इन ऐप्स को व्यक्तियों और समुदायों को नुकसान पहुंचाने की अनुमति नहीं दे सकते," यूके सरकार के एक प्रवक्ता ने कहा। "हमारी प्राथमिकता लोगों को ऑनलाइन उत्पीड़न से बचाना और सुनिश्चित करना है कि जिम्मेदार लोगों को जवाबदेह ठहराया जाए।"

प्रस्तावित प्रतिबंध के कई लोकप्रिय डीपफेक AI ऐप्स, जिनमें डीपन्यूड और फेकएप शामिल हैं, पर प्रभाव पड़ने की उम्मीद है। इन ऐप्स की उनके दुर्भाग्यपूर्ण उद्देश्यों के लिए उपयोग करने की संभावना के लिए व्यापक रूप से आलोचना की गई है, और उन्हें कई उच्च-प्रोफ़ाइल मामलों में गैर-सहमति वाली छवि साझा करने से जोड़ा गया है। "हम यूके सरकार के साथ काम करने के लिए प्रतिबद्ध हैं ताकि यह सुनिश्चित किया जा सके कि हमारी तकनीक जिम्मेदारी से और समाज के लिए उपयोग की जाए," डीपन्यूड के पीछे की कंपनी के एक प्रवक्ता ने कहा।

डीपफेक AI प्रौद्योगिकियों का उपयोग हाल के वर्षों में एक बढ़ती चिंता का विषय रहा है, जिसमें कई विशेषज्ञ इन प्रौद्योगिकियों से जुड़े संभावित जोखिमों की चेतावनी दे रहे हैं। डीपफेक AI ऐप्स छवियों और वीडियोज़ को हेरफेर करने के लिए उन्नत मशीन लर्निंग एल्गोरिदम का उपयोग करते हैं, अक्सर विनाशकारी परिणामों के साथ। डीपफेक AI 'न्यूडिफिकेशन' ऐप्स के मामले में, प्रौद्योगिकी का उपयोग व्यक्तियों की तस्वीरों पर स्पष्ट सामग्री को ओवरले करने के लिए उनकी सहमति के बिना किया जाता है।

प्रस्तावित प्रतिबंध यूके में एआई प्रौद्योगिकियों के उपयोग को विनियमित करने के लिए एक व्यापक प्रयास का हिस्सा है। 2020 में, यूके सरकार ने एआई प्रौद्योगिकियों के विकास और उपयोग की देखरेख के लिए एक नया नियामक निकाय, डेटा नैतिकता और नवाचार केंद्र स्थापित किया। केंद्र उद्योग के हितधारकों के साथ मिलकर एआई प्रौद्योगिकियों के उपयोग के लिए दिशानिर्देश और सर्वोत्तम प्रथाओं को विकसित करने के लिए काम कर रहा है।

उद्योग के विशेषज्ञों ने प्रस्तावित प्रतिबंध का स्वागत किया है, जिसमें डीपफेक AI 'न्यूडिफिकेशन' ऐप्स से जुड़े संभावित जोखिमों पर चिंता व्यक्त की गई है। "यह एआई प्रौद्योगिकियों के उपयोग को विनियमित करने और व्यक्तियों को ऑनलाइन उत्पीड़न से बचाने की दिशा में एक सकारात्मक कदम है," यूके के प्रमुख टेक उद्योग संघ के एक प्रवक्ता ने कहा। "हम यूके सरकार के साथ काम करने की उम्मीद करते हैं ताकि यह सुनिश्चित किया जा सके कि ये नियम प्रभावी और लागू हों।"

प्रस्तावित प्रतिबंध के आने वाले महीनों में लागू होने की उम्मीद है, जिसमें अधिकारी डीपफेक AI प्रौद्योगिकियों के उपयोग के लिए नए दिशानिर्देश और नियम विकसित करने के लिए काम कर रहे हैं। इस बीच, व्यक्तियों को सलाह दी जाती है कि वे डीपफेक AI ऐप्स का उपयोग करते समय सावधानी बरतें और अधिकारियों को गैर-सहमति वाली छवि साझा करने के किसी भी उदाहरण की रिपोर्ट करें।