কর্মকর্তাদের মতে, নিষেধাজ্ঞাটি এমন অ্যাপগুলিকে লক্ষ্য করবে যেগুলি ব্যক্তিদের সম্মতি ছাড়াই তাদের ছবিতে অশ্লীল বিষয়বস্তু সুপারইমপোজ করার জন্য ডিপফেক এআই ব্যবহার করে। এই অ্যাপগুলি অসম্মত ছবি ভাগ করে নেওয়ার বৃদ্ধির সাথে যুক্ত ছিল, যার ফলে বেশিরভাগ ক্ষেত্রেই ব্যক্তিরা দুর্বল এবং আঘাতপ্রাপ্ত বোধ করে। "আমরা এই অ্যাপগুলিকে ব্যক্তি এবং সম্প্রদায়ের ক্ষতি করতে থাকতে দিতে পারি না," বলেছেন যুক্তরাজ্য সরকারের একজন মুখপাত্র। "আমাদের অগ্রাধিকার হল মানুষকে অনলাইন হয়রানি থেকে রক্ষা করা এবং নিশ্চিত করা যে দায়ীদের জবাবদিহি করা হয়।"

প্রস্তাবিত নিষেধাজ্ঞাটি বেশ কয়েকটি জনপ্রিয় ডিপফেক এআই অ্যাপকে প্রভাবিত করার আশা করা হচ্ছে, যার মধ্যে রয়েছে ডিপনিউড এবং ফেকঅ্যাপ। এই অ্যাপগুলি তাদের ক্ষতিকারক উদ্দেশ্যে ব্যবহার করার সম্ভাবনার জন্য ব্যাপকভাবে সমালোচিত হয়েছে এবং অসম্মত ছবি ভাগ করে নেওয়ার বেশ কয়েকটি উচ্চ-প্রোফাইল মামলার সাথে যুক্ত ছিল। "আমরা যুক্তরাজ্য সরকারের সাথে কাজ করার জন্য প্রতিশ্রুতিবদ্ধ যাতে আমাদের প্রযুক্তি দায়িত্বশীলভাবে এবং সমাজের সুবিধার জন্য ব্যবহার করা হয়," বলেছেন ডিপনিউডের পিছনে কোম্পানির একজন মুখপাত্র।

ডিপফেক এআই প্রযুক্তির ব্যবহার সাম্প্রতিক বছরগুলিতে একটি বর্ধমান উদ্বেগের বিষয় হয়ে উঠেছে, অনেক বিশেষজ্ঞ এই প্রযুক্তিগুলির সাথে সম্পর্কিত সম্ভাব্য ঝুঁকি সম্পর্কে সতর্ক করেছেন। ডিপফেক এআই অ্যাপগুলি ছবি এবং ভিডিও ম্যানিপুলেট করার জন্য উন্নত মেশিন লার্নিং অ্যালগরিদম ব্যবহার করে, প্রায়শই বিধ্বংসী পরিণতি সহ। ডিপফেক এআই 'নিউডিফিকেশন' অ্যাপগুলির ক্ষেত্রে, প্রযুক্তিটি ব্যক্তিদের সম্মতি ছাড়াই তাদের ছবিতে অশ্লীল বিষয়বস্তু সুপারইমপোজ করার জন্য ব্যবহৃত হয়।

প্রস্তাবিত নিষেধাজ্ঞাটি যুক্তরাজ্যে এআই প্রযুক্তির ব্যবহার নিয়ন্ত্রণ করার একটি বিস্তৃত প্রচেষ্টার অংশ। ২০২০ সালে, যুক্তরাজ্য সরকার এআই প্রযুক্তির বিকাশ এবং ব্যবহার তত্ত্বাবধান করার জন্য একটি নতুন নিয়ন্ত্রক সংস্থা, ডেটা নীতিশাস্ত্র এবং উদ্ভাবন কেন্দ্র প্রতিষ্ঠা করেছে। কেন্দ্রটি শিল্প স্টেকহোল্ডারদের সাথে ঘনিষ্ঠভাবে কাজ করছে এআই প্রযুক্তির ব্যবহারের জন্য নির্দেশিকা এবং সর্বোত্তম অনুশীলন বিকাশ করতে।

শিল্পের বিশেষজ্ঞরা প্রস্তাবিত নিষেধাজ্ঞাকে স্বাগত জানিয়েছেন, ডিপফেক এআই 'নিউডিফিকেশন' অ্যাপগুলির সাথে সম্পর্কিত সম্ভাব্য ঝুঁকি উল্লেখ করে। "এটি এআই প্রযুক্তির ব্যবহার নিয়ন্ত্রণ করা এবং ব্যক্তিদের অনলাইন হয়রানি থেকে রক্ষা করার দিকে একটি ইতিবাচক পদক্ষেপ," বলেছেন যুক্তরাজ্যের প্রধান প্রযুক্তি শিল্প অ্যাসোসিয়েশনের একজন মুখপাত্র। "আমরা যুক্তরাজ্য সরকারের সাথে কাজ করার জন্য উত্সাহিত যাতে এই নিয়মগুলি কার্যকর এবং প্রয়োগযোগ্য হয়।"

প্রস্তাবিত নিষেধাজ্ঞাটি আসন্ন মাসগুলিতে বাস্তবায়িত হওয়ার আশা করা হচ্ছে, কর্মকর্তারা ডিপফেক এআই প্রযুক্তির ব্যবহারের জন্য নতুন নির্দেশিকা এবং নিয়ম তৈরি করতে কাজ করছেন। এই মধ্যে, ব্যক্তিদের ডিপফেক এআই অ্যাপগুলি ব্যবহার করার সময় সতর্কতা অবলম্বন করার এবং কর্তৃপক্ষের কাছে অসম্মত ছবি ভাগ করে নেওয়ার যেকোনো ঘটনা রিপোর্ট করার পরামর্শ দেওয়া হচ্ছে।