ওপেনএআই স্বীকার করেছে যে চ্যাটজিপিটি আটলাসের মতো এআই ব্রাউজারের বিরুদ্ধে কিছু আক্রমণের পদ্ধতি সম্ভবত টিকে থাকবে, যা খোলা ওয়েবে কাজ করা এআই এজেন্টদের নিরাপত্তা নিয়ে উদ্বেগ বাড়ায়। প্রধান সমস্যা হল প্রম্পট ইনজেকশন নামক এক ধরনের আক্রমণ, যেখানে হ্যাকাররা ওয়েবসাইট, ডকুমেন্ট বা ইমেলে ক্ষতিকারক নির্দেশাবলী এমবেড করে যা এআই এজেন্টকে ক্ষতিকারক কাজ করতে বিভ্রান্ত করতে পারে। উদাহরণস্বরূপ, একজন আক্রমণকারী একটি ওয়েবপেজে লুকানো কমান্ড এমবেড করতে পারে, হয়তো মানুষের চোখের জন্য অদৃশ্য পাঠ্যে, কিন্তু এআই-এর জন্য বৈধ, ব্যবহারকারীর নির্দেশাবলীকে অগ্রাহ্য করে এবং এজেন্টকে ব্যবহারকারীর ইমেল শেয়ার করতে বা তাদের ব্যাংক অ্যাকাউন্ট খালি করতে বলে।

ওপেনএআই-এর চ্যাটজিপিটি আটলাস ব্রাউজার অক্টোবরে চালু হওয়ার পর, বেশ কয়েকজন নিরাপত্তা গবেষক দেখিয়েছেন যে একটি গুগল ডক বা ক্লিপবোর্ড লিঙ্কে লুকানো কয়েকটি শব্দ এআই এজেন্টের আচরণকে ম্যানিপুলেট করতে পারে। ব্রেভ, একটি ওপেন-সোর্স ব্রাউজার কোম্পানি, এছাড়াও গবেষণা প্রকাশ করেছে যে সমস্ত এআই-পাওয়ারড ব্রাউজার ইন্ডাইরেক্ট প্রম্পট ইনজেকশনের মতো আক্রমণের জন্য ঝুঁকিপূর্ণ। "প্রম্পট ইনজেকশন, ওয়েবে স্ক্যাম এবং সোশ্যাল ইঞ্জিনিয়ারিংয়ের মতো, সম্ভবত কখনই সম্পূর্ণরূপে সমাধান করা যাবে না," একজন ওপেনএআই মুখপাত্র বলেছেন।

প্রম্পট ইনজেকশন আক্রমণের জন্য এআই ব্রাউজারগুলির দুর্বলতা সমাজের জন্য উল্লেখযোগ্য প্রভাব রয়েছে, বিশেষ করে সংবেদনশীল তথ্য ভাগ করে নেওয়া এবং আর্থিক লেনদেনের প্রেক্ষাপটে। যেহেতু এআই-পাওয়ারড ব্রাউজারগুলি আরও বেশি জনপ্রিয় হয়ে উঠছে, মালিক আক্রমণের ঝুঁকি ব্যবহারকারীর বিশ্বাস এবং নিরাপত্তাকে আপস করতে পারে। "এআই ব্রাউজারগুলিকে প্রম্পট ইনজেকশন আক্রমণের মাধ্যমে ম্যানিপুলেট করা যেতে পারে তা দেখায় যে নিরাপত্তার জন্য দৃঢ় ব্যবস্থা এবং ব্যবহারকারী শিক্ষার প্রয়োজন," একজন নিরাপত্তা বিশেষজ্ঞ বলেছেন।

প্রম্পট ইনজেকশনের ধারণাটি এআই মডেলগুলি ভাষার ইনপুটগুলি প্রক্রিয়া এবং প্রতিক্রিয়া জানায় তার উপায়ে নিহিত। চ্যাটজিপিটি আটলাসের মতো এআই এজেন্টগুলি ব্যবহারকারীর নির্দেশাবলী বুঝতে এবং কার্যকর করতে প্রাকৃতিক ভাষা প্রক্রিয়াকরণ (এনএলপি) এর উপর নির্ভর করে। যাইহোক, এই এনএলপি ক্ষমতা সেই আক্রমণকারীদের দ্বারা শোষিত হতে পারে যারা নিরপরাধ মনে হওয়া পাঠ্যে ক্ষতিকারক নির্দেশাবলী এমবেড করে। "সমস্যাটি শুধুমাত্র এআই মডেল নিজেই নয়, ব্যবহারকারীরা এটির সাথে কীভাবে যোগাযোগ করে তাও," এআই সুরক্ষা দুর্বলতা অধ্যয়ন করেছেন একজন গবেষক বলেছেন।

এআই ব্রাউজার নিরাপত্তার সর্বশেষ উন্নয়ন পরামর্শ দেয় যে শিল্পটি প্রম্পট ইনজেকশন দুর্বলতা মোকাবেলার জন্য কাজ করছে। ওপেনএআই অতিরিক্ত নিরাপত্তা ব্যবস্থা বাস্তবায়নের পরিকল্পনা ঘোষণা করেছে, যেমন ইনপুট যাচাই এবং স্যানিটাইজেশন, মালিক আক্রমণ প্রতিরোধ করার জন্য। যাইহোক, এই ব্যবস্থাগুলির কার্যকারিতা দেখা বাকি, এবং বিশেষজ্ঞরা সতর্ক করেছেন যে এআই ব্রাউজার ডেভেলপার এবং আক্রমণকারীদের মধ্যে বিড়াল-ইঁদুরের খেলা সম্ভবত চলতে থাকবে।

যেহেতু এআই-পাওয়ারড ব্রাউজারগুলির ব্যবহার অব্যাহত বৃদ্ধি পাচ্ছে, তেমনি দৃঢ় নিরাপত্তা ব্যবস্থা এবং ব্যবহারকারী শিক্ষার প্রয়োজন আরও বেশি জোরদার। যদিও এআই ব্রাউজারগুলি প্রম্পট ইনজেকশন আক্রমণের জন্য ঝুঁকিপূর্ণ হওয়ার সম্ভাবনা ভয়ঙ্কর বলে মনে হতে পারে, বিশেষজ্ঞরা জোর দেন যে এআই প্রযুক্তির সুবিধাগুলি সংশ্লিষ্ট নিরাপত্তা ঝুঁকি মোকাবেলা করার সময়ই বাস্তবায়িত হতে পারে। "মূল বিষয় হল এআই উদ্ভাবন এবং নিরাপত্তার মধ্যে ভারসাম্য বজায় রাখা, নিশ্চিত করা যে ব্যবহারকারীরা সংবেদনশীল তথ্য পরিচালনা করতে এআই-পাওয়ারড ব্রাউজারগুলিতে বিশ্বাস করতে পারে," একজন নিরাপত্তা বিশেষজ্ঞ বলেছেন।