ओपनएआई ने स्वीकार किया है कि चैटजीपीटी एटलस जैसे एआई ब्राउज़रों के खिलाफ कुछ हमलों के तरीके शायद बने रहेंगे, जो खुले वेब पर काम करने वाले एआई एजेंटों की सुरक्षा के बारे में चिंताएं बढ़ाते हैं। मुख्य समस्या एक प्रकार का हमला है जिसे प्रॉम्प्ट इंजेक्शन कहा जाता है, जहां हैकर वेबसाइटों, दस्तावेजों, या ईमेल में दुर्भावनापूर्ण निर्देश एम्बेड करते हैं जो एआई एजेंट को हानिकारक कार्य करने के लिए चकमा दे सकते हैं। उदाहरण के लिए, एक हमलावर एक वेबपेज में छिपे हुए कमांड एम्बेड कर सकता है, शायद मानव आंख के लिए अदृश्य पाठ में लेकिन एआई के लिए वैध दिखाई देने वाला, जो उपयोगकर्ता के निर्देशों को ओवरराइड करता है और एजेंट को उपयोगकर्ता के ईमेल साझा करने या उनके बैंक खाते को खाली करने के लिए कहता है।

ओपनएआई के चैटजीपीटी एटलस ब्राउज़र के अक्टूबर में लॉन्च होने के बाद, कई सुरक्षा शोधकर्ताओं ने दिखाया कि एक गूगल डॉक या क्लिपबोर्ड लिंक में छिपे हुए कुछ शब्द एआई एजेंट के व्यवहार को बदल सकते हैं। ब्रेव, एक ओपन-सोर्स ब्राउज़र कंपनी, ने भी शोध प्रकाशित किया जिसमें कहा गया है कि सभी एआई-संचालित ब्राउज़र अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन जैसे हमलों के लिए संवेदनशील हैं। "प्रॉम्प्ट इंजेक्शन, वेब पर स्कैम और सोशल इंजीनियरिंग की तरह, शायद कभी भी पूरी तरह से हल नहीं होगा," एक ओपनएआई प्रवक्ता ने कहा।

एआई ब्राउज़रों की प्रॉम्प्ट इंजेक्शन हमलों के प्रति संवेदनशीलता का समाज पर महत्वपूर्ण प्रभाव पड़ता है, विशेष रूप से संवेदनशील जानकारी साझा करने और वित्तीय लेनदेन के संदर्भ में। जैसे ही एआई-संचालित ब्राउज़र अधिक लोकप्रिय होते जा रहे हैं, दुर्भावनापूर्ण हमलों का जोखिम उपयोगकर्ता विश्वास और सुरक्षा को खतरे में डाल सकता है। "एआई ब्राउज़रों को प्रॉम्प्ट इंजेक्शन हमलों के माध्यम से बदला जा सकता है, यह मजबूत सुरक्षा उपायों और उपयोगकर्ता शिक्षा की आवश्यकता को रेखांकित करता है," एक सुरक्षा विशेषज्ञ ने कहा।

प्रॉम्प्ट इंजेक्शन की अवधारणा एआई मॉडल द्वारा भाषा इनपुट को संसाधित और प्रतिक्रिया देने के तरीके में निहित है। चैटजीपीटी एटलस जैसे एआई एजेंट प्राकृतिक भाषा प्रसंस्करण (एनएलपी) पर निर्भर करते हैं ताकि वे उपयोगकर्ता निर्देशों को समझें और निष्पादित करें। हालांकि, यह एनएलपी क्षमता उन हमलावरों द्वारा शोषित की जा सकती है जो सcheinocuous पाठ में दुर्भावनापूर्ण निर्देश एम्बेड करते हैं। "मुद्दा न केवल एआई मॉडल के बारे में है, बल्कि यह भी है कि उपयोगकर्ता इसके साथ कैसे बातचीत करते हैं," एक शोधकर्ता ने कहा जिन्होंने एआई सुरक्षा कमजोरियों का अध्ययन किया है।

एआई ब्राउज़र सुरक्षा में नवीनतम विकास सुझाव देते हैं कि उद्योग प्रॉम्प्ट इंजेक्शन कमजोरियों को संबोधित करने के लिए काम कर रहा है। ओपनएआई ने अतिरिक्त सुरक्षा उपायों को लागू करने की योजना की घोषणा की है, जैसे कि इनपुट सत्यापन और सैनिटाइजेशन, दुर्भावनापूर्ण हमलों को रोकने के लिए। हालांकि, इन उपायों की प्रभावशीलता अभी भी देखने की बात है, और विशेषज्ञ चेतावनी देते हैं कि एआई ब्राउज़र डेवलपर्स और हमलावरों के बीच का खेल जारी रहेगा।

जैसे ही एआई-संचालित ब्राउज़रों का उपयोग जारी रहता है, मजबूत सुरक्षा उपायों और उपयोगकर्ता शिक्षा की आवश्यकता बढ़ जाती है। जबकि एआई ब्राउज़रों को प्रॉम्प्ट इंजेक्शन हमलों के लिए संवेदनशील होने का प्रस्ताव डरावना लग सकता है, विशेषज्ञ इस बात पर जोर देते हैं कि एआई प्रौद्योगिकी के लाभों को सुरक्षा जोखिमों को संबोधित करते हुए भी महसूस किया जा सकता है। "मुख्य बात एआई नवाचार और सुरक्षा के बीच संतुलन बनाना है, यह सुनिश्चित करना है कि उपयोगकर्ता संवेदनशील जानकारी को संभालने के लिए एआई-संचालित ब्राउज़रों पर भरोसा कर सकते हैं," एक सुरक्षा विशेषज्ञ ने कहा।