أقر OpenAI بأن بعض طرق الهجوم على متصفحات الويب الذكية مثل ChatGPT Atlas قد تظل مستمرة، مما يثير مخاوف بشأن سلامة وكلاء الذكاء الاصطناعي الذين يعملون عبر الويب المفتوح. المشكلة الرئيسية هي نوع من الهجوم يسمى حقن البرمجة، حيث يدمج المخترقون تعليمات خبيثة في المواقع الإلكترونية أو المستندات أو البريد الإلكتروني التي يمكن أن تخدع وكلاء الذكاء الاصطناعي لتنفيذ إجراءات ضارة. على سبيل المثال، يمكن لمهاجم أن يدمج أوامر مخفية في صفحة ويب، ربما في نص غير مرئي للعين البشرية ولكن يبدو شرعيًا لوكيل الذكاء الاصطناعي، ويتجاوز تعليمات المستخدم وي告诉 الوكيل مشاركة بريد المستخدم أو إفراغ حسابه البنكي.

بعد إطلاق متصفح ChatGPT Atlas من OpenAI في أكتوبر، أظهر العديد من باحثي الأمن كيف يمكن لبعض الكلمات المخفية في وثيقة Google Doc أو رابط الحافظة أن يُضلل سلوك وكيل الذكاء الاصطناعي. كما نشرت Brave، شركة متصفحات مفتوحة المصدر، بحثًا تحذيريًا من أن جميع متصفحات الويب التي تعمل بالذكاء الاصطناعي معرضة للهجمات مثل حقن البرمجة غير المباشرة. "حقن البرمجة، مثل الاحتيال والهندسة الاجتماعية على الويب، من غير المرجح أن يتم حلها تمامًا على الإطلاق"، قال متحدث باسم OpenAI.

تأتي ضعف متصفحات الويب الذكية للهجمات حقن البرمجة مع مضاعفات كبيرة للمجتمع، خاصة في سياق مشاركة المعلومات الحساسة والتعاملات المالية. مع زيادة شعبية متصفحات الويب التي تعمل بالذكاء الاصطناعي، يمكن أن يُخترق خطر الهجمات الخبيثة ثقة المستخدمين وأمانهم. "حقيقة أن متصفحات الويب الذكية يمكن أن تُخدع من خلال هجمات حقن البرمجة تبرز الحاجة إلى إجراءات أمنية قوية وتثقيف المستخدمين"، قال خبير أمني.

تتمثل فكرة حقن البرمجة في طريقة معالجة نماذج الذكاء الاصطناعي وتنفيذها للمدخلات اللغوية. يعتمد وكلاء الذكاء الاصطناعي مثل ChatGPT Atlas على معالجة اللغة الطبيعية (NLP) لفهم وتنفيذ تعليمات المستخدم. ومع ذلك، يمكن استغلال هذه القدرة NLP من قبل المهاجمين الذين يدمجون تعليمات خبيثة في نصوص تبدو غير ضارة. "المشكلة ليست فقط حول نموذج الذكاء الاصطناعي نفسه، ولكن أيضًا حول كيفية تفاعل المستخدمين معه"، قال باحث دراسات أمن الذكاء الاصطناعي.

تشير التطورات الأخيرة في أمان متصفحات الويب الذكية إلى أن الصناعة تعمل على معالجة ضعف حقن البرمجة. أعلنت OpenAI عن خطط لتنفيذ إجراءات أمنية إضافية، مثل التحقق من المدخلات وتنظيفها، لمنع الهجمات الخبيثة. ومع ذلك، لا يزال فعالية هذه الإجراءات يتعين رؤيتها، ويحذر الخبراء من أن لعبة القط والفأر بين مطورو متصفحات الويب الذكية والمهاجمين من المرجح أن تستمر.

مع استمرار استخدام متصفحات الويب التي تعمل بالذكاء الاصطناعي، يصبح الحاجة إلى إجراءات أمنية قوية وتثقيف المستخدمين أكثر إلحاحًا. في حين أن احتمال تعرض متصفحات الويب الذكية للهجمات حقن البرمجة قد يبدو مخيفًا، يؤكد الخبراء على أن منافع تقنية الذكاء الاصطناعي يمكن تحقيقها مع معالجة المخاطر الأمنية المرتبطة بها. "المفتاح هو تحقيق التوازن بين الابتكار في الذكاء الاصطناعي والأمان، وضمان أن يستطيع المستخدمون الوثوق بمتصفحات الويب التي تعمل بالذكاء الاصطناعي لمعالجة المعلومات الحساسة"، قال خبير أمني.