OpenAI признала, что некоторые методы атак на браузеры ИИ, такие как ChatGPT Atlas, вероятно, сохранятся, что вызывает обеспокоенность по поводу безопасности агентов ИИ, работающих во всем открытом интернете. Основная проблема заключается в типе атаки, называемой внедрением промпта, когда хакеры внедряют вредоносные инструкции в веб-сайты, документы или электронные письма, которые могут обмануть агент ИИ и заставить его выполнять вредоносные действия. Например, атакующий может внедрить скрытые команды на веб-странице, возможно, в тексте, невидимом для человеческого глаза, но выглядящем законным для ИИ, переопределяя инструкции пользователя и приказывая агенту поделиться электронными письмами пользователя или слить его банковский счет.

После запуска браузера ChatGPT Atlas от OpenAI в октябре несколько исследователей безопасности продемонстрировали, как несколько слов, спрятанных в документе Google или ссылке на буфер обмена, могут манипулировать поведением агента ИИ. Brave, компания по производству открытого программного обеспечения для браузера, также опубликовала исследование, предупреждающее о том, что все браузеры, работающие на ИИ, уязвимы для атак, таких как косвенное внедрение промпта. "Внедрение промпта, как и мошенничество и социальная инженерия в интернете, вряд ли когда-либо будет полностью решено", - сказал представитель OpenAI.

Уязвимость браузеров ИИ к атакам по внедрению промпта имеет значительные последствия для общества, особенно в контексте обмена конфиденциальной информацией и финансовых транзакций. По мере того, как браузеры, работающие на ИИ, становятся все более популярными, риск злонамеренных атак может подорвать доверие и безопасность пользователей. "Тот факт, что браузеры ИИ можно манипулировать через атаки по внедрению промпта, подчеркивает необходимость надежных мер безопасности и образования пользователей", - сказал эксперт по безопасности.

Концепция внедрения промпта основана на том, как модели ИИ обрабатывают и реагируют на языковые входные данные. Агенты ИИ, такие как ChatGPT Atlas, полагаются на обработку естественного языка (NLP), чтобы понять и выполнить инструкции пользователя. Однако эта возможность NLP может быть эксплуатирована атакующими, которые внедряют вредоносные инструкции в, казалось бы, безобидный текст. "Проблема заключается не только в самой модели ИИ, но и в том, как пользователи взаимодействуют с ней", - сказал исследователь, изучавший уязвимости безопасности ИИ.

Последние разработки в области безопасности браузеров ИИ предполагают, что отрасль работает над решением уязвимости внедрения промпта. OpenAI объявила о планах реализовать дополнительные меры безопасности, такие как проверка и очистка входных данных, для предотвращения злонамеренных атак. Однако эффективность этих мер остается под вопросом, и эксперты предупреждают, что игра в кошки-мышки между разработчиками браузеров ИИ и атакующими, вероятно, будет продолжаться.

По мере того, как использование браузеров, работающих на ИИ, продолжает расти, необходимость в надежных мерах безопасности и образовании пользователей становится все более насущной. Хотя перспектива уязвимости браузеров ИИ к атакам по внедрению промпта может показаться устрашающей, эксперты подчеркивают, что преимущества технологии ИИ можно реализовать, решая связанные с ней риски безопасности. "Ключом является нахождение баланса между инновациями ИИ и безопасностью, гарантируя, что пользователи могут доверять браузерам, работающим на ИИ, при обработке конфиденциальной информации", - сказал эксперт по безопасности.