OpenAI는 ChatGPT Atlas와 같은 AI 브라우저에 대한 일부 공격 방법이 지속될 가능성이 있음을 인정했으며, 이는 오픈 웹에서 운영되는 AI 에이전트의 안전에 대한 우려를 높이고 있습니다. 주요 문제는 프롬프트 삽입 공격이라는 유형의 공격으로, 해커가 웹사이트, 문서 또는 이메일에 악의적인 명령을 삽입하여 AI 에이전트가 유해한 동작을 수행하도록 속일 수 있습니다. 예를 들어, 공격자는 웹페이지에 숨겨진 명령을 삽입할 수 있으며, 이는 인간의 눈에는 보이지 않지만 AI에게는 정상적으로 보일 수 있습니다.这样하면 사용자의 지시를 무시하고 에이전트에게 사용자의 이메일을 공유하거나 은행 계좌를 비우도록 지시할 수 있습니다.

OpenAI의 ChatGPT Atlas 브라우저가 출시된 후 몇몇 보안 연구자들은 Google Doc 또는 클립보드 링크에 숨겨진 몇 단어가 AI 에이전트의 동작을 조작할 수 있음을 보여주었습니다. 오픈소스 브라우저 회사인 Brave도 모든 AI 기반 브라우저가 간접적인 프롬프트 삽입 공격과 같은 공격에 취약하다는 연구를 발표했습니다. "프롬프트 삽입은 웹上的 사기 및 사회 공학과 마찬가지로 완전히 해결될 가능성이 낮습니다"라고 OpenAI 대변인은 말했습니다.

AI 브라우저의 프롬프트 삽입 공격 취약성은 특히 민감한 정보 공유 및 금융 거래의 맥락에서 사회에重大한 영향을 미칩니다. AI 기반 브라우저가 점점 더 인기 있게 되면서, 악의적인 공격의 위험은 사용자 신뢰와 보안을 손상할 수 있습니다. "AI 브라우저가 프롬프트 삽입 공격을 통해 조작될 수 있는 사실은 강력한 보안 조치와 사용자 교육의 필요성을 강조합니다"라고 보안 전문가는 말했습니다.

프롬프트 삽입의 개념은 AI 모델이 언어 입력을 처리하고 응답하는 방식에 근거합니다. ChatGPT Atlas와 같은 AI 에이전트는 사용자 지시를 이해하고 실행하기 위해 자연어 처리(NLP)를 사용합니다. 그러나 이 NLP 기능은 악의적인 명령을 무해한 텍스트에 삽입하는 공격자에 의해 악용될 수 있습니다. "문제는 AI 모델 자체에 대한 것이 아니라 사용자가 그것과 상호 작용하는 방식에 대한 것입니다"라고 AI 보안 취약성에 대해 연구한 연구자는 말했습니다.

AI 브라우저 보안의 최신 개발은 업계가 프롬프트 삽입 취약성을 해결하기 위해 노력하고 있음을 시사합니다. OpenAI는 악의적인 공격을 방지하기 위해 입력 유효성 검사 및 제한과 같은 추가 보안 조치를 구현할 계획을 발표했습니다. 그러나 이러한 조치의 효과는 아직 확인되지 않았으며, 전문가들은 AI 브라우저 개발자와 공격자 간의 고양이와 쥐 게임이 계속될 가능성이 있다고 경고합니다.

AI 기반 브라우저의 사용이 계속 증가함에 따라, 강력한 보안 조치와 사용자 교육의 필요성이 점점 더 긴급해지고 있습니다. AI 브라우저가 프롬프트 삽입 공격에 취약할 수 있는 전망은 다소 устраша적일 수 있지만, 전문가들은 AI 기술의 이점을 실현하면서 관련 보안 위험을 해결할 수 있다고 강조합니다. "중요한 것은 AI 혁신과 보안 사이에서 균형을 맞추는 것입니다. 사용자가 민감한 정보를 처리하기 위해 AI 기반 브라우저를 신뢰할 수 있도록 보장하는 것입니다"라고 보안 전문가는 말했습니다.