OpenAIは、ChatGPT AtlasのようなAIブラウザに対する一部の攻撃方法が継続する可能性があることを認めており、オープンウェブ上で動作するAIエージェントの安全性に関する懸念が高まっている。主な問題は、プロンプトインジェクションというタイプの攻撃で、ハッカーがウェブサイト、ドキュメント、または電子メールに悪意のある命令を埋め込み、AIエージェントを有害なアクションに誘導することができる。例えば、攻撃者は、人間の目には見えないがAIには合法に見えるテキストに隠されたコマンドをウェブページに埋め込み、ユーザーの指示を上書きして、ユーザーの電子メールを共有したり、銀行口座を空にしたりするようにエージェントに指示することができる。

OpenAIのChatGPT Atlasブラウザが10月に発売された後、複数のセキュリティ研究者は、Google Docやクリップボードリンクに隠された数語がAIエージェントの動作を操作できることを実証した。オープンソースブラウザ会社のBraveも、すべてのAIパワーブラウザが間接的なプロンプトインジェクション攻撃に対して脆弱であることを警告する研究を発表した。「プロンプトインジェクションは、ウェブ上的な詐欺や社会工学的攻撃と同様に、完全に解決されることはない」と、OpenAIのスポークスパーソンは述べた。

AIブラウザのプロンプトインジェクション攻撃に対する脆弱性は、特に機密情報の共有や金融取引の文脈において、社会に重大な影響を及ぼす。AIパワーブラウザが人気を博するにつれ、悪意のある攻撃がユーザーの信頼とセキュリティを損なう可能性がある。「AIブラウザがプロンプトインジェクション攻撃によって操作できることは、強力なセキュリティ対策とユーザー教育の必要性を強調している」と、セキュリティ専門家は述べた。

プロンプトインジェクションの概念は、AIモデルが言語入力に応じて処理し、実行する方法に根ざしている。ChatGPT AtlasのようなAIエージェントは、ユーザーの指示を理解し、実行するために、自然言語処理（NLP）に依存している。ただし、このNLP機能は、攻撃者が無害に見えるテキストに悪意のある命令を埋め込むことができるため、悪用される可能性がある。「問題は、AIモデル自体ではなく、ユーザーがそれとどのようにやり取りするかにもある」と、AIセキュリティの脆弱性を研究した研究者は述べた。

AIブラウザのセキュリティに関する最新の開発は、業界がプロンプトインジェクションの脆弱性に対処しようとしていることを示唆している。OpenAIは、悪意のある攻撃を防ぐために、入力検証やサニタイゼーションなどの追加のセキュリティ対策を実装する計画を発表している。ただし、これらの対策の有効性はまだ見られず、専門家は、AIブラウザ開発者と攻撃者の間の猫とねずみのゲームが続く可能性が高いと警告している。

AIパワーブラウザの使用が続々と増えるにつれ、強力なセキュリティ対策とユーザー教育の必要性はますます高まっている。プロンプトインジェクション攻撃に対してAIブラウザが脆弱であるという前景は、脅威に感じられるかもしれないが、専門家は、AI技術の利点を実現しながら関連するセキュリティリスクに対処することができることを強調している。「AIイノベーションとセキュリティのバランスをとることが重要であり、ユーザーが機密情報の処理をAIパワーブラウザに任せることができるようにする必要がある」と、セキュリティ専門家は述べた。