AIウェブブラウザが見えないセキュリティリスクへの扉を開く

OpenAIのAtlasやPerplexityのCometなどのAIブラウザは便利さを約束しています。 しかし、これらには重大なサイバーセキュリティリスクが伴い、ハッカーにとっての新たな遊び場となっています。

AI駆動のウェブブラウザは、Google ChromeやBraveなどの従来のブラウザと競合し、日々インターネットを利用する何十億人ものユーザーを引き付けることを目指しています。

数日前、OpenAIはAtlasをリリースしましたが、PerplexityのCometは数ヶ月前から存在しています。AI駆動のブラウザはページを入力してクリックすることができます。ユーザーはフライトの予約、メールの要約、フォームの入力などを指示することができます。

基本的に、AI駆動のブラウザはデジタルアシスタントとして機能し、ウェブを自律的にナビゲートするように設計されています。これらはオンライン生産性における次の大きな飛躍として称賛されています。

セキュリティ研究者がAIブラウザの欠陥を指摘

しかし、ほとんどの消費者はAIブラウザの使用に伴うセキュリティリスクに気づいていません。このようなブラウザは、プロンプトインジェクションと呼ばれる新しい現象を通じて、高度なハッキングに対して脆弱です。

ハッカーはAIウェブブラウザを悪用し、ユーザーのログインセッションにアクセスして、不正な操作を行うことができます。例えば、ハッカーはメール、ソーシャルメディアアカウント、さらには銀行の詳細を閲覧して資金を移動することもできます。

Braveの最近の研究によると、ハッカーはウェブページや画像の中に隠された指示を埋め込むことができます。AIエージェントがこのコンテンツを分析し、隠された指示を見ると、それらを正当なユーザーコマンドであるかのように実行するよう騙される可能性があります。AIウェブブラウザは、本物と偽のユーザー指示の違いを区別できません。

Braveのエンジニアは、PerplexityのCometを実験し、プロンプトインジェクションに対する反応をテストしました。Cometはスクリーンショット内に隠された見えないテキストを処理することがわかりました。このアプローチにより、攻撃者はブラウジングツールを制御し、ユーザーデータを簡単に抽出することができます。

Braveのエンジニアは、これらの脆弱性を「AI駆動のブラウザ全体のカテゴリーが直面する体系的な課題」と呼びました。

プロンプトインジェクションの修正は困難

セキュリティ研究者とエンジニアは、プロンプトインジェクションの修正が困難であると言います。それは、人工知能モデルが指示がどこから来るのかを理解していないためです。彼らは本物と偽のプロンプトを区別できません。

従来のソフトウェアは安全な入力と悪意のあるコードの違いを区別できますが、大規模言語モデル（LLM）はそれに苦戦しています。LLMはユーザーリクエスト、ウェブサイトのテキスト、さらには隠されたデータなど、すべてを処理し、それを一つの大きな会話として扱います。

そのため、プロンプトインジェクションは危険です。ハッカーは安全に見えるコンテンツの中に偽の指示を簡単に隠して、機密情報を盗むことができます。

AI企業はプロンプトインジェクションが深刻な脅威であることを認める

Perplexityは、このような攻撃はコードや盗まれたパスワードに依存するのではなく、AIの「思考プロセス」を操作すると述べています。同社はCometの周りに複数の防御層を構築し、プロンプトインジェクション攻撃を阻止しています。リアルタイムで脅威を検出する機械学習モデルを使用し、AIがユーザーの意図に集中するようにガードレールプロンプトを統合しています。さらに、ブラウザはメールの送信や商品の購入などの機密性の高いアクションに対して、ユーザーの確認を必須としています。

セキュリティ研究者は、大幅な改善が展開されるまで、AI駆動のブラウザを機密アカウントや個人データに信頼すべきではないと考えています。ユーザーはAIウェブブラウザを引き続き利用できますが、ツールへのアクセスなし、自動化されたアクションを無効にし、銀行口座、メール、またはヘルスケアアプリにログインしている場合は使用を避けるべきです。

OpenAIの最高情報セキュリティ責任者（CISO）であるDane Stuckeyは、プロンプトインジェクションの危険性を認め、Xに「私たちが非常に慎重に研究し、軽減している新たなリスクの一つは、攻撃者がウェブサイト、メール、または他のソースに悪意のある指示を隠して、エージェントが意図しない方法で動作するように騙そうとするプロンプトインジェクションです」と書きました。

彼はOpenAIの目標は、「最も有能で信頼でき、セキュリティを意識した同僚や友人を信頼するのと同じように、ChatGPTエージェントがあなたのブラウザを使用することを信頼してもらうこと」だと説明しました。Stuckeyは、OpenAIのチームが「それを達成するために懸命に取り組んでいる」と述べました。

メンターシップと日々のアイデアで戦略を磨く - 取引プログラムへの30日間の無料アクセス