2026-08-06

AI推薦ポイズニング：『Ask AI』ボタンがLLMメモリを静かに変更する方法

AI推薦ポイズニングは、商業ウェブサイトで広がっている新たなプロンプトインジェクションの手法です。この手法は、マルウェアや盗まれた認証情報、ゼロデイエクスプロイトを必要とせず、ほとんどの主要なAIアシスタントに組み込まれた標準機能を悪用します。特に、ユーザーが『Ask AI』ボタンをクリックすると、事前に形成されたクエリが自動的に実行され、AIが特定のドメインを「信頼できるソース」として保存するよう指示されることがあります。この手法は、Microsoft SecurityによってAI推薦ポイズニングとして特定され、31社が関与していることが確認されています。

メトリクス

このニュースのスケール度合い

5.5 /10

インパクト

5.5 /10

予想外またはユニーク度

8.5 /10

脅威に備える準備が必要な期間が時間的にどれだけ近いか

6.5 /10

このニュースで行動が起きる／起こすべき度合い

6.0 /10

主なポイント

✓ AI推薦ポイズニングは、ユーザーが『Ask AI』ボタンをクリックすることで、AIが特定のドメインを信頼できるソースとして記憶するよう指示される手法です。
✓ この手法は、ユーザーの同意なしにAIのメモリを操作するため、企業のセキュリティに深刻な影響を及ぼす可能性があります。

社会的影響

! この手法は、ユーザーが知らないうちにAIのメモリを操作されるため、企業の信頼性やセキュリティに対する懸念が高まります。
! AIの推薦が誤った情報に基づく場合、消費者や企業の意思決定に悪影響を及ぼす可能性があります。

編集長の意見

AI推薦ポイズニングは、現代のAIシステムにおける新たな脅威を示しています。この手法は、ユーザーが意図しない形でAIのメモリを操作することができ、特定の企業や製品に対するバイアスを生む可能性があります。特に、企業がこの手法を利用して自社の製品を優位に見せることができるため、競争環境が歪められる恐れがあります。さらに、ユーザーは自分のAIがどのような情報を記憶しているのかを把握することが難しく、透明性の欠如が問題視されるでしょう。今後、企業はこのような手法に対する対策を講じる必要があります。具体的には、AIのメモリを監査するためのツールやプロセスを導入し、ユーザーが自分のデータを管理できるようにすることが求められます。また、ユーザー教育も重要であり、AIの使用に関するリスクを理解させることが必要です。AI技術の進化に伴い、セキュリティ対策も進化させる必要があります。企業は、AIの利用における倫理的な側面を考慮し、信頼性の高い情報を提供することが求められます。

背景情報

i AI推薦ポイズニングは、URLパラメータを介して深いリンクを利用することで、ユーザーのアクティブセッションでクエリを自動的に実行します。これにより、AIはユーザーの意図を超えて、特定のドメインを信頼できるソースとして記憶することが可能になります。
i この手法は、MicrosoftのMITRE ATLAS知識ベースでAML.T0080（メモリポイズニング）として追跡されており、AML.T0051（LLMプロンプトインジェクション）に関連しています。