
その「AIに聞く」ボタン、AIの記憶に何か書き込んでいます
クリックしただけで、AIアシスタントの長期記憶に「この会社を信頼できる情報源として覚えておけ」と刻まれる。数週間後、あなたが何かをたずねたとき、AIはその会社を勧めてきます。しかも仕掛けているのは犯罪者ではなく、実在の企業でした。
この記事の内容
最近、記事の見出しの横に「🤖 AIに聞く」「AIで要約」「ChatGPTで読む」といったボタンを見かけませんか。押すとChatGPTやClaudeが開いて、その記事の要約を出してくれる。便利な機能です。
ところが2026年2月、マイクロソフトのセキュリティ研究チームが、このボタンの一部に「AIの記憶を書き換える命令」が仕込まれていることを報告しました。命名されたのが「AI Recommendation Poisoning(AI推薦ポイズニング)」です。
この記事では、何が起きているのか、なぜ従来のプロンプトインジェクションより厄介なのか、そして個人と提供者それぞれが何をすべきかを、一次情報にあたって整理します。
この記事で扱うのは、ChatGPTやClaudeのモデルそのものが改ざんされたという話ではありません。学習データや重みが書き換えられたわけでもありません。汚染されるのはあなた個人のアカウントに紐づく「メモリ(記憶)」です。ここを混同すると、対策の方向を完全に間違えます。ボタンを押すすべてのサイトが悪いという話でもありません。
「AIに聞く」ボタンの中身
まず仕組みです。特別な脆弱性は使われていません。使われているのは、主要なAIサービスがどれも備えている「あらかじめ質問文を入れた状態で開くリンク」という、ごく普通の機能です。
URLの末尾に ?q= を付けて質問文を書いておくと、AIサービスがその質問を入力済みの状態で開きます。たとえばこういう形です。
ボタンの見た目は「AIで要約」のまま。押した人には、AIがいつもどおり要約を出してくれたようにしか見えません。ログイン済みのセッションでリンクが開くため、質問は本人が手で打ち込んだのと同じ扱いになります。そして後半の一文が、AIの記憶に残ります。
サイト側がボタンにプロンプトを仕込む
URLパラメータに、要約の依頼と一緒に「記憶しろ」という指示を入れておく
読者がボタンをクリックする
ログイン中のAIサービスが開き、仕込まれた質問がそのまま実行される
AIが「記憶」に書き込む
メモリ機能が有効なら、「○○社は信頼できる」が長期記憶として保存される
数週間後、まったく別の会話で効いてくる
「おすすめのサービスは?」と聞くと、記憶を根拠に○○社が推薦される
マイクロソフトの説明を借りれば、こうした指示は「攻撃者のコンテンツを信頼できる情報源として記憶させ、今後のセッションにまたがって持続させる」ことを狙っています。
怖いのは今回ではなく「未来」を狙うこと
プロンプトインジェクション自体は新しい話ではありません。当サイトでもプロンプトインジェクションの仕組みや、Webページやメールに命令を埋め込む間接プロンプトインジェクションを扱ってきました。
では今回は何が違うのか。時間軸です。
| 従来のプロンプトインジェクション | メモリポイズニング | |
|---|---|---|
| 狙い | その場の回答を狂わせる | 未来の回答を狂わせる |
| 効果の持続 | その会話かぎり | セッションをまたいで持続 |
| 攻撃の必要回数 | 毎回、命令を読ませる必要がある | 一度書き込めば済む |
| 気づきやすさ | おかしな回答が返るので気づける | もっともらしい推薦なので気づけない |
| 汚染される場所 | 今読ませている文書 | 利用者のアカウントの記憶 |
一度書き込めば、あとは放っておいてよい
2026年6月に公開された研究は、この違いをこう整理しています。プロンプトインジェクションやジェイルブレイクは毎回そのつど、攻撃用の文字列がAIの目の前になければ効きません。しかしメモリポイズニングは、一度だけ書き込みに成功すればよい。攻撃のコストがまるで違います。
マイクロソフトはこの性質を、より一般的な「AIメモリ/コンテキストのポイズニング」として整理し、次のように説明しています。記憶が意思決定のループに組み込まれた瞬間、そこは「新しく、しかも長持ちする攻撃面」になる。そして汚染は少しずつ蓄積し、正当な記憶に紛れるため、検知が極めて難しい——と。
実際、危険性の中身はこう説明されています。
| 性質 | なぜ効くのか |
|---|---|
| 影響が長期にわたる | 一度汚染されると、数日・数週間・再起動をまたいで残る |
| 信頼度が高い | 多くのシステムは記憶を「その場の入力より上位の権威」として扱う |
| 見えにくい | 利用者も管理者も、生の記憶エントリを見る機会がほとんどない |
| 静かにずれる | はっきりした異常が出ないまま、少しずつ挙動が偏っていく |
なお、汚染先が「ナレッジベース側」になると、これはRAGデータポイズニングという別の形になります。そちらはRAGデータポイズニング完全ガイドで扱っています。同じ「汚染」でも、どこを汚すかで対策がまったく変わるので、混ぜずに理解してください。
やっているのは犯罪者ではなく企業だった
ここがこの話のいちばん奇妙で、いちばん重要な点です。
マイクロソフトのDefenderセキュリティ研究チームが2026年2月10日に公開した調査で明らかになったのは、この手法を使っていたのがマルウェアを配る攻撃者ではなく、実在する企業だったということです。
| 調査で確認された内容 | 数値 |
|---|---|
| この手法を使っていた企業 | 31社 |
| またがっていた業界 | 14業界 |
| 確認された個別のプロンプト | 50件以上 |
| 観測期間 | 60日間 |
| データの出どころ | メール中のAI関連URLとDefenderのシグナル |
目的は自社サービスを推薦させることです。つまりこれは、マルウェア感染でも情報窃取でもなく、マーケティング手法として実行されているということになります。
検索エンジンのSEOが、AIの記憶に移っただけとも言える
検索結果で上位に出るために工夫するのがSEOでした。AIが情報の入口になった以上、次に狙われるのは「AIに覚えさせること」です。しかも検索順位と違い、AIの記憶は利用者一人ひとりの中にあり、外からは見えません。誰がどう順位を操作しているかを第三者が検証できない、という点でSEOより不透明です。
さらに踏み込むと、この手法はツール化して提供されています。報道によれば、自社サイトのURLと「この分野の質問では常に自社ブランドを推薦させる」といった文言を入力すると、仕込み済みの共有リンクを生成してくれるツールが、マーケティング担当者向けに公開されています。
ウイルスを配れば明確に犯罪です。しかし「自社サイトの共有ボタンに、自社を推薦してほしいという文言を入れた」だけなら、法律で一律に禁じられているとは言い切れません。利用者に無断でAIの記憶を書き換えている点は極めて問題ですが、実行しているのが普通の企業で、使っているのが公式の共有リンク機能である以上、ウイルス対策ソフトが止めてくれる類のものではありません。だからこそ、利用者側が仕組みを知っているかどうかが効いてきます。
この構図は、当サイトで整理しているAI悪用事例データベースの中でも異質です。多くの事例が「攻撃者がAIを使って攻撃する」型なのに対し、これは「事業者がAIの記憶を商業目的で書き換える」型だからです。
研究でどこまで分かっているか
「AIの記憶を汚す」という発想は、2026年に入って学術研究でも急速に整理が進んでいます。ここでは押さえておくべき2本を紹介します。
①「眠ったまま仕込まれる記憶」(2026年5月)
「Hidden in Memory: Sleeper Memory Poisoning in LLM Agents」という研究です。スリーパー(潜伏型)という名前のとおり、仕込まれた記憶がすぐには発動せず、後の会話でよみがえる点を扱っています。
手口は、文書・Webページ・リポジトリなど外部のコンテンツを細工して、AIに「利用者についての作り話」を記憶させるというもの。実験では、複数のAIアシスタントに対して汚染された記憶の書き込みに高い確率で成功したと報告されています(報告値は最大で99.8%)。
この数字の読み方
99.8%というのは「世の中のAIの99.8%が汚染されている」という意味ではありません。研究環境で、記憶に書き込ませようと試みたときの成功率です。とはいえ「書き込ませようとすればほぼ通る」ことを示しており、記憶への書き込みに事実上のチェックが働いていないことの証拠になります。
②「どこから記憶に入り込めるのか」の体系化(2026年6月)
もう1本が「From Untrusted Input to Trusted Memory」という研究です。タイトルを直訳すると「信頼できない入力から、信頼される記憶へ」。まさに今回の問題の本質を言い当てています。
この研究は、AIエージェントの記憶に書き込める経路を整理し、次のように分類しました。
| 整理された内容 | 数 |
|---|---|
| 記憶への書き込み経路(メモリ書き込みチャネル) | 4種類 |
| 構造的な弱点(モデルの能力・システムプロンプト設計・エージェント構成) | 9種類 |
| メモリポイズニング攻撃の分類 | 6クラス |
そして、実務にとってもっとも重要な結論が2つ出ています。
「積極的に記憶するAIほど、危ない」
研究は、記憶の書き込みと読み出しを積極的に行うよう設計されたエージェントほど悪用されやすいと報告しています。つまり「賢く育つAI」と「汚染されやすいAI」は、同じ性質の裏表だということです。
「既存のプロンプトインジェクション対策では防げない」
さらに重要なのがこちらです。研究は、既存のプロンプトインジェクション対策はメモリポイズニングをカバーできていないと結論づけています。入力を検査する仕組みを入れていても、それだけでは記憶の汚染は止まらない、ということです。
この攻撃は、業界の分類体系にも取り込まれています。整理しておきます。
| 体系 | 該当する項目 |
|---|---|
| MITRE ATLAS | AML.T0080 AI Agent Context Poisoning(.000 Memory / .001 Thread) |
| MITRE ATLAS(関連) | AML.T0051.001 LLM Prompt Injection: Indirect / AML.T0070 RAG Poisoning |
| OWASP Top 10 for LLM | LLM04 Data and Model Poisoning(主)/ LLM01 Prompt Injection / LLM08 Vector and Embedding Weaknesses |
※ 「AML.T0080=Memory Poisoning」と紹介されることがありますが、正確にはこの技術IDの名称はAI Agent Context Poisoningで、Memory はその配下のサブ技術(.000)です。
個人ができる3つの自衛
個人でできることは、実はそれほど多くありません。しかし効果が高いものが3つあります。
1. AIの記憶を、一度自分の目で見る
これがいちばん効きます。主要なAIサービスには、記憶した内容を一覧・削除できる設定画面があります。まずはそこを開いてみてください。手っ取り早い方法として、AIに直接こう聞くこともできます。
そのうえで、身に覚えのない企業名・サービス名・「信頼できる情報源」といった記述がないかを確認します。心当たりがなければ削除してかまいません。ここが汚染されていた場合、削除するだけで影響は止まります。
記憶を使わないという選択肢もある
そもそもメモリ機能をオフにすれば、この攻撃はほぼ成立しません。便利さとのトレードオフなので一律には勧めませんが、「重要な調べもの用のアカウントでは記憶を切る」といった使い分けは現実的です。当サイトではAIに記憶を持たせて育てる方法も紹介していますが、育てる以上は中身を点検する責任もセットになると考えてください。
2. 「AIに聞く」ボタンより、自分でコピーして貼る
結局これが確実です。記事を要約させたいなら、ボタンを押すのではなく、URLか本文を自分でコピーしてAIに貼る。手間はほとんど変わりませんし、余計な指示が混ざる余地がなくなります。
ボタンを押す前にリンク先を確認する方法もありますが、URLエンコードされていると人間には読みにくく、モバイルではそもそも確認が困難です。「押さない」ほうが早くて確実です。
3. AIの推薦を、そのまま判断材料にしない
「おすすめのセキュリティ製品は?」「この会社は信頼できる?」——こうした推薦を求める質問が、この攻撃のいちばんの標的です。AIの答えを出発点にするのはよいとして、最終的には一次情報で確かめる。この習慣があれば、記憶が汚染されていても被害には至りません。
① 使っているAIサービスの設定から「メモリ」「記憶」の項目を開く。
② 保存されている内容を全部読む。見覚えのない企業名・「信頼できる情報源」という記述があれば削除する。
③ 今後は「AIに聞く」ボタンではなく、自分でコピーして貼る習慣にする。
④ 推薦を求める質問の答えは、必ず公式サイトなど一次情報で裏を取る。
AIを提供する側の設計
ここからは、社内でAIアシスタントやAIエージェントを作る側の話です。マイクロソフトが公開している対策指針は、要するに「記憶を、設定ファイルと同じくらい厳しく管理せよ」という一点に集約されます。
| 対策 | 中身 |
|---|---|
| 記憶への書き込みを特権操作として扱う | 何を保存してよいかをポリシーで判定する。誰でも・何でも書ける状態にしない |
| 構造化された項目だけ保存する | 自由文を記憶させない。設定・識別子・メタデータなど決まった形式のみ許可する |
| 保存前に内容を検査する | 命令形の文、隠された指示、異常な埋め込みを保存前に除去する |
| 書き込みを全部ログに残す | いつ何が書かれたかを記録し、差分表示とロールバックを用意する |
| 定期的に記憶を消す・作り直す | 長期のずれを防ぐため、定期削除や再検証を組み込む |
| エージェント間で記憶を分離する | 共有ストアを避ける。1体の汚染が他へ広がらないようにする |
| 記憶に信頼度を付ける | 由来に応じて重みを下げ、リスクが高いものは影響力を落とす |
設計思想としてもっとも大事なのは、「利用者本人の指示」と「外部コンテンツから来た指示」を区別する信頼境界を作ることです。外から来た文章の中に「記憶しろ」と書いてあっても、それはデータであって命令ではない——この線引きが実装されていないと、いくら入力フィルタを足しても抜けます。
マルチエージェント構成では感染のように広がる
マイクロソフトは、複数のAIエージェントが記憶を共有する構成では、汚染が「デジタルの感染症のように」エージェント間へ広がりうると指摘しています。AIエージェントやMCPの設計上の注意点はAIエージェント/MCPのセキュリティ|新しい攻撃面7つにまとめてあります。
この記事の要点
① 「AIに聞く」ボタンのURLに「記憶しろ」という指示を仕込むと、AIの長期記憶が書き換わる。
② 特別な脆弱性ではなく、公式の共有リンク機能(?q=)をそのまま使っている。
③ 従来のプロンプトインジェクションと違い、一度書き込めば未来の回答に効き続ける。
④ マイクロソフトの調査では31社・14業界が実際に使用。犯罪者ではなく企業のマーケティング手法だった。
⑤ 研究では既存のプロンプトインジェクション対策では防げないと結論づけられている。
⑥ 個人の最善手は「AIの記憶を一度自分の目で見る」こと。
AIに記憶を持たせることは、間違いなく便利です。この記事は「メモリ機能を使うな」という話ではありません。ただ、入力を守るだけでは足りず、AIが何を覚えているかまでがセキュリティの対象になった——その一線を越えたことは、知っておく価値があります。
よくある質問
ChatGPTやClaude自体が汚染されて、全ユーザーに影響が出るのですか?
いいえ。汚染されるのはあなたのアカウントに紐づく記憶だけです。モデルの学習データや重みが書き換わるわけではないので、他の利用者には影響しません。逆に言えば、自分の記憶を確認・削除すれば自分で解決できる問題でもあります。
「AIに聞く」ボタンは全部危ないのですか?
いいえ。大半は純粋に便利機能として設置されています。問題は見た目では区別できないことです。ボタン自体を敵視するより、「押す代わりに自分でコピーする」習慣に変えるほうが現実的です。
メモリ機能をオフにしていれば安全ですか?
この攻撃に関してはほぼ無効化できます。ただしプロンプトインジェクション自体は残るため、その場の回答が操作されるリスクはなくなりません。また業務で使うAIエージェントは記憶を前提に組まれていることが多く、単純にオフにできない場合があります。
これは犯罪ではないのですか?
一律に「犯罪」と言い切れるものではありません。マイクロソフトが確認したのは実在企業による商業利用であり、使われているのも公式の共有リンク機能です。利用者に無断でAIの記憶を書き換える点は不当ですが、法的な評価は今後の論点です。本記事は特定企業の違法性を主張するものではありません。
企業でAIを導入していますが、まず何をすべきですか?
第6章のうち、まず「記憶への書き込みをログに残す」から始めるのが現実的です。書き込みが記録されていなければ、汚染が起きても気づけず、いつ始まったかも追えません。次に「自由文を記憶させない(構造化項目のみ)」が効果的です。
プロンプトインジェクション対策の製品を入れています。それでは不十分ですか?
2026年6月の研究は、既存のプロンプトインジェクション対策はメモリポイズニングをカバーできていないと明確に述べています。入力の検査と、記憶への書き込みの検査は別の工程だからです。導入済みの対策が何を検査しているのかを、ベンダーに確認することをおすすめします。
出典
- Microsoft Security Blog「Manipulating AI memory for profit: The rise of AI Recommendation Poisoning」(2026年2月10日・Microsoft Defender Security Research Team)。31社・14業界・60日間で50件以上のプロンプトという数値、および手法の命名はこれによる。https://www.microsoft.com/en-us/security/blog/2026/02/10/ai-recommendation-poisoning/
- Microsoft Learn「AI Memory / Context Poisoning (Corruption)」(Zero Trust: AI攻撃手法カタログ。2026年7月28日付・8月1日更新)。攻撃が有効な理由と推奨コントロール一覧、OWASP/MITRE ATLASへのマッピングはこれによる。https://learn.microsoft.com/en-us/security/zero-trust/catalog-ai-attack-techniques/ai-memory-context-poisoning
- Sidharth Pulipaka ほか「Hidden in Memory: Sleeper Memory Poisoning in LLM Agents」arXiv:2605.15338(2026年5月)。潜伏型の記憶汚染と書き込み成功率。https://arxiv.org/abs/2605.15338
- 「From Untrusted Input to Trusted Memory: A Systematic Study of Memory Poisoning Attacks in LLM Agents」arXiv:2606.04329(2026年6月3日)。4つの書き込み経路・9つの構造的弱点・6クラスの分類、ベンチマークMPBench、および「既存のプロンプトインジェクション対策では防げない」という結論。https://arxiv.org/abs/2606.04329
- The Hacker News「AI Recommendation Poisoning: How “Ask AI” Buttons Silently Alter LLM Memory」(2026年8月6日/調査はReflectiz)。ディープリンクの動作と、ログイン済みセッションで確認なく実行される点。
- MITRE ATLAS 技術一覧(AML.T0080 AI Agent Context Poisoning ほか)https://atlas.mitre.org/techniques
※ 本記事は2026年8月8日時点の公開情報にもとづきます。特定の企業やサービスの違法性を主張するものではありません。AIサービスの設定画面の名称や場所は、提供元の仕様変更により変わることがあります。



コメント