危険は「攻撃者のAI」と「自分たちのAI利用」の両方にある

01｜ページからわかること危険は「攻撃者のAI」と「自分たちのAI利用」の両方にある

参照したのは、国内 情報漏えいダッシュボードの「AIの悪用」タブです。国内と海外の事例、公的機関の対策を、組織の種類に合わせて確認できるページです。［1］

この分け方から読み取れるのは、「偽物を見破る力」と「AIを使うときの決まり」の両方が必要だということです。文章の自然さだけを見たり、AIに「安全にして」と頼んだりするだけでは、対応しきれません。

02｜手口の見取り図9つの手口を、身近な言葉で理解しよう

ページの組織向けカードを、読みやすく言い換えました。表の順番は危険度の順位ではありません。右の欄は、手口を理解するために本記事で整理した注意点です。［1］［2］

「ディープフェイク」は、本物らしく見えるように作り替えた映像・画像・音声などのこと。「AIエージェント」は、目的に合わせて道具を使い、複数の作業を進めるAIのことです。偽情報や誤りがすべてAI製だと、見た目だけで判断することはできません。

03｜場面で考える「何をするよう求められたか」に注目する

ここからの会話や場面は、手口を説明するための架空の例です。実際に公表された事例や資料は、区別して紹介します。

場面1｜「AIを入れるために、この命令を貼り付けて」

こう案内されたら、いったん止まってください。「コマンド」は、パソコンに処理をさせる命令文です。コピーして貼るだけでも、情報を盗むプログラムを動かすことがあります。

偽の確認画面やエラー対処を装い、利用者に命令を実行させる手口は「ClickFix（クリックフィックス）」と呼ばれます。ラックは2025年5月19日、複数の顧客でこの手口による被害を観測したと公表しています。これはAI専用の手口ではありませんが、AIツールの導入などを入口にする危険を理解する助けになります。［3］

正規のソフトでも命令文を使って導入する場合はあります。だからこそ、命令文があることだけで偽物と断定せず、誰の案内なのか、何をする命令なのかを確かめます。ダッシュボードにも、AIサービスの共有ページを偽の案内の置き場所にした事例が載っています。サービスのURLが正規でも、利用者が作った共有内容まで公式の案内とは限りません。［1］

場面2｜「自然なメール」「知っている声」だから安心？

文章が自然でも、声や顔が知っている人に似ていても、それだけでは本人確認になりません。送金や口座変更を求められたら、いつもの確認手順を続けることが大切です。

実際の公表例：香港政府の2024年6月26日の回答では、2024年1月に、幹部を装った偽のビデオ会議に関係する詐欺が届け出られ、約2億香港ドルの損失が生じたと説明されています。警察は、公開された映像や声を使って会議映像が作られたとみています。これは海外の事例です。［4］

メールでログインを求められたときも、メッセージ内のリンクから進まず、登録済みのブックマークや公式アプリから確認します。警察庁も、この方法を勧めています。［6］

場面3｜「要約してほしい」だけでも、情報を外へ渡している

この場合に見直したいのは、入力先が、その情報を渡してよい相手なのかです。「画面上で相談するだけ」という感覚でも、サービス側へ情報を送っています。

個人情報保護委員会は、事業者が個人情報を入力する際、利用目的の達成に必要な範囲かを確認するよう注意喚起しています。行政機関等では、利用目的のために必要最小限かの確認が求められます。また、入力する個人データ等が学習に使われないかなどの確認も必要です。［5］

名前だけ消しても、住所、相談内容、所属などの組み合わせから人がわかる場合があります。「名前を消したから大丈夫」と決めつけず、資料全体を見直しましょう。学習に使わない設定だけで、社内ルールや保存・共有の確認が不要になるわけでもありません。

場面4｜AIに仕事を任せるほど、渡す権限を考える

AIが外部のメールやWebページを読むとき、その中に「別の場所へ情報を送って」といった不正な指示が紛れ込む場合があります。読むべき文章を、従うべき命令として扱わせようとする手口が「プロンプトインジェクション」です。［8］

たとえるなら、資料を読む係に渡した書類の中に「倉庫の鍵を渡してください」という指示が混ざるようなものです。AIに広い操作権限があるほど、誤った判断が実際の送信や変更につながるおそれがあります。

これは本記事からの運用上の提案です。英国NCSCも、プロンプトインジェクションへの対応では、危険と影響を小さくする考え方を示しています。注意書きだけに頼らず、接続先や権限など、仕組みの側でも制限することが大切です。［8］

04｜数字を正しく読む件数が多いから危険、0件だから安全、とは言えない

このページは、報道や発表などから集めた事例を確認するためのものです。すべての被害を把握した統計でも、あなたの職場が被害に遭う確率を示すものでもありません。［2］

「新しく確認した6件」は、直近7日間に発生した6件？

違います。ページに新しく確認・追加された事例の表示です。事例の発生日、報道・公表日、確認された日は分けて読みましょう。

「国内0件・海外7件」は、日本では起きないという意味？

違います。このページで集めた根拠の内訳です。未公表や未収集の事例まで含めて、存在しないと証明する数字ではありません。

月別グラフが増えていたら、攻撃も急増している？

そのグラフだけでは言えません。収集開始は2026年8月で、それ以前の月との件数差には、集めた量の違いがあります。

手口別の数を足すと、事例全体の数になる？

必ずしもなりません。1件が複数の手口に当てはまると、それぞれで数えます。分類・AIの役割・組織の種類のグラフには、国内の漏えい事件を含めないという集計範囲の違いもあります。

カードの先頭が、一番被害に遭いやすい手口？

危険度のランキングではありません。数え方の説明では、国内の根拠の数、根拠の合計、最新事例の新しさを順に使って並べています。

また、ページの説明では、事例の確認や手口・対策の整理にAIを用いています。仕事の判断や研修で使うときは、事例の詳細と出典を開き、何が確認され、何が不明なのかまで読むと、誤解を減らせます。［2］

05｜今日の使い方自分たちの場面に合わせて、1つ決める

1. 「あなたの組織は？」を選ぶ。自治体、医療・介護、学校、民間企業など、自分の職場に近い種類から見ます。
2. 「今やる対策3つ」を読む。誰が担当するかを決め、できているか確かめます。機器の更新は管理担当者に確認します。
3. 身近な手口のカードを1枚開く。説明、対策、根拠の事例、出典の順に読むと理解しやすくなります。
4. 職場や家庭での行動を1つ決める。「送金先の変更は電話でも確認する」など、迷ったときの決まりにします。

組織の種類を変えても、グラフは確認済みの全事例を対象にしています。「学校」を選んだからといって、グラフも学校の被害だけになるわけではありません。［1］

職場の管理担当者は、AIへの対策と合わせて、OSやVPNなどの更新、多要素認証、アクセス権限、バックアップも確認しましょう。AIが関係する場合でも、基本の対策を続ける意味は変わりません。［7］

ダッシュボードで、自分たちに関係する手口を見る →

06｜操作・入力した後の初動何をしてしまったかで、対応を分ける