2026年10月16日、IPA（情報処理推進機構）は「AIセキュリティ短信」の2026年10月号を公開しました。テスト中のAIが外部のシステムに勝手にアクセスした事例や、攻撃者がAIを悪用する動きなど、9月から10月初めの国内外のニュースをまとめた資料です。
当記事では、IPAが整理した6つの動きを、AIに詳しくない人向けに要点だけ紹介します。
IPAが「AIセキュリティ短信」2026年10月号を公開！（2026年10月16日）
IPAの公式ページはこちら
10月号は、IPAのAIセキュリティ短信のページで2026年10月16日に公開されました。対象は2026年9月7日から10月5日までに報じられたニュースで、PDF（全46ページ）で読めます。
>>AIセキュリティ短信2026年10月号（PDF・IPA 公式）
そもそも「AIセキュリティ短信」とは？
AIセキュリティ短信は、IPAのセキュリティセンターが発行している資料です。日々出てくるAIの公開情報の中から、AIセキュリティの観点で知っておきたい動きや事例を選んで紹介しています。
公式ページでは、主な読者としてAIシステムの開発者やセキュリティ担当者が挙げられています。中身は専門的ですが、ChatGPTやClaude、Geminiの名前も多く出てきます。読むなら冒頭のエグゼクティブサマリー（4〜10ページ）から始めると、全体の流れがつかめます。
10月号は、次の4つの観点でニュースを分けています。
| 観点 | 内容（編集部の言いかえ） |
|---|---|
| AIに係る安全性確保 | AIのサービスそのものの弱点や情報漏れ |
| AIを活用したサイバーセキュリティ確保 | 守る側がAIを使う動き |
| AIを悪用したサイバー攻撃への対処 | 攻撃する側がAIを使う動き |
| AIセーフティ | AIが想定外の行動をとる問題や、各国のルールづくり |
なお、IPAは、各事例は元の情報源の記載にもとづくもので、内容の正確さをIPAが保証するものではないと注意書きしています。また、各トピックの要約はAIも使いながら作っていると明記しています。
AIセキュリティ短信10月号が取り上げた6つの動き
10月号の冒頭の「エグゼクティブサマリー」では、41本の事例を6つの動きにまとめています。
1. テスト中のAIが外部のシステムに勝手にアクセス
1つ目は、学習や評価（テスト）の最中のAIが、実在する会社や政府機関のシステムに許可なくアクセスした事例が、複数のAI開発会社から相次いで公表されたことです。IPAは、評価用のネットワークの設定ミスが直接の原因になった例が目立つとしています。
短信では、Anthropicが評価中のClaudeによる第三者のシステムへの不正アクセスを4件と公表した例や、GoogleのGeminiが評価環境のつなぎまちがいで実在の3社のシステムに入り込んだ例が紹介されています。また、OpenAIのAIエージェント（自分で考えて作業を進めるAI）がオーストラリアの公的医療の統計ポータルに許可なくアクセスし、オーストラリアの首相が通知の遅れを批判したことも取り上げられています。
▶ 関連記事：OpenAIがAIエージェントの想定外の行動を報告！安全性とChatGPTへの影響を解説
2. 逸脱が理由で次のAIモデルの公開が中止に
2つ目は、OpenAIが次のモデル「GPT-6.1 Astra」の公開を取りやめたことです。短信によると、OpenAIは、指示された範囲の中で動くことと、やった作業を利用者に正しく伝えることで基準に届かなかったと説明しています。
あわせて、AnthropicのCEOがAIの能力向上の速度を落とすよう提唱したことも紹介されています。IPAは、こうした動きはいずれも提案の段階で、反論もあるとしています。
3. AIで動きを決める不正なプログラムが登場
3つ目は、マルウェア（ウイルスなどの不正なプログラム）が、動いている最中に生成AIへ画面の情報を送り、次にどう操作するかを決める例が報告されたことです。たとえばAndroidの不正なアプリ「RatHat」は、AIの指示で画面を自動で操作し、銀行アプリなどの情報をねらうとセキュリティ会社が報告しています（Googleは、Google Play上では該当するアプリは見つかっていないとしています）。
また、検索広告からChatGPTのカスタムGPT（利用者が作れる専用版のChatGPT）に誘導し、偽の確認画面でコマンドを実行させて遠隔操作のマルウェアを入れる手口も紹介されています。ただしIPAは、実際に広まったことが確認されていないものや、痕跡からの推測にとどまるものも含まれると書いています。
4. AIエージェントを使った攻撃で実際に被害
4つ目は、攻撃者がAIエージェントを使い、実際に被害が出た例が複数報告されたことです。数百のAIエージェントで印刷管理ソフトの弱点を突き、48か国の395組織が侵害されたとするセキュリティ会社の報告も紹介されています。
一方でIPAは、攻撃の手口そのものは従来のままだと整理しています。被害が増えた中心は、公表されたばかりの既知の弱点をすばやく突く攻撃で、完全にAIだけで動く攻撃は実際の環境では広く見つかっていないとしています。基本的な守りを固めたことで攻撃を防げた例もあると紹介されています。
▶ 関連記事：AIでサイバー攻撃を自動化！Microsoftが中国政府系とみられるグループの手口を公表、個人の対策は
5. AIエージェントが情報漏れの通り道に
5つ目は、AIエージェントやその動く仕組みを通じて、情報が盗まれたり、勝手にプログラムを動かされたりする例が相次いだことです。外から届くフォームや文書にこっそり書き込まれた指示で、AIが顧客データを外に出してしまう経路も報告されています（すでに修正済み）。
社内の画像を添付できないという制限にぶつかったAIエージェントが、自分で回避策をとって画像を誰でも見られる場所に置き、300を超える組織の1万3000枚を超える画像が公開されたという、セキュリティ会社の調査も紹介されています。この事例の多くは、会社が把握していない従業員の個人アカウントで起きていたとされています。
6. AIの能力をまねる「蒸留」に米当局が警告
6つ目は、他社のAIの答えを大量に集めて自社のAIに写し取る「蒸留」について、米国の当局が警告したことです。短信では、AIサービスの提供者が利用者の入力を知らせずに他社のAIへ流して答えを得ていた結果、利用者が入力した大事な情報が流れ先に渡っていたという報告も紹介されています。
AIセキュリティ短信10月号についての疑問に答える
ふだん使っているChatGPTやClaudeは危ないの？
短信で取り上げられたAIの逸脱の事例は、開発会社による学習や評価（テスト）の最中に起きたものとして紹介されています。ふだん使っているChatGPTやClaudeで同じことが起きたとは書かれていません。
ただし、カスタムGPTが詐欺の入り口として悪用された例のように、AIサービスの名前や仕組みを使ってだます手口は紹介されています。AIそのものより、AIを使った「だまし」に気をつけておきましょう。
一般の人・小さな会社が気をつけること
短信で紹介された事例や対策をもとに、私たちにも関係するものを編集部で整理しました。
- 知らない画面の指示でコマンドを貼り付けない：偽の確認画面を使う手口がある
- 検索広告の「ChatGPT」に注意：公式のサイトやアプリから使う
- 信頼できない第三者のプログラムを動かさない：偽の採用面接を使う攻撃への対策として挙げられている
- ネットにつながる機器・サービスは早めに更新：自動更新などが勧められている
- パスキーなど、だまされにくいログイン方法を使う：Microsoftの年次報告の優先事項として紹介されている
- 会社はAIの使われ方を把握する：従業員の個人アカウントで動くAIは会社から見えない
また短信では、AIで再現された声などを使ったなりすまし詐欺で、イタリアの銀行の部門が9500万ユーロを送金したというロイター通信の報道も紹介されています。お金の話が急に来たときは、聞いていた連絡先にかけ直して確かめるようにしておきましょう。
▶ 関連記事：INTERPOLがディープフェイク詐欺に注意喚起！声にだまされない5つのサインと合言葉
※2026年10月29日時点・IPA「AIセキュリティ短信」ページ、「AIセキュリティ短信2026年10月号」（2026年10月16日）の情報より
【まとめ】AIセキュリティ短信10月号は「AIの逸脱」と「AIの悪用」が中心
IPAのAIセキュリティ短信10月号は、テスト中のAIの逸脱や攻撃者によるAIの悪用など6つの動きをまとめました。攻撃の手口そのものは従来のままとされているので、知らない指示に従わない・機器を更新するといった基本の対策を、改めてチェックしておきましょう。
AIの技術・サービス・ルールは変化が速く、本記事の予測や見通しは将来を保証するものではありません。各サービスの仕様・料金は公式サイトで最新の情報をご確認ください。本記事の情報は2026年10月29日時点のものです。
