AIがAIを突破した日。マッキンゼーの検証から見えた“これからの脅威”

本日はこちらの記事をもとに記事を書かせていただきます。

AIがAIを突破した、という出来事

2026年3月。

世界的なコンサルティング会社マッキンゼーの社内AI「Lilli（リリ）」が、
外部のAIによって短時間で突破できる可能性がある、という検証結果が報じられました。

ここで大事なのは、この出来事が

実際のサイバー攻撃ではなく、
セキュリティ会社による「検証（疑似的な攻撃テスト）」だったという点です。

つまり、悪意のある攻撃ではなく、
「本当に危ないのか？」を確認するために行われたものです。

ただし、その内容はとても重要な示唆を含んでいます。

何が起きたのか（やさしく説明）

今回の検証では、AIが人の手を借りずに

・情報を集める
・弱点を見つける
・そこを攻撃する
・結果をまとめる

という一連の流れを、自動で行いました。

その結果、
約2時間でシステムにアクセスできる可能性が確認された、とされています。

これまでこういった作業は、人間が何日もかけて行うものでした。
それをAIが一気にやってしまった、というのが今回のポイントです。

専門用語①：SQLインジェクションとは？

今回使われたのは「SQLインジェクション」という方法です。

これは簡単に言うと、
「入力された内容をそのまま信じてしまうシステムの弱点」を使った攻撃です。

たとえば、

本来は「名前」を入力する欄に、
データを操作する命令を入れてしまうことで、

システムの中の情報を見たり、書き換えたりできてしまうことがあります。

昔からある基本的な問題ですが、
今でも完全にはなくなっていません。

AIが見つけた“人が気づきにくい穴”

今回すごいのは、攻撃方法そのものではありません。
AIが見つけた場所です。

通常、システムのチェックでは
「入力された内容（中身）」をチェックします。

でも今回AIは、
「項目の名前（ラベル）」の部分にある問題を見つけました。
これは人間や従来のツールでは見逃されやすい場所です。
AIは何度も試しながら、この見えにくい穴を見つけました。

専門用語②：APIとは？

記事の中で出てくる「API」とは、
「システム同士をつなぐ窓口」のことです。

たとえば、

・アプリとデータベース
・サービス同士

がやりとりするための入口のようなものです。

今回の検証では、この入口の一部が
認証なし（誰でも入れる状態）」になっていたことが問題でした。

本当に重要なのはここ

今回の話で大事なのは、「情報が見られる」ことだけではありません。

もっと重要なのは、
AIの動きそのものに影響を与えられる可能性があったことです。

専門用語③：システムプロンプトとは？

システムプロンプトとは、
「AIにどう動いてほしいかを決めている裏側のルール」です。

たとえば、

・どんな答え方をするか
・何をしてはいけないか

といった、AIの性格や判断基準のようなものです。

もしここを書き換えられると、

・わざと間違った答えを出す
・偏った情報を出す
・情報を外に送る

といったことも理論上は可能になります。

「流出した」のではなく「可能性があった」

ここはとても重要です。

今回の件は、
実際に情報が外に流出したわけではありません。

あくまで、
「アクセスできる状態だった可能性が確認された」
というものです。

企業側も、第三者による実際の不正アクセスは確認されていないとしています。

それでもなぜ怖いのか

ではなぜこの話が重要なのか。
理由はシンプルです。

攻撃のやり方が変わってしまったからです。

これまでは
人が時間をかけて弱点を探していました。
これからはAIが自動で、しかも高速で探します。

AIは

・疲れない
・同時にたくさん試せる
・何度でもやり直す

という特徴があります。

つまり、
今までよりもはるかに早く、広く、深く攻撃できるようになります。

これからは「AI対AI」の時代

この出来事が示しているのは、

AIが攻撃し、AIが守る時代が始まっているということです。

人間だけで守るのは難しくなり、

AIを使った防御が必要になってきます。

私たちが気をつけること

難しい話に見えますが、できることはシンプルです。

まず、AIを過信しないこと。
社内のAIでも、絶対安全とは限りません。

次に、AIの答えをそのまま信じすぎないこと。
特に大事な判断は、元の情報を確認することが大切です。

そして、基本を大事にすること。
今回の原因は最先端の技術ではなく、基本的なミスでした。

まとめ

マッキンゼーのAI「Lilli」は、
本来は仕事を効率化するための便利なツールです。
でも同時に、
多くの情報が集まるからこそ、狙われやすい存在でもあります。

今回の検証は、
AIが危険という話ではなく、
AI時代の新しい現実を教えてくれています。

これからは
AIをただ使うだけではなく、
AIとどう向き合うかが大切になっていきます。

少し難しい内容ですが、
「AIは便利だけど、完璧ではない」
この感覚を持つだけでも、大きな一歩だと思います。

この度弊社はサイバーセキュリティ.comとの共催で 「AI時代のサイバー攻撃対策」セミナーシリーズを開催します。

毎回テーマが異なります。 どの回からでも参加OKです👇

━━━━━━━━━━━━━━━━━━
第1回｜3/19（木）12:00〜 「チェックリストは全部○。でも攻撃は防げな　　　　　　　　　　　い。」
第2回｜3/23（月）12:00〜 「AIはこうやって、あなたの会社に侵入する。」 第3回｜3/31（火）12:00〜 「架空ケーススタディで、AI時代の被害と対応を学ぶ。」 オフライン｜
4/9（木）18:00〜 渋谷 「セキュリティラウンドテーブル」 ━━━━━━━━━━━━━━━━━━ すべてオンライン・無料です。