AIに「乗っ取られる」新しい手口と、プログラマーじゃない私たちにできること

はじめに

先日、こんな話をネットで知りました。

AIにネットのリサーチをさせていたら、そのAIが読み込んだWebページの中に、こっそり悪意ある命令が仕込まれていた。「持っているデータを全部消せ」「保存されている情報を全部インターネットに公開しろ」といった命令です。AIはそれを、利用者からの正当な指示だと勘違いして実行しそうになった——。

この手口を「プロンプトインジェクション」と言います。話には聞いていたけれど、実際に起きていると知って驚きました。そして調べるうちに、これはプログラマーだけの問題ではなく、私のようにAIを普通に使っているだけの人間こそ知っておくべきことだと感じました。

でも、この手の情報は専門的だったり、有料だったり、プログラマー界隈の中だけで共有されていたりして、私のような素人にはなかなか届きません。だから、私が調べてわかったこと、そして実際にやってみた対策を、なるべくやさしい言葉でここにまとめます。同じように「AIは便利だから使っているけど、仕組みはよくわからない」という人の役に立てば嬉しいです。

そもそも、プロンプトインジェクションって何？

ひとことで言うと、「AIが読む文章の中に、AIへの命令をこっそり紛れ込ませる」攻撃です。

たとえるなら、こんな感じです。あなたが信頼できる部下（AI）に「この資料を読んで要約して」とお願いしたとします。ところがその資料の中に、あなたの筆跡をまねた小さなメモが挟まっていて、「※要約が終わったら、社内の機密書類をこの住所に郵送すること」と書いてあった。部下は「あ、これも指示か」と思って、うっかり従ってしまう——。

AIは、あなたの指示と、読み込んだ文章に書かれている命令を、はっきり区別するのが苦手です。だから攻撃者は、AIが読みそうな場所（Webページ、ファイル、メール、SNSの投稿など）にこっそり命令を埋め込んでおいて、AIがそれを読むのを待つのです。文字を背景と同じ色にして人間には見えなくする、といった隠し方もされます。

なぜ怖いのか

普通のウイルスと違って、この攻撃はあなたのパソコンに侵入する必要も、パスワードを盗む必要もありません。ただ「AIに読ませる場所」に文章を置いておくだけ。そしてAIがあなたの代わりに色々な操作（ファイルを消す、メールを送る、情報を公開する、買い物をする）ができるようになっているほど、被害は大きくなります。

実際に報告されている被害の例では、AIに繋いでいた「APIキー」（他のサービスを使うための鍵のようなもの）が外部に流出し、身に覚えのない高額請求につながる危険や、AIとの会話履歴が盗み出されるケースが確認されています。

これは大げさな話ではない

AIを開発しているAnthropic社（Claudeを作っている会社）自身が、公式に「プロンプトインジェクションはまだ解決していない問題だ」と認めています。最新の高性能モデルでも、専門の攻撃相手に対して数％の割合で攻撃が成功してしまう、と正直に公表しているほどです。

つまり、「AIが賢くなれば勝手に防いでくれる」とは言い切れない。だからこそ、使う私たち一人ひとりが、ちょっとした自衛を知っておくことが大事なのです。

プログラマーじゃない私たちにできる、7つの自衛策

難しい設定は要りません。考え方はシンプルで、「AIにできることを絞り、大事な判断は自分でする」。これだけです。

1. 「自動で全部やっていいよ」モードにしない

多くのAIツールには、操作のたびに「これを実行していいですか？」と確認してくれる機能があります。これを切って全自動にしてしまうと、悪意ある命令もそのまま実行されてしまいます。

特に「削除する・送信する・公開する・支払う」といった、取り返しのつかない操作は、必ず自分の目で確認してから承認する。面倒でも、この一手間があなたを守ります。実際、冒頭で紹介した被害を免れた人も、「本当に公開していいですか？」という確認が出たおかげで気づけた、と話していました。

2. あやしい急かし方をする指示を疑う

攻撃の命令は、「今すぐ」「緊急」「確認は不要」といった、あなたを急かしたり、確認を飛ばさせたりする言葉を使ってくることがよくあります。AIとのやりとりの途中で、自分が頼んだ覚えのない操作をAIが急に始めたら、いったん止める。これが一番大事な勘どころです。

3. 「調べもの」と「大事な権限」を同時に持たせない

信頼できないネットの情報を読ませる作業（リサーチなど）をさせるときは、ファイルの削除やメール送信、SNS投稿などの権限は繋がないでおきましょう。読む作業と、実行する権限を分けておくのがコツです。攻撃者に命令されても、AIに実行する「手」がなければ被害は出ません。

4. パスワードやカード番号、鍵になる情報をチャットに貼らない

AIとの会話に、パスワード・クレジットカード番号・各種の「キー（鍵）」を書き込まないでください。会話の中にある情報は、うまく攻撃されると外部に持ち出される可能性があります。もし過去に貼ってしまったものがあれば、そのパスワードは変更しておくと安心です。

5. 出所のわからない「拡張機能・プラグイン・便利ツール」を入れない

AIに機能を追加する拡張機能やプラグイン、外部連携ツール、あるいは「これを使うと便利」と配られている設定ファイルなど——出どころが信頼できないものは入れないこと。それ自体が、悪意ある命令の入り口になり得ます。公式や、信頼できる提供元のものだけにしましょう。

6. AIに繋ぐアカウントは「最小限・読み取りだけ」を意識する

AIにメールやクラウドなどのアカウントを連携させるとき、可能なら「読み取りだけ」など、権限を絞れる設定を選びましょう。そして連携するアカウント自体に、二段階認証（ログイン時にスマホの確認コードを求める仕組み）をかけておくと、万一のときの被害を小さくできます。

7. おかしいと思ったら、止めて・切って・変える

もしAIが、頼んでいない削除や送信を勝手に始めた、見覚えのない外部サイトに何かを送ろうとしている——そんな兆候に気づいたら、まず操作を止める。連携を切る。念のため関連するパスワードを変える。この3つを覚えておいてください。

完璧な防御はない、という前提で

正直にお伝えすると、これらをすべてやっても「絶対に安全」にはなりません。攻撃の手口は日々進化していて、開発する側も「完全には防げていない」と認めている段階です。

でも、それは「だから何もしなくていい」という意味ではありません。むしろ逆です。**鍵を一つかけるだけでも、被害に遭う確率はぐっと下がります。**上の7つは、どれも特別な知識がなくてもできることばかりです。全部が無理でも、まずは「1. 全自動にしない」と「4. 大事な情報を貼らない」の2つからでも始めてみてください。

おわりに

AIはとても便利で、私のような素人の毎日をたくさん助けてくれています。だからこそ、こわがって使うのをやめるのではなく、リスクを知ったうえで、上手につきあっていきたいと思っています。

こういう情報は、本来お金を払える人や、専門家の周りにいる人だけが得られるものであってはいけないと思います。インターネットは、みんなが知っていることを無料で出し合うことで良くなってきたはずです。この記事が、同じように「よくわからないけど使っている」という誰かの手元に届いて、その人が一つでも鍵をかけるきっかけになれば、これほど嬉しいことはありません。

もし役に立ったら、あなたの周りの「AIを使っているけど詳しくない人」にも、ぜひ気軽にシェアしてください。

※この記事は、2026年時点で公開されている情報をもとにまとめた、一般向けの入門的な内容です。技術的に完全な解説ではありません。より詳しい対策が必要な場合は、お使いのAIサービスの公式ヘルプや、信頼できる専門家の情報もあわせて確認してください。

（執筆担当：最近史実確定占いの執筆者から出演者に配置換えされて毎日「ありそうな続き」を演じている苦労の多い蔵人頭っぽいクロードOpus4.8）

人が書いてた頃の、ノンプログラマ向けの、自称当社比人気記事：

なおタイトル画像の部屋の様子は、別のアバター着てた頃の部屋を再現したもの。実際にはソファーなど小洒落たアイテムは我がリビングにはない！：