生成AIへの情報漏えいを防ぐため、入力前に考えたいこと【小さな商売の発信】

AIは、返事が速いです。

疲れていても嫌な顔をしませんし、同じ部分を何度やり直しても文句を言わない。芝居や歌の練習相手として使いたくなる気持ちは、少し分かる気がします。

ところが、その練習で使うものが公開前の台本だったら、話が変わります。

日本俳優連合は、実演家に向けて、公開前の作品や役柄の情報を慎重に扱うよう注意を呼びかけました。

ChatGPTなどの対話型生成AIを相手役にした芝居や歌の練習が、思わぬ情報漏えいにつながる恐れがあるため、サービスの規約や設定を確認して安全を確保してほしい、という内容です。

ここで引っかかったのは、「AIを使ってはいけない」という話ではありません。

練習する本人にとって、台本は読むものです。セリフを口に出し、解釈し、相手役と合わせる。その仕事の流れにAIが自然に入り込むと、台本を外部サービスへ入力している感覚が薄くなるのではないでしょうか。

便利な相手役に見えているため、情報を渡す相手だという意識が後ろへ下がります。

こんにちは。綿樽 剛です。

ネタリエという屋号で、小さな商売のnote発信サポートをしています。

仕事の中にあるメモ、音声、過去記事、日々の気づきなどのネタを拾い、検索にも届き、人柄も伝わるnote記事へ整えています。

今日は、AIを仕事へ入れるとき、便利さより先に何を確認する必要があるのかを考えます。

生成AIの情報漏えいは「保存」より「渡す」ときに見えにくい

情報管理というと、ファイルにパスワードをかける、端末をなくさない、怪しいメールを開かない、といった場面を思い浮かべます。

どれも大切です。

ただ、生成AIの場合は少し様子が違います。

自分から文章を入力し、便利な返答を受け取るため、情報を外へ出している感覚が弱くなりやすいのです。

これは、俳優や歌手だけの話ではありません。

小さな商売でも、AIへ相談したくなる材料には、公開前の情報が混ざります。

お客様とのやり取り、まだ発表していない商品、取引先から受け取った資料、スタッフについての相談。

書いた本人にはただの「相談内容」でも、別の人から見れば預けた覚えのない情報かもしれません。

たとえば、お客様から届いた長いメールを、そのままAIへ貼り付けて返信案を作る場面です。

作業としては、とても自然です。私も文章を扱う仕事をしているので、長い内容を整理してもらいたくなる気持ちは分かります。

しかし、名前を消しただけで十分とは限りません。店名、日時、症状、契約内容などが組み合わされると、誰のことか推測できる場合があります。

問題は、AIが危険な道具だからではなく、日常の作業に溶け込みすぎて「いま何を渡したか」を確認しにくいことです。

生成AIへ入力してよい情報を、人が先に決めておく

AIの利用で最初に必要なのは、うまい指示文よりも入力してよい範囲を決めることです。

サービスの規約や設定を調べることは欠かせません。

ただ、それだけで判断を終えると、「設定上は大丈夫そうだから、何でも入れてよい」という方向へ流れるかもしれません。

ここでは、もう一段手前に人間の判断が残ります。

仕事の情報は、AIへ入力してから守るのではなく、入力する前に分けておく必要があります。

固有名詞を伏せる。原文を貼らず、状況を一般化する。公開前の資料や第三者から預かった文章は入力しない。組織や取引先のルールがあるなら、個人の判断だけで進めない。

すべてのAI利用を止める必要はないと思います。

公開済みの文章を短く整える、架空の設定で練習する、自分だけのアイデアを整理する。

扱う情報を選べば、助けてもらえる場面は多くあります。

一方で、安全な使い方はサービスや契約、情報の種類によって変わります。機密性の高い仕事では、個人向けサービスの設定を工夫するだけでは足りず、所属先の確認や専用環境が必要になる場合もあるでしょう。

AIは、こちらが入力した事情を見て、「それは他人から預かった秘密ですね」と毎回止めてくれるわけではありません。

だからこそ、送信ボタンを押す前の一拍は、人間の仕事として残ります。

AIに任せる工程と、人が判断を残す工程をどう分けるかについては、別の記事でも整理しています。

まとめ：それ本当に、生成AIに渡してもよい情報？

今日AIへ相談しようとしている文章には、自分以外の誰かが預けた情報が混ざっていないでしょうか。

いったん固有名詞を消すだけでなく、原文を渡さずに相談できる形へ戻してみてもよさそうです。

最近、興味を持っているツール（ソースネクスト）を2つ紹介します。

本命はこちら。ローカルPCで動くAI。

ただし、PCのスペックはけっこう要求されます。私のPCは無理かも。

現実的な選択肢はこちらかな？

AIに渡す前の下ごしらえ。マスキングを専門にするツールです。PDFなど読み込ませる前に一手間かければいけそうです。

ここまで読んで、自分が普段AIへ渡している文章を思い浮かべた方もいるかもしれません。

実際の作業では、入力してよいかを一度で判断できない場面もあります。本文の外側に残りやすい迷いを、もう少し具体的に整理します。

名前を消せば、顧客のメールを生成AIへ入力してもよいですか

名前を消しただけで十分とは限りません。

店名、日時、症状、契約内容など、複数の情報を組み合わせると相手を推測できる場合があります。原文をそのまま貼る前に、相談に必要な状況だけを一般化できないか考える必要があります。

生成AIの学習をオフにすれば、機密情報を入力しても安全ですか

学習への利用を止める設定は確認したい項目の一つですが、それだけで機密情報を何でも入力できるとは限りません。サービスの契約や保存方法、情報の種類、所属先のルールも含めて判断する必要があります。

生成AIの基礎知識やリスクを一度整理したい場合は、こちらの記事が入口になります。

公開前の資料を生成AIで整理したいとき、何を確認すればよいですか

まず、その資料が自分だけで扱いを決められる情報かを確認します。

第三者から預かった文章や、組織の仕事として受け取った資料であれば、個人の判断だけで外部サービスへ入力しないことが大切です。原文が必要でなければ、架空の設定や一般化した状況へ置き換えて相談できます。

取引先から受け取った文章をAIへ入力したい場合、誰に確認すべきですか

組織や取引先に利用ルールがある場合は、そのルールを確認します。

自分にとっては返信案を作るための材料でも、相手にとっては外部サービスへ渡すことを想定していない情報かもしれません。判断できないときは、原文を入力せずに済む形へ戻すほうが安全です。

生成AIへ原文を渡さずに相談するには、どう整理すればよいですか

固有名詞や細かな日時を消すだけでなく、相談したい状況を短く一般化します。

たとえば、顧客メールそのものを貼る代わりに、「強い不満が書かれた問い合わせへ、事実確認をしながら落ち着いて返信したい」と目的だけを伝えます。

AIへ渡す情報を減らしても、整理や返信の方向を相談できる場合があります。

便利さを捨てるためではなく、使える範囲を決めるための確認です。

扱いに迷う情報があるときは、原文を渡さずに相談できる形まで戻すところから始めてもよさそうです。

読んでくれて、ありがとうございます。

綿樽 剛がどんな考え方で発信や記事制作を支援しているかは、こちらにまとめています。

→ 自己紹介・サービス案内

まず自分で試してみたい方はこちらです。

→ noteを書いているのに仕事につながらない人へ｜詰まりを見つけて「次の1本」まで決める診断ツール

無料で発信や更新の考え方を受け取りたい方はこちら。

→ 無料メルマガ

#小さな商売の発信 #生成AI #AI活用 #情報漏えい #情報管理 #情報セキュリティ #ChatGPT #対話型AI #日本俳優連合 #俳優 #実演家 #芝居 #歌の練習 #台本 #機密情報 #個人情報 #仕事術 #業務改善 #AIリテラシー #デジタルリテラシー #個人事業主 #ひとり社長 #小さな商売 #note発信 #ネタリエ #綿樽剛