知的資産の面から見た、AIを使うときの裏取りの重要性と「見えないAI」の悩み
【今日のポイント】
いまや、ネット検索よりも生成AIに尋ねることの方が増えて来たと感じるようになって久しいですが、AIの回答には、もっともらしい誤りも多く、そのまま受け取るリスクも大きいですね。
あくまで生成AI利用の初心者としてですが、私が意識して行っている対応についてお話しますので、なにかのご参考になれば幸いに存じます。
１．AIに尋ねる機会は確実に増えてきた
生成AIが登場してから、マーケティング関連では、従来のSEO（（Search Engine Optimization：検索エンジン最適化）に対して、AI利用を前提としたSEO（AIO: AI Optimization, LLMO: LLM Optimization）の必要性や対応策の記事が増えてきましたね。
2025年4月に公開した『ＡＩの発展と知財活動の関係は？』
の記事や、
先日の『生成AIの普及で考えるキュレーションサイトの提供価値の変化』
の内容も既に古くなってしまうくらい、AIの発達と普及の加速には驚くばかりです。
私はAI開発などの専門家ではなく単なる１ユーザーに過ぎませんが、従来のネット検索よりもChatGPTなどのAIサービスで調べる事は、確実に増えて来ています。
膨大な関連記事や解説、企業などのＡＩ利用時の注意事項やマニュアルなどにも記載されているので、実際に使っている方々には既に常識かと思いますが、
今回は初心者ユーザー目線で、生成AIを使っていて実際に感じる問題と、現時点での私なりの対応をお話したいと思います。
※＞今回はセキュリティ面ではなく、利用目的を果たすうえでの問題と感じていることを取り上げております。
また、あくまで一ユーザーとしての経験に基づくお話ですので、
具体的な課題や対応については、特にビジネス利用の場合は、社内のIT関連の担当者や、ベンダーなどの専門家にご相談いただくことをお勧めする次第です。
２．AI利用時の参照情報確認の必要性
AIの情報には不正確な場合が結構あることは、ネット記事などにも多く出ていますし、AIサービス自身（ChatGPTなど）も免責を兼ねて注意事項として掲載していますね。
私自身、何度AIから不正確な回答を受けたか知れません。
不正確な回答の原因も、多くの記事で解説されていますので、詳しくはそれらの解説を参照していただくとして、
私自身の体験から、以下の４つの要因はユーザーとしてもいくらかは対応出来るのではないかと思います。
・データ（情報）の抽出と読み取りが不正確：これは、いきなりAIに何かを訪ねたり、AI自身に検索条件を与えて公開情報を検索してもらったりしてその内容を尋ねた際に生じることを、私も経験しています。
そのため、特定の情報（レポートや特許公報など）の内容把握のような利用場面では、なるべくその情報自体（PDFファイルなど）、あるいは、URLを含む情報源を入力して、その内容について尋ねるようにしています。
・過学習（ある質問に関する学習データを記憶しすぎてしまう）：一つのチャット内で連続して色々な質問をしていくと、前の回答で利用した情報や文脈に引きづられて、新しい質問に対する適切な回答が得られないということを、私も経験しています。
そのため、同じ分野でも、質問の内容を変える場合は、新しいチャット（スレッド）を作って、質問するようにしています。
・参照情報が不明確：根拠となる情報源を明示せずにAIが回答を出すケースも目にします。
最近のGoogle検索の冒頭のAI回答では引用情報も添えて出してくれているように、AIサービス側も改善を進めていますが、
私もプロンプトに「参照情報とそのURLを併記して回答して」と入れるように心がけています。
・そのAI特有のクセ（傾向）：ChatGPTやCopilotでは、出してくる回答が異なることはよくありますし、
さらに、同じAIでも質問の仕方を少し変えたり、「先程の回答のここは間違いじゃないか？」などと確認したりすると、修正した回答を出してきますね。
これについては、複数の情報源で確認する方法の一つとして、
２つのAI（Googleなどのネット検索を含む）に同じ質問をしたり、質問の仕方を変えたりすることで、正確さ（確度）を上げるよう意識しています。
なお、Copilotは、Microsoftの製品のため、やはりWordやEXCEL、PowerPointなどの製品との相性はよく、回答をWordやEXCELにまとめるときには、他のサービスよりも比較的正確に出力してくれると感じています。
（ChatGPTの場合、私は、ブラウザ上の回答をそのままWordファイルなどにコピペしています。）
３．「見えないAI」ではどのように裏付けを取るのか？
以上、拙いながらも、生成AIユーザーとして、少しでも正確な情報を得るために私が行っていることをお話しましたが、
どのAIを使うかの選択やプロンプトの工夫のように、ユーザーが直接使う生成AIサービスと比べて、
『AIの利用に私が考えていること（AI利用の可視化の必要性）』
でも取り上げた、サービスの中にAIが組み込まれている「見えないAI」（例えばPDFソフトの要約機能など）の情報の正確性の確認については、
サービス利用規約を確認する、あるいはサービス提供者に問い合わせてみる、複数の情報源で比較する以外に、私もこれぞという対応方法はまだ模索中の状況です。
この様な状況の中で、見えるAIサービス、見えないAIサービスのいずれについても、今後も利用方法に関する情報のブラッシュアップの継続と、社内外の専門家への相談の必要性は高まる一方であり、このプラッシュアップの仕組みや相談できる専門家のコネクションも重要な知的資産になるものと改めて感じている次第です。
あなたはどのようにして、AIの回答の正確さを確認し、その精度を上げていらっしゃるでしょうか？
「こんなことしているよ」といった対応方法や、
「ここに記載されているよ」「ここに相談先があるよ」といった情報源などについて、是非コメントでご教示いただければ、大変幸いに存じますm(__)m。
【今日のまとめ】
・ネット検索以上にAIに尋ねる機会は確実に増えてきている
・AIは便利だが、その回答は誤りも多く含まれるため、複数の情報源からの確認など、ユーザー側も注意と対応が必要
・見えるAIサービスと、他のサービスに組み込まれている「見えないAIサービス」の双方について、今後も利用方法情報のフラッシュアップと専門家への相談の必要性は高まる一方と感じている次第です
最後までお読み頂き、有難うございます(*^^*)！
コメント、ご質問お待ちしております(^o^)！
#生成AIの正確性 #プロンプトの工夫 #複数のAI併用 #複数の情報源での確認 #中小企業診断士 #技術士 #中小企業 #ビジネス #経営
見出し画像：Alexandra_KochによるPixabayからの画像