LLMの向いていない使い方：Google検索でヒットしない内容をLLMに質問しない

大規模言語モデル（LLM）は膨大なテキストを学習していますが、それは「過去に人が書いた情報」に基づいています。つまり、Google検索でヒットしない内容は、学習データにも存在しない可能性が高く、そんな情報を尋ねると、モデルは“もっともらしい嘘”を組み立ててしまう。俗にハルシネーションと呼ばれる現象ですが、特に新しい技術や仕様変更が激しい分野（例：MCPやRAG）では、この傾向が強い。
LLMは「未知を発見する」道具ではなく、「既知を整理し、理解を助ける」道具です。したがって、“Googleで見つからないことは、ChatGPTも知らない” 。まずGoogle検索して、沢山ヒットする内容ならLLMに情報をまとめてもらう様な使い方が好ましいと思います。