大規模言語モデルの仕組み

《 Claude完全ガイド 目次へ 》

10秒でいうと

Claudeの中身は、次に来る言葉を予測しているだけです。選んでいるのは正しい言葉ではなく、ありそうな言葉。
だから自然な文章になり、だからときどき、実在しないことを書きます。

Claudeの中身は大規模言語モデルと呼ばれるものです。英語の頭文字をとってLLMとも書きます。

仕組みそのものは、驚くほど単純な1文で言えます。次に来る言葉を予測している。それだけです。文章を理解して、意味を考えて、答えを組み立てて……ではありません。「ここまでの文章に続く言葉として、いちばんありそうなものは何か」を選び、それを繰り返しているだけです。

この1文を押さえておくと、このあと出てくるほとんどの現象が説明できます。なぜ間違えるのか。なぜ指示の書き方で結果が変わるのか。なぜ長い会話で話がずれていくのか。すべてここから来ています。

次の言葉を予測するとは

「日本の首都は」と書かれていたら、次に来る言葉はほぼ「東京」です。「今日はいい」なら「天気」が来やすい。人間もそう予測できます。

モデルがやっているのは、これを桁違いの規模でやることです。大量の文章を読ませて、どんな言葉のあとに、どんな言葉が来やすいかの傾向を身につけさせます。そして1語出したら、それも含めてまた次を予測する。これを繰り返すと、文章になります。

ここで大事なのは、選ぶのは「正しい言葉」ではなく「ありそうな言葉」だという点です。ほとんどの場合、ありそうな言葉は正しい言葉と一致します。だから普通に使えます。しかし一致しない場面があり、そこが落とし穴になります。

なぜ、それらしい嘘が混ざるのか

「民法第◯条には何と書いてありますか」と聞かれたとします。モデルは条文を検索しているわけではありません。条文の文章として、ありそうな言葉を並べます。

条文らしい文体、条文らしい言い回し、条文らしい番号。全部それらしくなります。ただし、実在するとはかぎりません。これがハルシネーションと呼ばれる現象です。

厄介なのは、間違えているときほど自信ありげに見えることです。文章の自然さと、内容の正しさは、別々に決まっているためです。自然な文章を作るのは得意なので、中身が間違っていても文章は自然なままです。

危ないのは決まった場所です。条文・判例・統計の数値・人名・書名・URL。この6つは、それらしく作りやすく、しかも間違いに気づきにくい。ここだけは必ず一次情報にあたってください。

学習と、いま話していることは別

もうひとつ、混同しやすい点があります。モデルに文章を読ませて傾向を身につけさせる「学習」は、あらかじめ終わっています。いま会話で渡している文章は、モデルを作り変えているわけではありません。

たとえるなら、学習は学校で受けた教育、いまの会話はその人に手渡した資料です。資料を渡せばそれを見て答えてくれますが、渡した資料でその人の教育が変わるわけではありません。

だから学習した時点より新しいことは、そのままでは知りません。必要なら、こちらから資料を渡すか、Web検索をさせます。この話はNo.05で詳しく扱います。

やってみよう:予測しているだけだと体感する(2分)

プロンプト
「むかしむかし、あるところに」に続けて、20文字だけ書いてください。
そのあと、同じ書き出しから、まったく違う続きをもう2つ書いてください。

期待される結果:3つとも自然な日本語で、内容はばらばら。どれか1つが「正解」ではないことが分かる。

うまくいかないとき:3つとも似ていたら、「できるだけ違うジャンルで」と足してください。似た続きばかり出るのは、その書き出しの「ありそうな続き」が偏っている証拠でもあります。

つまずきポイント

質問すれば自動で調べてくれると思ってしまう。Web検索の機能を使っているときは実際に調べますが、そうでないときは記憶から答えます。どちらの状態なのかは画面で分かります。No.18で扱います。

間違いを指摘すると、素直に訂正しすぎる。「それ違いますよね」と言うと、合っていたことまで訂正することがあります。正しい指摘と、誘導の区別がつかないためです。事実の確認は、Claudeに聞き返すのではなく一次情報でしてください。

応用のヒント

「次の言葉を予測している」を逆に使うと、指示のコツが見えてきます。続きがありそうな形で書けば、望むものが出やすい。たとえば「表にして」より「以下の形式の表にしてください。列は日付・取引先・金額」のほうが、続きが一意に決まります。第2章はこの話です。

関連ページ

まとめ

  • 中身は「次に来る言葉を予測する」の繰り返し。選んでいるのはありそうな言葉
  • だから条文・判例・数値・人名・書名・URLは、それらしい嘘が混ざる
  • 学習はすでに終わっていて、いまの会話はモデルを作り変えていない

次に読む

トークンとは何か

→ ガイドの目次に戻る

※本記事の情報は 2026年8月時点のものです。

タイトルとURLをコピーしました