LLMを正しく理解する ― 仕組みと限界の基礎知識
―― 仕組みを知って、振り回されないための最初の基準
ChatGPTなどのAIを使い始めると、
想像より自然な文章が返ってきて、
驚くことがあります。
一方で、その自然さのせいで、
「どこまで信じていいのか」が曖昧になり、
不安が増えることもあります。
結論から言うと、
ChatGPTなどの文章生成に使われるLLMは、
文脈から次に続くトークンの確率を予測し、
その確率にもとづいて選びながら、
文章を作っています。
トークンとは、単語や単語の一部、
文字など、文章を処理するための単位です。
この原理を知っておくと、
得意なことと、苦手なことが、
見分けやすくなります。
この記事では、LLMの仕組みと、
そこから見える「得意・苦手」、
そして初心者が最初に気をつけたい5つを、
整理します。
残したいのは、正解ではありません。
迷ったときに戻れる「基準」です。
※この記事は、2026-10時点の整理です。
LLMとは何か
LLMは「Large Language Models」の略で、
日本語では「大規模言語モデル」といいます。
大量の文章を学習して、
自然な文章を作ったり、
文章を読み取る処理をしたり
できるAIの仕組みです。
ChatGPTをはじめ、
多くのAIツールの中心になっています。
原理：次に続くトークンを、確率にもとづいて選ぶ
文章生成に使われるLLMは、
膨大なデータから学習したパターンと、
入力や、それまでに生成した文章をもとに、
次に続くトークンの確率を予測します。
その確率にもとづいてトークンを選び、
つなげていくことで、文章を作ります。
必ずしも、確率がいちばん高いものだけを
選ぶわけではありません。
日本の昔話には、決まった型があります。
「むかしむかし、
あるところに……」と来たら、
「おじいさんとおばあさんが
いました」と続いても、
不自然ではありません。
LLMは、この型を暗記しているというより、
そう続くことが多い、
という傾向を学習しています。
LLMは、学習した言葉の関係や文脈を使って、
文章を生成します。
ただし、人間と同じように理解しているとは限らず、
自然な文章でも、内容が正しい保証はありません。
仕組み：事前の学習と、回答するときの処理
LLMの「学習」と「回答の生成」は、
分けて考えると、分かりやすくなります。
学習では、大量の文章などを使って、
言葉の関係やパターンを学び、
モデルのパラメータを調整します。
回答するときは、学習済みのモデルを使い、
おおまかに、次の5つのステップで処理します。
- トークン化：入力を、単語や単語の一部、文字などの単位に分ける
- 数値化：各トークンを、計算に使える数値の表現に変える
- 確率の計算：入力や、それまでに生成した文章をもとに、次に続くトークンの確率を計算する
- 選択と繰り返し：その確率にもとづいてトークンを選んで追加し、終了条件に達するまで計算と選択を繰り返す
- 文章への変換：生成したトークンの列を、読める文章に戻す
ポイントは、言葉を数値で表して、
計算していることです。
入力するたびにモデルが学習するのではなく、
通常の回答生成では、学習済みのパラメータを使います。
この仕組みを支えているのが、
「パラメータ」です。
モデルのふるまいを決める、
調整つまみのようなものです。
LLMが強くなった背景には、
計算量・データ量・パラメータ数の3つが、
大きくなったことがあります。
ただし、規模が大きいから万能、
とは限りません。
得意なことと、苦手なこと
原理が分かると、
得意なことも見えやすくなります。
- 文章の作成・要約・校正・言い換え
- 分類、質問への回答、情報の抽出
- 翻訳、コードのチェックや生成
一方で、同じ原理だからこそ、
苦手なことも、起こります。
- ハルシネーション：事実でないことを、本当らしく作ってしまう
- 最新情報や専門知識の弱さ：学習していない範囲は、苦手
- 出力の偏り（バイアス）：学習データの偏りを、含むことがある
さらに、前提が足りないと、
多くの人に当たり障りのない、
「平均的な答え」に寄りやすくなります。
これは、欠点というより、
「それっぽい続き」を選ぶ原理の、
自然な結果です。
適切な前提を渡すと、
目的に合う答えを得やすくなります。
ただし、正確さが保証されるわけではありません。
平均化を弱めたいときの聞き方：「まず前提を箇条書きにしてから答えてください」「賛成・反対・例外を、それぞれ出してください」
私自身、使いながら気づいたこと
ハルシネーションは、
気づきにくい形で出ます。
たとえば、こんな場面です。
ある制度の内容を、AIに尋ねる。
すると、数字まで添えて、
自信のある口調で、答えが返ってくる。
読んでいる限り、
おかしな点は見当たりません。
ところが、あとで一次情報で確かめると、
数字だけが、微妙に違っている。
文章が整っているほど、
疑う理由が、見つからない。
それが、ハルシネーションの
やっかいなところです。
もう一つ、強く感じたことがあります。
記事の下書きを頼んだときです。
LLMは、私の詳しい事情を知りません。
だから、どこにでも
あるような答えが返ってくるのは、
当たり前です。
読み返しても、間違ってはいません。
それでも、なぜか、しっくりこない。
エッジが効いていない。
立体感のない話に、
だんだん感じるようになりました。
ここを補えるのが、コンテキスト
（背景情報）です。
目的や状況に合う前提を渡すと、
答えを「自分の話」に近づけやすくなります。
詳しくは、関連記事
「プロンプトからコンテキストへ」を
ご覧ください。
初心者が最初に気をつけたい5つ
1. 出力は「裏取り」してから使う
文章の自然さと、事実の正しさは別です。
数字、固有名詞、日付や出来事は、
先に確認する場所として、見つけておきます。
全部を疑うのではなく、
確認する場所を決めて、
そこだけ丁寧に確認します。
2. 社外に出せない内容は入力しない
住所、電話番号、顧客名、
未公開の資料などは、
最初から渡さないか、「A社」「Bさん」に
置き換えてから相談します。
ツールや契約によって、
取り扱いは変わります。
初心者のうちは、
判断をシンプルにしておくと安心です。
3. 他者の成果物は「使ってよい範囲」を意識する
引用と転載を、混同しません。
出典と、利用条件を意識して、
そのまま流用する前に、一度立ち止まります。
4. 回答の「偏り」を点検する
「前提が、ひとつに固定されていないか」
「別の立場なら、どう見えるか」
を、一度だけ揺らしてみます。
5. 決めるのは人
LLMは、整理や文章化、
選択肢を出すことが得意です。
何を優先して、どこまで許容するかは、
あなたの側に残ります。
LLMは「回答者」ではなく、
「整理の補助」に置くほうが、安定します。
「限界」をどう受け止めるか
LLMの限界について、研究者の間でも、
さまざまな議論があります。
たとえば、AI研究者のヤン・ルカン氏は、
LLMは言葉の統計予測には強い一方で、
物理世界の因果や常識の理解は弱い、
と指摘しています。
ハルシネーションも、単なるバグではなく、
仕組みに由来する面がある、という見方です。
そして、その先の方向として、
映像や空間のデータから物理世界を学ぶ
「世界モデル」を挙げています。
2026年3月には、
ルカン氏が設立したAI企業AMIが、
約10億ドル（約1,600億円）の
資金を調達したと、
報じられました。
目指しているのは、世界を理解し、
記憶・推論・計画ができるAIシステム、
つまり「世界モデル」の開発です。
もちろん、どの方向が主流になるかは、
まだ分かりません。
（2026-10-06時点の
報道をもとに整理しています）
ここで大切なのは、
LLMを否定する話ではないことです。
限界を知ることは、
期待を置く場所を、
間違えないためにあります。
つまずきやすいパターン
自然な文章を、そのまま信じてしまう
数字と固有名詞だけでも、先に確認します。
逆に、全部疑って、使えなくなる
得意な場所
（要約・言い換え・下書き）で、使います。
前提を渡さず、平均的な答えで満足する
目的と状況を、先に1〜2行添えます。
機密情報を、そのまま貼ってしまう
置き換えてから、相談します。
まとめ
- 文章生成に使われるLLMは、文脈から次に続くトークンの確率を予測し、その確率にもとづいて選びながら文章を作る
- 得意は、要約・言い換え・構造化。苦手は、事実確認・最新情報・偏り
- 前提が薄いと、平均的な答えに寄りやすい
- 初心者は、裏取り・入力の守り方・決めるのは人、の3つから
次の一歩
Notionに、1ページ作って、
次の3行だけ、書いてみてください。
- 原理：文脈から次に続くトークンの確率を予測し、その確率にもとづいて選ぶ
- 得意：要約・言い換え・構造化
- 苦手：事実確認・最新情報・偏り
この3行は、知識というより、
LLMの出力を受け取るときの
「確認ポイント」です。
関連記事：
プロンプトからコンテキストへ
―― Notion×AI連携の実践
