LLMは本当に限界なのか

2月23日

―― 物理世界・ハルシネーション・AGIから、「言語のAI」と「世界のAI」を整理する

生成AIを使い始めた人ほど、
一度は同じ違和感にぶつかります。

「文章はうまいのに、急におかしなことを言う」
「自信満々なのに、前提が崩れている」
「それっぽいけれど、現実に照らすと危うい」

この体験は、学習者側の理解不足というより、
LLM（大規模言語モデル）の性質と関係しています。

この記事では、ヤン・ルカン氏の問題提起として語られる論点を手がかりに、
LLMの限界が「性能」ではなく
「構造」にあるとはどういうことかを整理します。

そして次の波として注目される「世界モデル」が、
なぜ物理世界の理解や
AGI（汎用人工知能）と結びつけて語られるのかも扱います。

結論を押し付けず、
読者が自分の使い方を決められる材料としてまとめます。

まずは全体像をマンガで確認します。
細部はこのあと本文で順に言語化します。

*※ LLMの構造的な限界と、物理世界を学ぶ「世界モデル」の役割を整理した漫画解説。*

LLMは「言葉の統計予測」に強い

ただし物理世界の因果や常識理解は弱く、
ハルシネーションは構造問題として出やすい

次の波として世界モデルがあり、
映像から法則を学ぶ方向が
AGIと結びついて語られている

ヤン・ルカンとは誰か

なぜこの発言が注目されるのか

ヤン・ルカン（Yann LeCun）氏は、
深層学習、とくに画像認識の発展に大きく貢献してきた研究者です。

畳み込みニューラルネットワーク（CNN）を実用へ近づけ、
手書き文字認識などの領域で
成果を積み重ねてきた人物として知られます。

さらに2018年には、
ジェフリー・ヒントン氏、ヨシュア・ベンジオ氏とともに、
計算機科学分野で権威ある
「チューリング賞」を受賞しています。

つまり彼は、
「深層学習の勝ち筋」を作った側にいた人でもあります。

そのルカン氏が、
LLMの熱狂に対して冷静な疑問を投げかけている。

ここが、この議論が注目されやすい理由です。

ルカン氏の主張の要点

「LLMの限界」と「世界モデル」の提唱

ここからが本題です。

ルカン氏は、
主にテキスト（言語）データを扱う
大規模言語モデル（LLM）について、
一定の限界があると指摘しています。

そして、その先の方向性として、
映像や空間データ、センサーデータなどを活用しながら、
物理世界を学習する「世界モデル」の構築を提唱している、
という整理がよく語られます。

ただし重要なのは、
ルカン氏がLLMを完全に否定しているわけではない、
という点です。

LLMは特定の用途では有用であることを認めた上で、
「人間のような知能」を目指すなら、
LLM単独では届きにくい領域がある、
という問題提起として語られます。

LLMは「言葉の統計予測」に長ける

LLMは、主にテキスト（言語）データを大量に学習し、
言葉と言葉のつながりを統計的に捉えます。

極端に言えば、
「次に来そうな言葉」を高精度で予測しながら、
文章を生成する仕組みです。

だからこそ、LLMは強い。

要約できる
言い換えできる
下書きが書ける
文章を整えられる
説明の型を作れる

学習者にとっても、
ここはすでに「便利さ」として実感があります。

物理世界の因果と常識理解が弱い

という違和感

一方で、LLMには
苦手が出やすい領域があります。

それが、物理世界の因果や、
常識としての「状況理解」です。

人間は、赤ちゃんの段階でも、
手を離した物が落ちることを体で知ります。

水をこぼせば床が濡れる。
硬いものは落とすと割れることがある。

こうした物理世界の当たり前は、
言葉で覚えるというより、
経験として染み込みます。

ルカン氏が問題視している点として語られるのは、
LLMは学習の入口がテキスト中心であるため、
現実世界からこの種の因果を学びにくい、
という見立てです。

言い換えると、
LLMは「現実を理解しているから正しい」のではなく、
「正しそうに見える言い方を知っている」ことがある。

ここで、学習者の違和感と繋がります。

ハルシネーションは「バグ」ではなく

「構造問題」として現れる

LLMが自信満々に誤る現象は、
一般にハルシネーションと呼ばれます。

このとき多くの人は、
「そのうち改善される技術的な欠陥」と捉えがちです。

しかしルカン氏は、
これは単なるバグではなく、
LLMの構造に由来する問題だ、
という方向で語ります。

理由は単純で、
LLMは「もっともらしい言葉」を作るのが仕事で、
「現実に照らした正しさ」を
自動で保証する仕組みではないからです。

だから、文章として筋が通っていても、

前提がずれている
因果が飛ぶ
参照すべき現実の制約が抜ける

こうした崩れ方が起きます。

学習者が感じるのは、たぶんここです。
「言っていることは立派なのに、何かが危うい」

この違和感に名前がつくと、
LLMとの距離感が少しだけ安定します。

ルカン氏はLLMを否定しているわけではない

ここで重要なのは、
ルカン氏はLLMを完全に否定しているわけではなく、
用途によっては有用だと認めている、
という点です。

LLMは、言語の処理に強い。
だから、文章の作業や知識の整理では価値がある。

ただし、
人間のような知能、
つまりAGI（汎用人工知能）を目指すなら、
言語だけでは届かない領域が残る。

この整理が、
彼の問題提起の核として語られます。

次の波として「世界モデル」が浮上する理由

そこで次の波として語られるのが、世界モデルです。

世界モデルは、テキストだけでなく、
映像や空間データ、センサーデータなどから、
物理世界の法則を学習することを重視します。

ここで狙っているのは、
「言葉の正しさ」ではなく、
「世界のふるまいの一貫性」です。

たとえば運転中、私たちは、
道路上のすべての葉の揺れを
予測していません。

「車が飛び出しそう」
「歩行者が渡りそう」
「信号が変わりそう」

意味のある要素を抽象化し、
次に起きそうなことを見積もります。

世界モデルが目指すのは、
このような「状況理解」と「因果の予測」を、
映像などから学ばせる方向だ、
と整理できます。

AGIへの道として語られるのは

「世界と結びつく学習」が必要だから

AGIという言葉が出てくると、
話が急に遠く感じるかもしれません。

ただ、ここで言いたいのは、
「万能AIがすぐ来る」という話ではありません。

論点はもっと地味です。

人間の知能は、
言葉だけでできているわけではない。

物理世界で行動し、
失敗し、
因果を学び、
次の一手を計画する。

ルカン氏が強調するのは、
この部分に近い学習がないと、
人間のような知能には近づきにくいのではないか、
という見立てです。

だから、次の波として、
映像から法則を学ぶ世界モデルが注目される。

そういう流れとして読むと、
物理世界・ハルシネーション・AGIが
一本の線で繋がります。

いま私が注目しているのは

「AMI Labs」と世界モデルの行方

ここまでの整理を踏まえると、
私がいま注目しているのは、
ルカン氏がパリで立ち上げた新会社「AMI Labs」で進めるとされる
「世界モデル」の行方です。

報道では、数千億円規模の資金を投じて、
テキスト中心ではなく、
映像や空間データなどから
物理世界の法則を学習する方向を強く志向している、
という文脈で語られています。

もちろん、これは
「次はこれが勝つ」という断定ではありません。

ただ、LLMのハルシネーションが
構造問題として現れやすい、
という論点と合わせて見ると、
「世界と結びつく学習」を本気で取りにいく試みが
どこまで形になるのか。

ここは、AIを学ぶ側にとっても、
次に何を資産化しておくべきかを考える材料になります。

たとえば私は、
次の2点を観測ポイントとして置いています。

世界モデルは「映像の生成」が主役なのか、
それとも「状況の抽象化と予測」なのか

物理世界の因果を、どの粒度で扱えるようになるのか
短い予測で止まるのか、計画へ伸びるのか

ニュースを追うというより、
追うべき論点を持つ。

この姿勢の方が、
学びが消耗しにくいと考えています。

まとめ

限界は「否定」ではなく

期待を置く場所を整えるためにある

LLMは言葉の統計予測に長ける。

一方で、物理世界の因果や常識理解が弱く、
ハルシネーションは構造問題として現れやすい。

その上で、次の波として世界モデルが浮上し、
映像から法則を学ぶアプローチが
AGIへの道として語られている。

この記事の立場は、
「どれが勝つか」ではなく、
「期待を置く場所を間違えない」ことにあります。

最後に、今日の小さな一歩をひとつだけ置きます。

Notionなどに、次の1行だけ残してみてください。

「この作業で、私はAIに何を任せ、
何を物理世界（現実）で検証するか」

この境界線を言葉にできるだけで、
学びは「消費」から「資産」へ寄っていきます。