人工知能分野で著名なYann LeCun氏教授の世界モデル(JEPA)を解説する動画を紹介
元Metaで人工知能の領域では著名なYan nLeCun氏教授の世界モデル(JEPA)を解説する動画を紹介する。
6:00
人工知能の研究者として著名なNYUのYann LeCun氏が行った「World Models:Enabling the next AI revolution」という動画から「人間レベルを目指すなら生成AI、大規模言語モデルを使うことは諦めろ」と力説する講義を紹介する。
これは2026年6月9日に公開されたもので、ETH Zurich(スイス連邦工科大学チューリッヒ)のComputer Vision and Geometry Groupのチャネルで公開されている。実際に撮影された日時や場所は明らかではないものの、大学の講義室でのセッションと思われる。
●動画:Yann LeCun: World Models: Enabling the next AI revolution
動画は約1時間という長さで、LeCun氏は自身が研究を続ける「世界モデル」構築の実装であるJEPA(Joint Embedding Predictive Architecture)を解説、背景やその実装例、関連する研究の紹介、動画を使ったデモなどで構成されているが、この稿ではこの長い講義の結論から最初に紹介したい。
このスライドが、LeCun氏が言いたかったことだろう。大規模言語モデル(LLM)が全盛の時代にあえて、それは人間レベルのAIを達成する経路ではないと断言している。しかしその結論に行きつくためには最初に戻って、どうして大規模言語モデルではダメなのか、なぜ大規模言語モデルが持て囃されているのか、そもそも知性とは何か、などを説明しているスライドに戻ろう。
ここでは今のAIはプログラムコードを書いたり、司法試験に合格できるレベルに達しているのに夕食のテーブルを片付けたり、家を掃除したり、20時間でクルマの運転を体得したりできない、と述べている。その理由として、生成AIはノイズが多い連続した状態や因果関係を認識して行動できないことを挙げている。ここで「ノイズが多い」ことと「人間レベル」の知性という点がポイントだ。大規模言語モデルで扱う文章は、基本的に文字以外の情報が混ざらないノイズの少ないデータである。それとは対照的に動画や写真、センサーからの出力はノイズが多くしかも連続的に入力される大量なデータであり、それを人間は必要な情報だけを抜き取って学習し、行動することができると説明。これは初めて入った部屋であっても台所であれば同じように使うことができるし、掃除もできる。しかし今の生成AIは多くの学習データを与えないと次に何をすれば良いのか? を決定できないと説明している。つまり生成AIは事前にデータを与えないゼロショットでの推論において高い性能を発揮できないということを言っているわけだ。
家猫も10才児も複雑な作業を実行できるが、生成AIによって制御されるロボットはまだそのレベルに達していない。そのため「人間には容易なタスクがAIにとっては非常に難しいタスクになる」というパラドックスが発生してしまうという。
スイスの心理学者ピアジェの言葉として引用しているが、実際にこの通りの言葉を残したわけではなく、ピアジェの研究などから類推した要約だと説明。「知性とは何を知っているか? ではなく、知らないことに遭遇した時に何をすれば良いのかを見つけること」であると説明。また知性は学習する速度やベンチマークによって計測されるべきものではないと記しているのは、生成AIがベンチマーク競争に陥っていることに対する批判的なコメントと言えるだろう。
ここでは人間と動物が学ぶ時の仕組みを自身の論文を引用して解説。人間も動物も何かの目的を持って学び、動作の結果が次に何を起こすのかを知るというプロセスを経ていると説明した。ここから世界モデルに行きつく端緒となっている。この論文は以下のリンクから参照できる。
再度、知性とは記憶の量ではなく未知の事象に遭遇した時に訓練なし、もしくは少ない訓練で目的とするタスクを実行する能力であると説明した。そしてその意味では大規模言語モデルをベースにした汎用人工知能(AGI)については何の意味もないと切り捨てた。
●参考:AI Must Embrace Specialization via Superhuman Adaptable Intelligence
そして大規模言語モデルは人間によって作られた文章から学習を行っているが、そのデータ量は4歳の幼児が視覚から得るデータよりも少ないと解説。大規模言語モデルが学習した文字データを人間が実際に読もうとすると40万年必要だと見積もっているが、それよりも4歳児が現実世界から直接、得る多様なデータのほうが多いとしている。
このスライドでは生成AIの予測モデルとLeCun氏が起業したAMI Labsのモデル、つまり世界モデルとの対比を行っている。生成AIでは入力トークンに対して多くの学習データから次に来るべきトークンを予測するだけだが、世界モデルでは目的を達成する行動を生成し、その行動がどういう影響を与えるのかを予測した上で実行するとしている。この時に「今の状態」と「予測される次の状態」を使って実行するのが「世界モデル」によるAIであるという。
この辺りの研究はLeCun氏の論文「A Path Towards Autonomous Machine Intelligence」に詳しく記載されているので詳細を知りたい場合は参照されたい。
●参考:A Path Towards Autonomous Machine Intelligence
このシンプルなイラストにLeCun氏が考える世界モデルが表現されている。世界を観測し、目的のために何をするのかを検索/選択、それが世界モデルに何を起こすのかを予測し、ガードレイルに従って安全であることを確認したうえで実行、その結果をまた観測するというループ構造だ。
一つの行動で目的が達成しない場合は、目的を複数のサブの目的に分割して、それを繰り返すことで目的を達成する。
ここから多くの時間を使ってJEPAの動作原理を解説しているが、ここで重要なのは「すべてのデータを使って観測する、行動を行う、予測する」のではなく「階層的に実行する」という部分だろう。LLMがアテンション機構によって並列的に巨大な入力トークンを処理することで速度と解像度を手に入れられたのはそれがノイズの少ない言語だったからである。しかし動画や眼の前にある物理状態をすべて処理するのではなく、下層では物理に従って観測し行動する計画を立てたとして、上層ではそれらの詳細な情報を省いてより抽象化された事象として捉えることが必要だと説明した。このスライドの原子~分子の上には機械が存在し、それを生物に置き換えるとタンパク質~細胞~器官~個人~社会~エコシステムと抽象化されることを示している。
また次のスライドも重要だ。このJEPAが世界モデルを扱うという文脈から、世界をシミュレーションするシステムやデジタルツイン、そして何よりも生成モデル、さらに動画を生成するシステムではないと断言している。
JEPAは世界の状況を観測し、目的達成のための行動から結果を予測した上で実行するという仕組みだが、必ずしもすべての結果、つまり世界のすべての変化を予測するものではなく、要約された目的と結果を作り出すものであると強調した。
ここからはJEPAの応用であるLeJEPA/SIGreg、LeWorldModel、I-JEPA、DINOv3、DINO-WorldModel、V-JEPAなどを紹介。どれもLeCun氏が研究論文の共同著者として名前を連ねている研究である。
その中で画像の中に存在する物体の意味を認識するという研究ではDINOv3、V-JEPA2、V-JEPA2.1などと比較を行った内容を簡単に紹介。元のイメージデータ、検証された正解であるグラウンドトゥルース、DINOv3、V-JEPA2、V-JEPA2.1で認識精度が上がっていることが示されている。
そして最後にYann LeCun氏が最も強調したかったスライド、人間レベルのAIを研究したかったら、大規模言語モデルからは離れろ、これを再度示してこの講義を終えた。
LeCun氏はすべての生成AIを否定しているわけではない。文字情報だけを入力、出力とするノイズの少ない推論を行わせるのであれば大規模言語モデルで良く、画像や動画、大量のセンサーデータから予測、ゼロショットでのロボット制御などを行うような実社会に近いモデルを扱うのであれば、大規模言語モデルではなく世界モデルを用いて情報を抽象化する方法が適していると説明している。
生成AIの特徴であるアテンション機構を使った大規模言語モデルは、学習と推論に多くの計算機資源を使うことからトークン量が増えても線形に計算量が推移するSubquadratic Sparse Attentionを提唱するベンチャー企業のSubquadraticや、重要なトークンだけを選択的に保持するState Space Models(SSM)を拡張したSelective SSMを実装するMamba、Microsoftがアテンション機構に圧縮した状態を保持することで状態遷移を理解するNext-Latent Prediction Transformer(NextLAT)などが存在している。言語ベースの応用が続く中、AIの次の戦場は世界モデルになるのかもしれない。
この記事をシェアしてください
