【見れば分かる。見ないと話せない】AIで作った成果物を、理解しているのか

はじめに

本連載は、生成AIコミュニティ「IKIGAI lab.」で活動しているメンバーが、それぞれの視点から、AIの変化と実務への示唆を発信しています。

生成AIに、企画書の構成、資料の要約、調査、コード生成などを頼めば、短時間で整った成果物が出てくるようになり、仕事のスピードは確実に上がっています。

一方で、AIが作った資料を読んでいるときは理解できたつもりでも、画面を閉じると自分の言葉で説明できない、という経験はないでしょうか。「この資料では何を言っているのか」「なぜこの結論なのか」と問われると、うまく話せない。見れば分かるが、見ないと話せない。「成果物が手元にあること」と「自分が理解していること」は別です。

【AIエージェント時代の新資格】AIエージェント・ストラテジストから見える「これから求められる人材」の記事では、AIエージェントを業務に入れるときに問われるのは、どのモデルをどう使うかといった操作よりも「どこまで任せるか」「どこで止めるか」「何を成果と呼ぶか」といった人間側の設計だと書きました。AIを使える人から、仕事を設計できる人へ、という話です。

今回はその先を考えます。仕事を設計し、AIに任せる側の人間は、AIが作ったものを本当に理解しているのか。企業がAI活用による仕組み化を進めるなかで、人間に何を残すのか。「AIと理解」の話を、仕事の現場に引き戻して考えます。

なぜ「分かった気」になるのか

AIを使って作成した内容は読みやすく、構成も整っています。そのため、読んでいる間は理解できているように感じます。しかし、画面を閉じて説明しようとすると、言葉が出なくなることがあります。

AIを使わない場合は、自分で書いて手が止まる経験そのものが、「まだ理解していない状況」だと気づくサインでした。しかしAIは、自分の理解が浅いままでも完成品を出してしまうため、そのブレーキが働きにくくなります。「読んだこと」を「理解したこと」と取り違えやすいのが、現在の使い方の特徴だと感じています。

「ゴンドラに乗った猫」から考える受動的な体験

この問題を考える入口として、脳科学者の毛内拡氏は、情報過多だけでなく、受け身で情報を受け取ること自体が脳の負担になり得ると指摘しています。

もとは1963年のHeldとHeinの実験です。子猫を2匹1組にし、一方は自分で歩き、もう一方はゴンドラに乗せられ、相手の動きに連動して運ばれます。両者はほぼ同じ視覚刺激を受けますが、その後の行動には差が出ました。

自分で動いた猫は、目で見て足を置く、奥行きのある場所を避ける、近づくものにまばたきする、といった視覚に導かれる反応を身につけやすかった一方、ゴンドラ側の猫では、そうした反応が十分に現れにくかったと報告されています。

この実験が扱っているのは視覚と運動の発達であり、理解や説明の話ではなく、そのまま生成AIの利用に当てはめることもできません。毛内氏が述べているのは、情報を受け身で受け取ること自体が負担になり得る、ということです。

「分かったつもり」と「説明できる」の間にたまる負債

ここで気になるのは、受け身で受け取った情報が、自分のなかにどう残るのかです。冒頭で触れた、画面を閉じると説明できないという状態も、そのひとつです。「内容が分かる」ことと「自分で説明できる」ことは同じではありません。

この二つが異なることを、うまく言語化したのが、Nature Machine Intelligenceに掲載された論考です。著者らは、「AIで提示できるもの」と「自分が説明し、擁護できるもの」のギャップを「epistemic debt（認識的負債）」と呼んでいます。ITの「技術的負債」になぞらえるなら、理解を後回しにしたコストが、あとになって説明、判断、修正、トラブル対応といった場面で返ってくるようなものです。

回答を早く作れること自体はAI活用のメリットですが、認識的負債が怖いのは、その速さの裏で、理解する工程が抜け落ちても気づきにくいというデメリットになります。

宿題では上がっても、試験では下がることがある

経済研究を紹介するVoxEUで取り上げられた研究でも、目の前の成果と、その後に残る力は別々に見られています。

この研究では、中国中部にある一つの県の生徒26,811人を追跡したところ、生成AI利用後、宿題の成績は上がり、所要時間は減る一方、AIを使えない試験では成績が下がったと報告しています。成績の低下は、AI利用者の約8割に集中していました。この傾向が強かったのは、宿題の所要時間が極端に短く、AIに課題を任せていたと考えられる利用者です。

一方、AIを使っても学習時間を維持していた利用者では、試験成績への影響は小さくなっていました。つまり、宿題という目の前の成果が出ても、「自分に残った力」まで同じように高まったとは限らない、ということです。

AIの使い方で、あとで残る力は変わる

また、論理推論課題を扱った研究では、AIを多く使った人ほど、AIなしでの力の伸びが弱い傾向が示されました。一方、AIをかるく使った人は、AIを使わなかった同程度の参加者と大きな差がありませんでした。

さらに、AIからの支援の量によっても結果は分かれます。AIからの支援が少ない場合は、目の前の成績は上がりにくく、AIを外した後の成績も保たれにくい傾向がありました。

一方、AIからの支援が多い場合は、目の前の成績を高めつつ、平均的にはAIを外した後の成績を悪化させませんでした。ただし、効果には個人差がありました。

研究者らは、AIが人間の推論を補助するのか、それとも代替してしまうのかが、力が身につくうえで重要だと指摘しています。

何を自分でやるかも、使い方の一部

仕事では、何でもAIに任せることが上手な使い方とは限りません。AnthropicでAIの使い方を教えるKristen Swanson氏は、自身の時間の少なくとも半分を、AIを使わない方がよい場面を伝えることに充てていると話しています。AIの出力を見極める作業が、自分でやるより時間がかかる状態を、同氏は「discernment tax（見極めのコスト）」と呼んでおり、その人が得意な仕事ほど、任せてから確認する方が、かえって手間になることがある、という説明をしています。

仕組み化の先で、検証と仕事の再設計が問われている

いま企業では、プロンプトやテンプレートなどを用いた仕事の進め方の仕組み化や、業務の自動化が進んでいます。この方向自体は必要です。毎回ゼロから同じ作業をする必要はありません。

ただし、「作る仕組みを整えること」と「仕事そのものを見直すこと」は別です。6月記事「【生成AI活用の次段階】『導入した』だけでは成果が出ない、企業に問われる実装力」でも整理したように、企業の生成AI導入は広がる一方で、「導入している」と「使いこなしている」の間には開きがあります。削減時間の使い道でも、「AIが出力した回答の検証・修正」が上位に入ります。

検証や修正に手間がかかるほど、既存の職務にAIを足すだけでは足りず、仕事そのものを再設計する段階に入っていると感じています。リクルートワークス研究所のコラムでは、職務全体ではなく、タスク単位で人とAIの役割を見直すこと、AIが担える作業が増えても、調整や順序づけ、複雑な判断は人が引き続き担うことが指摘されています。

再設計しても、作る能力をAIに渡し、理解を手放したままでは、責任は人間に残っても、その責任を果たす力が残りません。AIに何を任せるかを設計するのと同じように、人間にどの理解の工程を残すのかも設計する。企業のAI活用では、この視点がこれまで以上に重要になります。

AIに何を任せ、人間に何を残すか

AIを使うこと自体が問題なのではありません。問題になりやすいのは、「考える」「試す」「間違える」「修正する」「説明する」といった、理解に必要なプロセスまで任せてしまうことです。AIは能力を拡張する道具にもなれば、思考を代替する道具にもなります。

たとえば、AI時代の学習をめぐっては、「生産的な苦闘（productive struggle）」という考え方も改めて注目されています。自分で考え、試し、間違いながら答えにたどり着く過程そのものに学習上の意味があり、AIが答えを簡単に与えすぎることで、その過程を避けるようになる可能性が指摘されています。

仕事の場合でも、完成した答えばかり受け取っていると、目の前の仕事は進んでも、あとで自分の言葉で説明できるものは残りにくい。残るのは成果物であって、説明できる理解や、次に同じ判断を自分で下せる感覚ではない、という状態です。その背景にあるのが、「早く終わらせること」を優先しようとする使い方です。

AIを使って「早く終わらせること」が当たり前になるほど、考える時間まで「削減すべきコスト」と思い始めていないでしょうか。AIに任せる工程と、自分で考える工程を分けておく。画面を閉じて、要点を自分の言葉で言えるか確かめてみる。その小さな手間が、「作ったこと」と「理解したこと」のズレを小さくしてくれます。

「見れば分かる」で終わらずに、見なくても話せるところまで持っていく。AIに任せることが増えるほど、理解することが大切になります。