すべての人に一次情報を
本論文の中心的発見は次の点です。言語モデルの与えられた文脈や学習済み重み(LLM weights)だけでは、発話形成の基盤となる「意図的に構築された体系的表象(systemic representations)」の存在を検証・証明することができない、と著者は主張します。体系的表象とは、活動世界の仕組みやスキーマ(システムやサブシステムの模式、プロセスや構造、連結など)を指します(F1)。
著者は、この問題に対して言語ベースの強いASI(超知能)を扱うための5層の内容組織を提案します。5層は次の通りです。 (1) 活動世界の意図的に構築された体系的表象。 (2) その表象から切り出された状況(スキーマモデル)。 (3) 状況の意味や物語的記述(語義的/ナラティブ記述)。 (4) 特定のメッセージの「完全な意味」(full sense)。 (5) テキスト(言語的実現)。ここで「完全な意味」は、あるメッセージに必要な条件や否定、未確定項目などを含む表現であり、テキストとは別に検査する必要がある、と著者は述べます(F2、F13)。
理解の過程は逆方向でも行われるとされます。受け手はまずメッセージの完全な意味を再構築し、それを拡張記述や状況のスキーマモデルへと遡っていき、最終的に体系的表象の再構成を試みます。著者はこの「逆の作業(reverse work)」を体系の中核と位置づけています(F3)。この枠組みは、G. P. Shchedrovitskiyのシステム手法、A. Korzybskiの構造的微分、I. A. Mel’čukの意味—テキスト理論といった理論的基盤に基づくと説明されています(F4)。
具体的な観察結果も示されます。例として、短篇生成実験(“Elias in the Lighthouse, Again?”)では、4つの言語モデルが生成した20,000編の物語のうち88.3%に、11個の持続的に反復する語(人名・職業・設定を示す語)が少なくとも1つ含まれていました。一方、微調整データ(OLMo)中でそのような語を含む物語の割合は約3.8%にすぎませんでした。この差は、モデル出力における繰り返し語の偏りや出力源の不透明さを示唆します(F7)。
別の比較実験では、与えられたトポロジー(位相構造)を明示的にモデルに示した場合、モデルはそれを文脈から推論させる場合よりもかなり高い精度を示しました。これは、「素材(情報)の存在」と「その内部表現」および「機能的利用」を区別する必要性を支持します(F8)。また、従来の自然言語生成(NLG)工学にも、文書計画・マイクロプランニング・表層実現といった「内容の組織」と「言語的実現」の分離の先行例があります(F9)。
意義と制約について述べます。著者は、本研究でのASIの定義を、単にテキスト生成やコード変更ができることではなく、「活動の体系的組織を再構築できるモデル」(システムとサブシステムのスキーマ、プロセスと構造、同期した時間軸と連結、行為の基盤となるオントロジー像)としています。つまり、内部表象を実際に構築して使えることが重要だと指摘します(F5)。
同時に複数の制約が示されています。まず、GPT系の事前学習が行う「次トークン予測」は、発話の確率的な選択を説明する一方で、意図された意味の許容性や保存を自動的に保証するものではないとされています。従って、トークン予測から意味の正確な言語化へ移る際には、確率以外の内容検査が必要です(F6)。また、パラメトリック(学習済み重み)と文脈知識の絡み合いにより、応答の情報源が不透明になるという研究も引用されます。この不透明さは、応答を各ソースから別々に生成する提案が出される理由の一つです(F10)。
さらに、学習済み重みや利用可能コーパスの存在だけでは、意図的に構築された体系的表象が獲得されていることを示さない、と著者は繰り返します。体系的表象の存在を確認するには、モデルがプロセス・構造・連結を区別し、それらを使って状況を切り出しメッセージを形成・理解しているかを評価が必要である(F11)。
最後に重要な注意点です。限られたメッセージからの再構築は、元の状況の全詳細を再現することを意味しません。再構築は理解に不可欠な連結に関わるものであり、メッセージに表されていない、あるいは共同作業で確認されていない連結は不明のままとすべきで、事実として補完してはならないと著者は警告します(F12)。また、テキストは短縮が許される場面がある一方で、新たな主張や連結の変更を導入してはならないとされています(F13)。