State of Thought Enables Endogenous Reasoning
Abstractの概要
本論文では、LLMの内部推論状態に基づいて過去のどの証拠を活性化したままにするかや、いつ推論を停止すべきかを制御するテスト時推論フレームワークである「State of Thought (SoT)」を提案しています。外部から規定された推論形式や多数の軌跡に対する広範な探索に依存するのではなく、SoTはコンパクトな4次元のダイナミクス・幾何学的状態を読み取り、凍結されたバックボーンモデル上でわずか582パラメータの軽量コントローラを使用します。本手法は、定量的推論、一般的理解、記号/コード推論、長文脈推論にまたがる16のデータセットにおいて3つのLLMで評価され、さらに3つの推論タスクにおいて2つの規模のVision-Language Model (VLM) にも適用されました。報告された結果は、推論を「状態に応じた証拠の構造化」として位置づけ、精度と推論効率の双方の向上を目指しています。
新規性
特筆すべき新規性は、外部から課された推論プログラムや探索ポリシーから、証拠の選択と推論停止を状態に応じて自律的（内生的）に制御する方針へと転換した点にあります。このアプローチは凍結されたバックボーンモデル上に582パラメータのコンパクトなコントローラを配置することで実装され、不透明な潜在連鎖を介さずテキスト上の証拠を明示的に活性化することで解釈可能性を維持しています。
成果
16のデータセットにおけるLLMの評価全体において、SoTはベースライン平均と比較して精度を一貫して向上させつつ、生成トークン数を62.6%、エンドツーエンドの遅延を44.6%削減しました。Llama-3.1-8Bでは、4つの推論ドメインすべてでドメインレベルの最高平均を達成し、16データセット中13データセットで単独またはタイで最高の結果を記録しました。2つのモデル規模と3つのタスクにわたるVLMへの適用では、平均精度87.5%を達成し、探索ベースのベースラインと比較して完了トークン数を74.9%、遅延を73.5%削減しました。
論文の注目点
- SoTは、外部スクリプトや大規模な探索予算に依存する代わりに、コンパクトな4次元の内生的推論状態を用いてスパースな証拠の活性化と推論の停止を制御する。
- 本手法はベースとなるバックボーンモデルを凍結したまま582パラメータのコントローラを追加する構成であり、アブレーション検証によって証拠の整理と停止がそれぞれ異なる失敗モードに対処していることが確認されている。
- LLMおよびVLMにわたる実証評価により精度と効率の双方が同時に向上することが実証され、拡張実験では学習不要な設定、埋め込みのみの設定、ブラックボックスな軌跡判定設定における有効性も示されている。