Fugu-MT 論文翻訳(概要): Decomposing and Steering Functional Metacognition in Large Language Models

論文の概要: Decomposing and Steering Functional Metacognition in Large Language Models

arxiv url: http://arxiv.org/abs/2605.08942v1
Date: Sat, 09 May 2026 13:22:47 GMT
ステータス: 翻訳完了
システム内更新日: 2026-05-12 23:28:49.982015
Title: Decomposing and Steering Functional Metacognition in Large Language Models
Title（参考訳）: 大規模言語モデルにおける機能メタ認知の分解とステアリング
Abstract要約: 大規模言語モデルは機能的メタ認知状態の分解可能な空間を維持していることを示す。これらの状態は、内部の活性化から線形に退避可能であり、異なる層回りのプロファイルを示す。この結果から,ベンチマーク性能はタスク能力だけでなく,特定の機能的メタ認知状態の活性化を反映していることが示唆された。
参考スコア（独自算出の注目度）: 7.62618887128252
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Large language models (LLMs) increasingly exhibit behaviors suggesting awareness of their evaluation context, often adapting their reasoning strategies in benchmark settings. Prior work has shown that such evaluation awareness can distort performance measurements; however, it remains unclear whether this phenomenon reflects a single behavioral artifact or a deeper internal structure within the model. We propose that LLMs maintain a decomposable space of functional metacognitive states: internal variables encoding factors such as evaluation awareness, self-assessed capability, perceived risk, computational effort allocation, audience expertise adaptation, and intentionality. Through residual stream analysis across multiple reasoning models, we demonstrate that these states are linearly decodable from internal activations and exhibit distinct layer-wise profiles. Moreover, by steering model activations along probe-derived directions, we show that each functional metacognitive state causally modulates reasoning behavior in dissociable ways, affecting verbosity, accuracy, and safety-related responses across tasks. Our findings suggest that benchmark performance reflects not only task competence but also the activation of specific functional metacognitive states. We argue that understandi ng and controlling these internal states is essential for reliable evaluation and deployment of reasoning models, and we provide a mechanistic framework for studying functional m etacognition in artificial systems. Our code and data are publicly available at https://github.com/xlands/meta-cognition.
Abstract（参考訳）: 大規模言語モデル(LLM)は、評価コンテキストの認識を示唆する振る舞いを徐々に示しており、しばしばベンチマーク設定における推論戦略に適応している。これまでの研究では、そのような評価意識がパフォーマンス測定を歪ませる可能性があることが示されているが、この現象が単一の行動アーチファクトを反映しているか、モデル内のより深い内部構造を反映しているのかは不明だ。評価意識,自己評価能力,認識リスク,計算作業割り当て,オーディエンスの専門家適応,意図といった要素をコードする内部変数について,LLMは機能的メタ認知状態の分解可能な空間を維持していることを示す。複数の推論モデルにまたがる残差ストリーム解析により、これらの状態が内部の活性化から線形に退化可能であることを示し、異なる層回りのプロファイルを示す。さらに,各機能的メタ認知状態は,探索方向に沿ったモデルアクティベーションを操ることで,各機能的メタ認知状態が解離可能な方法で推論動作を因果的に調節し,タスク間の冗長性,正確性,安全性に関連する応答に影響を与えることを示す。この結果から,ベンチマーク性能はタスク能力だけでなく,特定の機能的メタ認知状態の活性化を反映していることが示唆された。我々は,これらの内部状態の理解と制御が推論モデルの信頼性評価と展開に不可欠であると主張し,人工システムにおける機能m認識を研究するための機械的枠組みを提供する。私たちのコードとデータはhttps://github.com/xlands/meta-cognition.comで公開されています。

関連論文リスト

Reinforcement Learning with Metacognitive Feedback Elicits Faithful Uncertainty Expression in LLMs [60.80435138270317]
本稿では,メタ認知的フィードバックによる強化学習を忠実な校正問題に適用する。実験により、RLMFは様々なタスクにおいて汎用的で最先端のFCを実現することが示された。 RLMFは標準のRLを最大63%上回り、モデルの性能限界を評価し表現する能力を高めている。
論文参考訳（メタデータ） (2026-06-30T17:56:01Z)
From Holistic Evaluation to Structured Criteria: Rubrics Across the Evolving LLM Landscape [79.30826980815927]
ルーブリックは、複雑な品質判断を構造化され、実行可能な標準に変換する明示的な基準セットです。我々は,既存のルーリックデザインを体系的に整理し,その構築と最適化を検証し,評価と訓練をまたいだ役割を解析する。
論文参考訳（メタデータ） (2026-06-07T13:34:55Z)
Causal Evidence that Language Models use Confidence to Drive Behavior [14.623731647136403]
内部信頼度推定は適応行動のキーシグナルとして機能する。モデルがこれらの信号を積極的に利用して行動を制御するかを検討する。我々は、内部信頼表現としきい値に基づく政策の協調操作から、棄権が生じることを見出した。
論文参考訳（メタデータ） (2026-03-23T16:23:31Z)
Beyond Words: Evaluating and Bridging Epistemic Divergence in User-Agent Interaction via Theory of Mind [8.740788873949471]
大規模言語モデル(LLM)は急速に発展し、汎用タスクと専門タスクの両方に広く応用されている。意図や指示が不正確に伝達されるとき、彼らは依然として、真のユーザニーズを理解し、応答するのに苦労しています。
論文参考訳（メタデータ） (2026-02-14T16:01:59Z)
From Passive Metric to Active Signal: The Evolving Role of Uncertainty Quantification in Large Language Models [77.04403907729738]
このサーベイは、受動的診断基準からリアルタイムモデル動作を導くアクティブ制御信号への不確実性の進化をグラフ化する。 3つのフロンティアにまたがるアクティブ制御信号として不確実性がいかに活用されているかを示す。この調査は、次世代のスケーラブルで信頼性があり、信頼できるAIを構築するためには、新しい不確実性のトレンドを習得することが不可欠である、と論じている。
論文参考訳（メタデータ） (2026-01-22T06:21:31Z)
Investigating The Functional Roles of Attention Heads in Vision Language Models: Evidence for Reasoning Modules [76.21320451720764]
複雑なマルチモーダル質問をステップバイステップのサブクエストに分解するデータセットであるCogVisionを紹介した。探索に基づく手法を用いて,これらの機能に特化して機能的頭部として特徴付けるアテンションヘッドを同定する。分析の結果、これらの機能ヘッドは普遍的に疎結合であり、機能間の数や分布が異なり、相互作用や階層的な組織を仲介することがわかった。
論文参考訳（メタデータ） (2025-12-11T05:42:53Z)
Cognitive Mirrors: Exploring the Diverse Functional Roles of Attention Heads in LLM Reasoning [54.12174882424842]
大規模言語モデル(LLM)は、様々なタスクにおいて最先端のパフォーマンスを達成したが、内部メカニズムに関してはほとんど不透明である。本稿では,注目者の役割と行動を体系的に分析する新しい解釈可能性フレームワークを提案する。
論文参考訳（メタデータ） (2025-12-03T10:24:34Z)
Language Models Are Capable of Metacognitive Monitoring and Control of Their Internal Activations [2.759846687681801]
大規模言語モデル(LLM)は、タスクの解決に実際に使用している戦略を報告することができるが、その振る舞いを管理する戦略を認識できない場合もある。これはメタ認知(メタ認知)の程度が限定されていることを示唆している。我々は,LLMのメタ認知能力の定量化と,その活性化パターンの報告と制御に,文脈内学習を用いた神経科学に着想を得た神経フィードバックパラダイムを導入する。
論文参考訳（メタデータ） (2025-05-19T22:32:25Z)
Reflection-Bench: Evaluating Epistemic Agency in Large Language Models [10.801745760525838]
疫学エージェンシーは動的環境に関する信念を柔軟に構築し、適応し、監視する能力である。リフレクション・ベンチ(Reflection-Bench)は,データ漏洩の長期的関連性と最小化を伴う7つのタスクからなるベンチマークである。本研究は, コア認知機能の向上, クロスファンクショナルコーディネートの改善, 適応処理機構の開発など, 有望な研究の方向性を示唆する。
論文参考訳（メタデータ） (2024-10-21T17:59:50Z)
Calibrating Reasoning in Language Models with Internal Consistency [18.24350001344488]
大規模言語モデル(LLM)は、様々な推論タスクにおいて印象的な機能を示している。 LLMは、しばしば明らかな誤りと矛盾のあるテキストを生成する。本研究では,LLMにおける内部表現のレンズによる推論について検討する。
論文参考訳（メタデータ） (2024-05-29T02:44:12Z)
Evaluating Interventional Reasoning Capabilities of Large Language Models [58.52919374786108]
大規模言語モデル(LLM)は意思決定タスクを自動化するために使用される。本稿では,LPMが介入に応じてデータ生成プロセスの知識を正確に更新できるかどうかを評価する。さまざまな因果グラフ(例えば、コンバウンディング、仲介)と変数タイプにまたがるベンチマークを作成します。これらのベンチマークにより、LLMが事実を記憶したり、他のショートカットを見つけたりすることで、変化を正確に予測する能力を切り離すことができます。
論文参考訳（メタデータ） (2024-04-08T14:15:56Z)
MR-GSM8K: A Meta-Reasoning Benchmark for Large Language Model Evaluation [60.65820977963331]
大規模言語モデル(LLM)のための新しい評価パラダイムを導入する。このパラダイムは、しばしば推論プロセスを無視する結果指向の評価から、より包括的な評価へと重点を移す。 GSM8Kデータセットにこのパラダイムを適用し,MR-GSM8Kベンチマークを開発した。
論文参考訳（メタデータ） (2023-12-28T15:49:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。