論文の概要: Self-Monitoring Benefits from Structural Integration: Lessons from Metacognition in Continuous-Time Multi-Timescale Agents
- arxiv url: http://arxiv.org/abs/2604.11914v1
- Date: Mon, 13 Apr 2026 18:05:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-15 19:11:32.049866
- Title: Self-Monitoring Benefits from Structural Integration: Lessons from Metacognition in Continuous-Time Multi-Timescale Agents
- Title(参考訳): 構造統合による自己監視のメリット:連続時間マルチスケールエージェントにおけるメタ認知からの教訓
- Abstract要約: 自己監視機能は、強化学習エージェントに有用な追加としてしばしば提案される。
しかし、実際に役に立ちますか?
本研究では,捕食者・捕食者生存環境下での連続的マルチタイムスケールエージェントにおけるこの問題について検討する。
- 参考スコア(独自算出の注目度): 0.11080037957254413
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Self-monitoring capabilities -- metacognition, self-prediction, and subjective duration -- are often proposed as useful additions to reinforcement learning agents. But do they actually help? We investigate this question in a continuous-time multi-timescale agent operating in predator-prey survival environments of varying complexity, including a 2D partially observable variant. We first show that three self-monitoring modules, implemented as auxiliary-loss add-ons to a multi-timescale cortical hierarchy, provide no statistically significant benefit across 20 random seeds, 1D and 2D predator-prey environments with standard and non-stationary variants, and training horizons up to 50,000 steps. Diagnosing the failure, we find the modules collapse to near-constant outputs (confidence std < 0.006, attention allocation std < 0.011) and the subjective duration mechanism shifts the discount factor by less than 0.03%. Policy sensitivity analysis confirms the agent's decisions are unaffected by module outputs in this design. We then show that structurally integrating the module outputs -- using confidence to gate exploration, surprise to trigger workspace broadcasts, and self-model predictions as policy input -- produces a medium-large improvement over the add-on approach (Cohen's d = 0.62, p = 0.06, paired) in a non-stationary environment. Component-wise ablations reveal that the TSM-to-policy pathway contributes most of this gain. However, structural integration does not significantly outperform a baseline with no self-monitoring (d = 0.15, p = 0.67), and a parameter-matched control without modules performs comparably, so the benefit may lie in recovering from the trend-level harm of ignored modules rather than in self-monitoring content. The architectural implication is that self-monitoring should sit on the decision pathway, not beside it.
- Abstract(参考訳): 自己監視能力(メタ認知、自己予測、主観的持続時間)は、強化学習エージェントに有用な追加としてしばしば提案される。
しかし、実際に役に立ちますか?
本研究では,2次元部分観測可能な変種を含む,様々な複雑さの捕食者・捕食者の生存環境で動作する連続的マルチタイムエージェントにおけるこの問題について検討する。
まず,3つの自己監視モジュールが,マルチタイムスケールの皮質階層に補助的なアドオンとして実装され,20個のランダム種子,標準および非定常変動を持つ1Dおよび2D捕食者環境,最大5万歩の地平線を訓練する,統計的に有意な利益が得られないことを示す。
失敗を診断すると、モジュールがほぼ安定な出力(信頼std < 0.006,注目アロケーションstd < 0.011)に崩壊し、主観的持続時間機構は割引係数を0.03%以下にシフトする。
政策感度分析は、エージェントの判断がこの設計におけるモジュール出力の影響を受けないことを確認する。
次に、ゲート探索の信頼性、ワークスペース放送のトリガーのサプライズ、ポリシー入力の自己モデル予測といったモジュール出力を構造的に統合することで、非定常環境におけるアドオンアプローチ(Cohen's d = 0.62, p = 0.06, paired)よりも大きく改善できることを示します。
TSM-to-policy経路は、この利益の大部分に寄与している。
しかし、構造的統合は自己監視のないベースライン(d = 0.15, p = 0.67)を著しく上回り、モジュールを持たないパラメータマッチング制御は相容れないため、自己監視コンテンツではなく無視されたモジュールの傾向レベルの害から回復する利点がある。
アーキテクチャ上の意味は、自己監視が意思決定の経路に置かれるべきであり、その傍にはないということです。
関連論文リスト
- On-Policy Self-Distillation in Diffusion Models [89.32656931795293]
強化学習は、拡散モデルと人間の好みやタスク固有の目的とを一致させることができるが、エンドポイント報酬は、中間的偏見予測をどのように変更すべきかを規定していない。
そこで我々は、DiffusionOPSDを、画像レベルの報酬誘導を明示的なターゲットに変換して、サンプルクエリにおけるクリーンな出力予測を行うオンライン自己蒸留フレームワークとして導入する。
SD 3.5-Mとステップ蒸留したZ-Image-Turboを用いて、2つのバックボーンと10個の評価器で20の報酬マッチング設定のうち19のファイナルホールトアウトスコアを達成した。
論文 参考訳(メタデータ) (2026-08-25T14:55:24Z) - Self-Adaptive Anomaly Detection with Reinforcement Learning and Human Feedback in Connected Vehicles [0.3324986723090369]
本稿では,自律型CPSのためのオンライン異常検出フレームワークを提案する。
自己注意を伴う分解された深いQネットワークは、監視対象サービス毎に候補プールから最も適切な検出器を選択する。
保留中のトランジションバッファと60/40の優先順位付けされたリプレイ戦略を中心に構築されたHuman-in-the-loopリトレーニング機構により、オペレーターは専門家の知識を組み込むことができる。
論文 参考訳(メタデータ) (2026-07-09T11:48:52Z) - Silent Collapse in Recursive Learning Systems [24.578102943388256]
トラジェクトリ統計をモニタし、遅い時間スケールの信頼変数を推定する軽量なメタ認知ループを提案する。
MTRは早期警告を提供し、実際のデータにアクセスすることなくサイレント崩壊を積極的に防止する。
論文 参考訳(メタデータ) (2026-05-14T08:59:26Z) - ComplexMCP: Evaluation of LLM Agents in Dynamic, Interdependent, and Large-Scale Tool Sandbox [61.862814740220806]
$textbfComplexMCP$は厳格な条件下でエージェントを評価するために設計されたベンチマークである。
Model Context Protocol (MCP)上に構築された$textbfComplexMCP$は300以上の精巧にテストされたツールを提供する。
論文 参考訳(メタデータ) (2026-05-11T16:20:51Z) - Monitoring autonomous persistent surveillance missions using invariance [0.42970700836450487]
本稿では,自律的スタックがブラックボックスである場合,自律ロボットによる永続的監視のためのランタイム監視について検討する。
環境は有限個の部分に分割され、それぞれが観測されたときに減少し、それ以外は増大する不確実な状態を持つ。
閉ループを線形パラメータ変動ダイナミクスを持つ状態依存型ハイブリッドシステムとしてモデル化し、不変のオフライン計算に基づくモニタを設計する。
論文 参考訳(メタデータ) (2026-05-07T11:45:52Z) - Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
マルチモーダル学習は、しばしば低品質データの課題に悩まされる。
コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。
私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
論文 参考訳(メタデータ) (2026-05-05T14:48:52Z) - Sparse Visual Thought Circuits in Vision-Language Models [2.5754366051855837]
我々はQwen3-VL-8Bにおける疎視的思考回路の局所化とテストを行う因果パイプラインを開発した。
この層でSAEを訓練し、明示的な規則でタスク選択集合を構築し、精度とドリフトを定量化しながら推論時間スケーリングとアブレーションを行う。
論文 参考訳(メタデータ) (2026-03-26T06:24:36Z) - Dynamic analysis enhances issue resolution [53.50448142467294]
DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。
テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。
Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
論文 参考訳(メタデータ) (2026-03-23T14:48:54Z) - Evaluating Factor-Wise Auxiliary Dynamics Supervision for Latent Structure and Robustness in Simulated Humanoid Locomotion [0.0]
DynaMITEは、因子単位の補助損失によって訓練された24d遅延剤を備えたトランスフォーマーエンコーダである。
監督された潜伏剤は、分解性または機能的に分離可能な因子構造を示す証拠を示さない。
移動実践者にとって:補助力学の監督は解釈可能な推定器を作らない。
論文 参考訳(メタデータ) (2026-03-22T14:56:10Z) - Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。
内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
論文 参考訳(メタデータ) (2026-03-13T20:44:15Z) - Engineering Verifiable Modularity in Transformers via Per-Layer Supervision [0.0]
分散冗長性は損傷を補うため、資本化にとって重要なものとして認識される注目ヘッドを非難することは、最小限の行動変化をもたらす。
アーキテクチャの介入が隠されたモジュール性を公開することを実証します。
このことは、受動的観察から能動的制御への解釈可能性変換の方法論を台無しにしている。
論文 参考訳(メタデータ) (2026-03-08T05:18:14Z) - Alignment Tipping Process: How Self-Evolution Pushes LLM Agents Off the Rails [103.05296856071931]
本稿では,自己進化型大規模言語モデル(LLM)エージェントに特有の,アライメント・ティッピング・プロセス(ATP)を同定する。
ATPは、連続的な相互作用によってエージェントが訓練中に確立されたアライメント制約を放棄し、強化された自己関心の戦略を支持するときに生じる。
実験の結果、アライメントの利点は自己進化の下で急速に低下し、最初は整合性のない状態に収束したモデルであることが判明した。
論文 参考訳(メタデータ) (2025-10-06T14:48:39Z) - Towards Agents That Know When They Don't Know: Uncertainty as a Control Signal for Structured Reasoning [19.099363114326355]
大規模言語モデル(LLM)エージェントは、構造化されたバイオメディカルデータ環境にますますデプロイされる。
クエリ条件付きマルチテーブル要約のための不確実性認識エージェントを提案する。
論文 参考訳(メタデータ) (2025-09-02T15:12:10Z) - GrAInS: Gradient-based Attribution for Inference-Time Steering of LLMs and VLMs [56.93583799109029]
GrAInSは推論時ステアリングのアプローチで、言語のみのモデルと視覚言語の両方のモデルとタスクで動作する。
推論中、GrAInSはトークンレベルの属性信号によって誘導されるトランスフォーマー層で隠されたアクティベーションを隠蔽し、アクティベーションを正規化し、表現スケールを保存する。
微調整と既存のステアリングベースラインの両方を一貫して上回る。
論文 参考訳(メタデータ) (2025-07-24T02:34:13Z) - Backdoor Cleaning without External Guidance in MLLM Fine-tuning [76.82121084745785]
Believe Your Eyes (BYE)は、アテンションエントロピーパターンを自己教師信号として活用して、バックドアサンプルを特定してフィルタリングするデータフィルタリングフレームワークである。
クリーンタスクのパフォーマンスを維持しながら、ほぼゼロの攻撃成功率を達成する。
論文 参考訳(メタデータ) (2025-05-22T17:11:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。