論文の概要: Can Neural Networks Learn by Experimenting on Themselves? Self-Interventional Learning from Functional Consequences to Predictive Self-Knowledge
- arxiv url: http://arxiv.org/abs/2608.14894v1
- Date: Fri, 14 Aug 2026 21:01:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.121753
- Title: Can Neural Networks Learn by Experimenting on Themselves? Self-Interventional Learning from Functional Consequences to Predictive Self-Knowledge
- Title（参考訳）: ニューラルネットワークはテーマの実験によって学習できるか? 機能的結果から予測的自己知識への自己干渉学習
- Abstract要約: この研究は、ニューラルネットワークが結果を観察し、予測的な自己モデルを学び、実行されていない介入に一般化し、後の構造的行動を導くために予測を使用する自己干渉学習(SIL)を導入している。
建設で知られた合成システムでは、SILは臨界構造、冗長性、置換性を取り戻したが、シナジーは確実に回収されなかった。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Machine-learning systems usually model external data, while their internal functional organization is analyzed by external observers. This work introduces Self-Interventional Learning (SIL), in which a neural system perturbs its own functional structure, observes consequences, learns a predictive self-model, generalizes to unexecuted interventions, and uses predictions to guide later structural action. In a construction-known synthetic system, SIL recovered critical structure, redundancy, and replaceability, while synergy was not reliably recovered. Across 30 fresh confirmatory seeds, increasing the pairwise intervention budget from 4 to 56 reduced held-out prediction error from 0.0335 to 0.0148 and increased Spearman correlation from 0.629 to 0.883. In a matched ablation, preserving the correct intervention--consequence mapping reduced prospective prediction error by 81.3%, while using the same learned self-model for action reduced normalized regret by 31.7% relative to ignoring it. However, model-guided action did not significantly outperform a direct empirical-memory policy, and powered CIFAR-10/ResNet validation showed no robustness advantage over equal-budget direct repair search. These results support SIL as an intervention-driven framework for learning predictive knowledge about a network's own functional organization, while showing that the self-model remains incomplete and is not universally superior to simpler direct strategies.
- Abstract（参考訳）: マシンラーニングシステムは、通常、外部データをモデル化するが、内部機能組織は外部オブザーバによって分析される。
この研究は、神経システムが自身の機能的構造を摂動させ、結果を観察し、予測的な自己モデルを学び、実行されていない介入に一般化し、後の構造的行動を導くために予測を使用する自己干渉学習(Self-Interventional Learning、SIL)を導入している。
建設で知られた合成システムでは、SILは臨界構造、冗長性、置換性を取り戻したが、シナジーは確実に回収されなかった。
30種を新たに確認し、ペア介入予算を4種から56種に増やし、保留予測誤差を0.0335種から0.0148種に減らし、スピアマン相関を0.629種から0.883種に引き上げた。
一致したアブレーションでは、正しい介入を保ち、結果のマッピングにより予測誤差を81.3%削減し、同じ学習された自己モデルを用いて正常化された後悔を31.7%削減した。
しかし,CIFAR-10/ResNetバリデーションは,モデル誘導動作が直接的メモリポリシーを著しく上回り,等予算直接修復探索よりもロバストな優位性は示さなかった。
これらの結果は、ネットワークの機能的組織に関する予測的知識を学習するための介入駆動型フレームワークとしてSILをサポートし、自己モデルが不完全であり、より単純な直接的な戦略よりも普遍的に優れていることを示す。
関連論文リスト
- Training Large Language Models for Self-Explanation Faithfulness [10.933553638236036]
本稿では,自己説明の忠実度を直接最適化する強化学習(RL)手法を提案する。
決定に影響を及ぼす要因を正確に検出するために,モデルをトレーニングできるかどうかを検討する。
モデルが暗黙的に影響要因を識別し、それを開示するように訓練できることが示される。
論文 参考訳（メタデータ） (2026-07-23T09:20:38Z) - REPAIR-Bench: A Benchmark for Robot Error Perception And Interaction Recovery [0.0]
現在ベンチは41人の参加者による214の相互作用試験に基づいて構築されている。
ベンチマークは4つの誘発された障害タイプにまたがり、同期された顔アクションユニット、ヘッドポーズ、音声書き起こし、および後アクションの影響と回復レポートを提供する。
論文 参考訳（メタデータ） (2026-06-29T08:14:27Z) - Function-Valued Causal Influence in Nonlinear Time Series [0.0]
時系列における因果発見は非線形機械学習モデルを用いてますます行われているが、結果として生じる因果関係はほとんど常にスカラーエッジスコアによって要約される。
このプラクティスは、非線型自己回帰モデル(状態依存関数)によって学習された真の対象を曖昧にしている、と我々は主張する。
我々は,加法的,寄与分解可能なアーキテクチャに対する関数値因果関係を定式化し,スカラー因果関係のスコアが深刻な情報のボトルネックとなることを示す。
論文 参考訳（メタデータ） (2026-05-26T00:34:49Z) - ImplicitMemBench: Measuring Unconscious Behavioral Adaptation in Large Language Models [60.14219417402433]
LLMエージェントの既存のメモリベンチマークは、事実の明示的なリコールを評価するが、意識的な検索なしに、経験が自動的な振る舞いになる暗黙の記憶を見落としている。
IndicitMemBenchは、非宣言的メモリの標準的な認知科学のアカウントから引き出された3つの構造を通して暗黙的メモリを評価する最初の体系的なベンチマークである。
当社の300イテムスイートでは,初動採点を備えたLearning/Priming-Interfere-Testプロトコルを統一しています。
論文 参考訳（メタデータ） (2026-04-09T10:26:32Z) - Learning a Generative Meta-Model of LLM Activations [75.30161960337892]
ネットワークの内部状態の分布を学習する"メタモデル"を作成します。
ステアリング介入前に学んだメタモデルを適用することで、損失が減少するにつれて、流速が向上する。
これらの結果は、生成的メタモデルが制限的な構造的仮定を伴わずに、解釈可能性へのスケーラブルな経路を提供することを示唆している。
論文 参考訳（メタデータ） (2026-02-06T18:59:56Z) - ReBeCA: Unveiling Interpretable Behavior Hierarchy behind the Iterative Self-Reflection of Language Models with Causal Analysis [35.12196884025294]
textbftexttReflection textbftexttBehavior, textbftexttBehavior は自己回帰結果の解釈可能な行動階層を明らかにするフレームワークである。
自己回帰軌道を因果グラフとしてモデル化することにより、ReBeCAは真の性能決定因子を分離する。
論文 参考訳（メタデータ） (2026-02-06T04:00:57Z) - Towards a Science of Scaling Agent Systems [79.64446272302287]
エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。
協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。
ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
論文 参考訳（メタデータ） (2025-12-09T06:52:21Z) - NeuronTune: Towards Self-Guided Spurious Bias Mitigation [26.544938760265136]
ディープニューラルネットワークは、しばしば急激な偏見、非本質的な特徴と予測のためのクラスの間の相関に依存する。
既存の緩和アプローチは典型的には、緩やかな相関の外部アノテーションに依存している。
本稿では,モデルの内部決定プロセスに直接介入するポストホック法であるNeuronTuneを提案する。
論文 参考訳（メタデータ） (2025-05-29T22:33:00Z) - Federated Learning with Unreliable Clients: Performance Analysis and
Mechanism Design [76.29738151117583]
Federated Learning(FL)は、分散クライアント間で効果的な機械学習モデルをトレーニングするための有望なツールとなっている。
しかし、低品質のモデルは信頼性の低いクライアントによってアグリゲータサーバにアップロードすることができ、劣化やトレーニングの崩壊につながる。
クライアントの信頼できない振る舞いをモデル化し、このようなセキュリティリスクを軽減するための防御メカニズムを提案する。
論文 参考訳（メタデータ） (2021-05-10T08:02:27Z) - Gradient Starvation: A Learning Proclivity in Neural Networks [97.02382916372594]
グラディエント・スターベーションは、タスクに関連する機能のサブセットのみをキャプチャすることで、クロスエントロピー損失を最小化するときに発生する。
この研究は、ニューラルネットワークにおけるそのような特徴不均衡の出現に関する理論的説明を提供する。
論文 参考訳（メタデータ） (2020-11-18T18:52:08Z) - Vulnerability Under Adversarial Machine Learning: Bias or Variance? [77.30759061082085]
本研究では,機械学習が訓練された深層ニューラルネットワークのバイアスと分散に与える影響について検討する。
我々の分析は、ディープニューラルネットワークが対向的摂動下で性能が劣っている理由に光を当てている。
本稿では,計算処理の複雑さをよく知られた機械学習手法よりも低く抑えた,新しい逆機械学習アルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-08-01T00:58:54Z) - Learning Causal Models Online [103.87959747047158]
予測モデルは、予測を行うためにデータの急激な相関に依存することができる。
強い一般化を達成するための一つの解決策は、モデルに因果構造を組み込むことである。
本稿では,突発的特徴を継続的に検出・除去するオンラインアルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-06-12T20:49:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。