論文の概要: On the Structural Limitations of Weight-Based Neural Adaptation and the Role of Reversible Behavioral Learning

• arxiv url: http://arxiv.org/abs/2603.02934v1
• Date: Tue, 03 Mar 2026 12:44:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-04 21:38:10.79103
• Title: On the Structural Limitations of Weight-Based Neural Adaptation and the Role of Reversible Behavioral Learning
• Title（参考訳）: 重みに基づくニューラル適応の構造限界と可逆的行動学習の役割について
• Authors: Pardhu Sri Rushi Varma Konduru,
• Abstract要約: パラメータが直接変更されると、結果のモデルが元のモデルと異なる振る舞いをすることを示す。 この発散は明示的なパラメータスナップショットなしで決定的に逆転することはできない。 本稿では,モデル行動が識別パラメータから構造的に分離される可逆的行動学習を紹介する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural models are usually adapted through changes in parameters shared among model components via fine-tuning, alignment-based training, and reinforcement learning. These changes have been found effective in short-term optimization. However, they result in long-term alterations in the model's base behavior. In this study, we introduce the concept of structural irreversibility as a characteristic of shared-parameter model adaptation. This concept refers to the intertwining of task-specific objectives with the representational identity of the model. We show that when parameters are directly mutated, the resulting model behaves divergently from the original model. This divergence cannot be reversed deterministically without an explicit parameter snapshot. We introduce reversible behavioral learning, in which model behaviors are structurally dissociated from identity parameters and can be deterministically unloaded through an explicit unload process. We also introduce the Recoverability Factor as a normalized measure of behavioral recoverability and provide additional diagnostics based on model divergence. Experiments show that reversible model adaptation achieves rollback within numerical precision, whereas shared-parameter mutation exhibits persistent post-reset divergence.
• Abstract（参考訳）: ニューラルネットワークは通常、微調整、アライメントベースのトレーニング、強化学習を通じてモデルコンポーネント間で共有されるパラメータの変化によって適応される。 これらの変化は短期的な最適化に有効であることが判明した。 しかし、それらはモデルの基本動作の長期的変化をもたらす。 本研究では,共有パラメータモデル適応の特質として,構造的不可逆性の概念を導入する。 この概念は、タスク固有の目的とモデルの表現的アイデンティティを相互に関連付けることを指す。 パラメータが直接変更されると、結果のモデルが元のモデルと異なる振る舞いをすることを示す。 この発散は明示的なパラメータスナップショットなしで決定的に逆転することはできない。 本稿では,モデルの振る舞いを識別パラメータから構造的に分離し,明示的なアンロードプロセスを通じて決定的にアンロードできる可逆的行動学習を導入する。 また,行動回復率の正規化尺度としてRecoverability Factorを導入し,モデル分岐に基づく診断を行った。 実験により、可逆的なモデル適応は数値的な精度でロールバックし、共有パラメータ変異は持続的なリセット後の分岐を示すことが示された。

関連論文リスト

• Pre-Trained AI Model Assisted Online Decision-Making under Missing Covariates: A Theoretical Perspective [12.160708336715489]
  「モデル弾力性」は、モデル計算による後悔を特徴付ける統一的な方法である。 ランダム(MAR)環境下では,事前学習したモデルの逐次校正が可能であることを示す。 本分析では、逐次意思決定タスクにおいて、正確な事前学習モデルを持つことの実用的価値を強調した。
  論文  参考訳（メタデータ） (2025-07-10T15:33:27Z)
• Consistency of Neural Causal Partial Identification [17.503562318576414]
  因果モデル(Causal Models)の最近の進歩は、因果効果の同定と部分的同定が神経生成モデルによって自動的に行われるかを示した。 連続変数とカテゴリー変数の両方を持つ一般設定において、NCMによる部分的識別の整合性を証明する。 結果は、深さと接続性の観点から、基盤となるニューラルネットワークアーキテクチャの設計の影響を強調している。
  論文  参考訳（メタデータ） (2024-05-24T16:12:39Z)
• Scaling and renormalization in high-dimensional regression [72.59731158970894]
  リッジ回帰に関する最近の結果について統一的な視点を提示する。 我々は、物理とディープラーニングの背景を持つ読者を対象に、ランダム行列理論と自由確率の基本的なツールを使用する。 我々の結果は拡張され、初期のスケーリング法則のモデルについて統一的な視点を提供する。
  論文  参考訳（メタデータ） (2024-05-01T15:59:00Z)
• Score-based Causal Representation Learning with Interventions [54.735484409244386]
  本稿では,潜在因果変数を間接的に観察する際の因果表現学習問題について検討する。 目的は、 (i) 未知の線形変換(スケーリングまで)を回復し、 (ii) 潜在変数の下の有向非巡回グラフ(DAG)を決定することである。
  論文  参考訳（メタデータ） (2023-01-19T18:39:48Z)
• On the Generalization and Adaption Performance of Causal Models [99.64022680811281]
  異なる因果発見は、データ生成プロセスを一連のモジュールに分解するために提案されている。 このようなモジュラニューラル因果モデルの一般化と適応性能について検討する。 我々の分析では、モジュラーニューラル因果モデルが、低データレギュレーションにおけるゼロおよび少数ショットの適応において、他のモデルよりも優れていることを示している。
  論文  参考訳（メタデータ） (2022-06-09T17:12:32Z)
• Modeling Implicit Bias with Fuzzy Cognitive Maps [0.0]
  本稿では、構造化データセットにおける暗黙バイアスを定量化するファジィ認知マップモデルを提案する。 本稿では,ニューロンの飽和を防止する正規化様伝達関数を備えた新しい推論機構を提案する。
  論文  参考訳（メタデータ） (2021-12-23T17:04:12Z)
• Towards Robust and Adaptive Motion Forecasting: A Causal Representation Perspective [72.55093886515824]
  本稿では,3つの潜伏変数群からなる動的過程として,運動予測の因果的形式化を導入する。 我々は、因果グラフを近似するために、不変なメカニズムやスタイルの共創者の表現を分解するモジュラーアーキテクチャを考案する。 合成および実データを用いた実験結果から,提案した3つの成分は,学習した動き表現の頑健性と再利用性を大幅に向上することが示された。
  論文  参考訳（メタデータ） (2021-11-29T18:59:09Z)
• Estimation of Bivariate Structural Causal Models by Variational Gaussian Process Regression Under Likelihoods Parametrised by Normalising Flows [74.85071867225533]
  因果機構は構造因果モデルによって記述できる。 最先端の人工知能の大きな欠点の1つは、説明責任の欠如である。
  論文  参考訳（メタデータ） (2021-09-06T14:52:58Z)
• Structural Causal Models Are (Solvable by) Credal Networks [70.45873402967297]
  因果推論は、干潟網の更新のための標準的なアルゴリズムによって得ることができる。 この貢献は, 干潟ネットワークによる構造因果モデルを表現するための体系的なアプローチと見なされるべきである。 実験により, 実規模問題における因果推論には, クレーダルネットワークの近似アルゴリズムがすぐに利用できることがわかった。
  論文  参考訳（メタデータ） (2020-08-02T11:19:36Z)
• Assumption-lean inference for generalised linear model parameters [0.0]
  主効果推定と効果修正推定の非パラメトリックな定義を提案する。 これらのモデルが正しく指定されたとき、一般化された線形モデルにおける標準の主効果と効果の修正パラメータに還元される。 これらの推定値に対する仮定リーン推論を実現する。
  論文  参考訳（メタデータ） (2020-06-15T13:49:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。