論文の概要: When the Same Musical Knowledge Forgets Differently: A Clean Probe of Pathway-Dependent Forgetting

• arxiv url: http://arxiv.org/abs/2606.15088v2
• Date: Wed, 17 Jun 2026 09:45:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-18 13:57:35.116076
• Title: When the Same Musical Knowledge Forgets Differently: A Clean Probe of Pathway-Dependent Forgetting
• Title（参考訳）: 音楽の知識が違うことを忘れた時--道に依存した思考の清潔な探究
• Authors: Yu Liu, Zhiwei Yang, Wenxiao Zhang, Cong Cao, Fangfang Yuan, Kun Peng, Haimei Qin, Lei Jiang, Jin B. Hong, Hao Peng, Yanbing Liu,
• Abstract要約: モデルは、ピアノ作品のFr Eliseが、音声を聴いたり、文章を読んだりすることで、冷静で反射的であることを学習することができるが、後に忘れられるリスクがあるときに、その知識がどの経路にかかったかは重要か? マルチモーダルモデルにおける研究は、どのような知識が適応の下で失われるかを測定するが、その知識がどれだけ容易に忘れられるかは、買収経路が問わない。 音楽理解は、音楽クリップと標準テキスト記述が同一の知覚内容に整列できるためクリーンなテストが可能であり、ターゲットが固定されている間、聴取や読取を通じて同一の知識ユニットがモデルに入ることができる。
• 参考スコア（独自算出の注目度）: 21.826458949575354
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A model can learn that the piano piece Für Elise is calm and reflective by listening to the audio or by reading a text description, but does it matter which route that knowledge took when it is later at risk of being forgotten? Forgetting research in multimodal models measures what knowledge is lost under adaptation, yet has not asked whether acquisition route affects how easily that knowledge is forgotten. We call this untested premise the Pathway-Invariant Assumption. Music understanding enables a clean test because a music clip and a canonical text description can be aligned to the same perceptual content, allowing the same knowledge unit to enter a model through listening or reading while the target remains fixed. Across multiple architecturally distinct audio-language models, we observe a consistent asymmetry: text-pathway knowledge is forgotten more than matched audio-pathway knowledge under identical adaptation pressure. To attribute this effect to route rather than confounds, we introduce the Paired Pathway Controlled Protocol (PPCP), a three-phase design that establishes matched pathway baselines, activates both pathways under symmetric supervision on the same knowledge pool, and applies identical forgetting pressure to both pathways. The gap is stable across models and gain-controlled analyses, persists when contradictory overwrite is replaced by correct-label cross-domain learning, remains under single-modality pressure, and is not removed by lightweight replay. Two independent routing-depth controls confirm that the effect is not explained by architectural depth, pointing to input representation as the dominant factor. Under PPCP, our results demonstrate that forgetting is highly route-dependent, establishing acquisition route as a new analytical dimension for forgetting research and multimodal system design.
• Abstract（参考訳）: モデルは、ピアノの曲Für Eliseが、音を聴いたり、文章を読んだりすることで、冷静で反射的であることを学ぶことができるが、後に忘れられる危険があるときに、その知識がどのルートにかかったかは重要か? マルチモーダルモデルにおける研究は、どのような知識が適応の下で失われるかを測定するが、その知識がどれだけ容易に忘れられるかは、買収経路が問わない。 私たちはこのテストされていない前提をPathway-Invariant Assumptionと呼びます。 音楽理解は、音楽クリップと標準テキスト記述が同一の知覚内容に整列できるためクリーンなテストが可能であり、ターゲットが固定されている間、聴取や読取を通じて同一の知識ユニットがモデルに入ることができる。 複数のアーキテクチャ的に異なるオーディオ言語モデルにおいて、一貫した非対称性が観察される: テキストパスウェイ知識は、同一適応圧力下での一致したオーディオパスウェイ知識よりも、忘れられる。 この効果をコンバウンドではなく経路に当てはめるため,Paired Pathway Controlled Protocol (PPCP) を導入し,一致した経路ベースラインを確立し,同一の知識プール上で対称的な制御の下で両方の経路を活性化し,同一の経路を忘れる圧力を両経路に適用する3相設計を提案する。 このギャップはモデルとゲイン制御分析の間で安定しており、矛盾するオーバーライトが正しいラベルのクロスドメイン学習に置き換えられた時に持続し、単一モードの圧力下にとどまり、軽量なリプレイによって取り除かれることはない。 2つの独立したルーティング深度制御は、その効果がアーキテクチャの深さによって説明されず、入力表現が支配的な要因であることを示す。 PPCPの下では,研究やマルチモーダルシステムの設計を忘れるための新たな分析次元として,学習経路の確立が図られている。

関連論文リスト

• When Does Routing Become Interpretable? Causal Probes on Block Attention Residuals [0.0]
  Block Attention Residuals (Block AttnRes) は、固定された加法残基を以前の深度ソース表現よりも学習されたソフトマックスで置き換える。 このような露出が機械的解釈に十分かどうかを問う。
  論文  参考訳（メタデータ） (2026-06-11T10:37:04Z)
• Fine-Tuning Dynamics of In-Context Factual Recall in Transformers [63.1821972855273]
  インコンテキスト学習 -- プロンプトで与えられた例に基づいてタスクを実行する -- は、大きな言語モデルに現れている。 非コンテキスト学習が事実的知識のリコールをどのように活用するかを研究する。 IC-リコールデータを用いた1層トランスの微調整特性の解析を行った。
  論文  参考訳（メタデータ） (2026-05-26T23:47:26Z)
• MoRFI: Monotonic Sparse Autoencoder Feature Identification [27.973959474864127]
  大規模言語モデル(LLM)は、訓練前の段階で、次のトークン予測を通じて、実際の知識のほとんどを取得する。 その後の訓練の段階は、しばしばパラメトリック知識よりも新しい事実を導入し、幻覚を引き起こす。 閉書QAに焦点をあてて制御された微調整実験を行い,幻覚に因果的に寄与する潜在方向を見出す。
  論文  参考訳（メタデータ） (2026-04-29T16:32:57Z)
• How Alignment Routes: Localizing, Scaling, and Controlling Policy Circuits in Language Models [0.0]
  本稿では,アライメント学習言語モデルにおけるポリシールーティング機構のローカライズを行う。 中間層アテンションゲートは検出された内容を読み出し、深いヘッドをトリガーし、信号が拒絶に向かって押し上げられる。
  論文  参考訳（メタデータ） (2026-04-06T03:20:37Z)
• Learning from Diverse Reasoning Paths with Routing and Collaboration [65.77515749498575]
  経路品質フィルタリング,条件付きルーティング,ピアラーニングを組み合わせたQR-Distill(Quality-filtered Routing with Cooperative Distillation)を提案する。 従来のシングルパス蒸留法やマルチパス蒸留法よりもQR-ディスティルが優れていることを示す実験がある。
  論文  参考訳（メタデータ） (2025-08-23T01:15:57Z)
• R-Tuning: Instructing Large Language Models to Say `I Don't Know' [66.11375475253007]
  大きな言語モデル(LLM)は、優れたパフォーマンスで多くのドメインに革命をもたらしたが、それでもその課題に直面している。 事前の指導チューニング方法は、モデルが知識を知っているかどうかに関わらず、モデルに文章を完成させるよう強制する。 我々はRefusal-Aware Instruction Tuning (R-Tuning)と呼ばれる新しいアプローチを提案する。 実験の結果、R-Tuningは、既知の質問に答えたり、未知の質問に答えるのを控えるモデルの能力を効果的に改善することを示した。
  論文  参考訳（メタデータ） (2023-11-16T08:45:44Z)
• Repainting and Imitating Learning for Lane Detection [52.5220065495956]
  現行の車線検出手法は、重い影による視認性車線問題に苦慮している。 本稿では,教師と学生のペアを含む新しいリペイント・イミメーティング学習フレームワークを提案する。 提案手法は,推定中に余分な時間的コストを伴わず,様々な最先端車線検出ネットワークでプラグアンドプレイが可能となる。
  論文  参考訳（メタデータ） (2022-10-11T02:26:39Z)
• Explore before Moving: A Feasible Path Estimation and Memory Recalling Framework for Embodied Navigation [117.26891277593205]
  ナビゲーションに焦点をあて,経験や常識に欠ける既存のナビゲーションアルゴリズムの問題を解決する。 移動前に2回思考する能力に触発されて、不慣れな場面で目標を追求する実現可能な経路を考案し、パス推定とメモリリコールフレームワークと呼ばれる経路計画手法を提案する。 EmbodiedQAナビゲーションタスクにおけるPEMRの強力な実験結果を示す。
  論文  参考訳（メタデータ） (2021-10-16T13:30:55Z)
• One-shot learning of paired association navigation with biologically plausible schemas [3.990406494980651]
  複数のペア・アソシエーション・ナビゲーションタスクにおける一発一発学習はスキーマに依存していると仮定されている。 生物学的に妥当なニューラル実装を持つスキーマからエージェントを構成する。 アクター・クリティカルによって補足されたスキーマは、障害が直接の進路を妨げたとしても、エージェントが成功することを示す。
  論文  参考訳（メタデータ） (2021-06-07T13:03:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。