論文の概要: The Art of Not Forgetting

• arxiv url: http://arxiv.org/abs/2607.17944v1
• Date: Mon, 20 Jul 2026 13:42:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-21 18:48:37.641557
• Title: The Art of Not Forgetting
• Title（参考訳）: 忘れない術
• Abstract要約: 入力をスパースリレーショナルコードとして表現するアーキテクチャであるCMPを導入し、それらを2層競合メモリに格納し、ローカルで勾配のない更新を通じて完全に学習し、ネットワークのどこにもバックプロパゲーションを含まない。 破滅的な忘れは、通常、リプレイや正規化でパッチを当てられるトレーニング時の欠陥として扱われるが、代わりにバックプロパゲーションがクレジットを割り当てる方法の構造的な結果であり、建設によって局所的でスパースな学習規則はパッチなしでそれに耐えるべきである、という、特定の仮説をテストするためにこのアーキテクチャを使用します。
• 参考スコア（独自算出の注目度）: 0.8875650122536798
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We introduce CMP (Cognitive Memory Primitive), an architecture that represents inputs as sparse relational codes, stores them in a two-tier competitive memory, and learns entirely through local, gradient-free updates, with no backpropagation anywhere in the network. We use this architecture to test a specific hypothesis: that catastrophic forgetting, usually treated as a training-time defect to be patched with replay or regularization, is instead a structural consequence of how backpropagation assigns credit and that a learning rule that is local and sparse by construction should resist it without a patch. On a controlled domain-incremental protocol across 15 text domains, three-seed replicated, CMP's backward transfer is 15-19x better than a matched-size Transformer trained with online EWC, and the result survives a domain-order control (reported as a range, +0.24 to +0.44, rather than a single figure). We report this alongside a real, substantial accuracy gap versus the Transformer baseline, a null result on a recognized vision benchmark, and a diagnosed, unresolved failure attempting to combine this architecture with a separate mechanism that improves raw accuracy, disclosed because an honest negative result is more useful than an omitted one. The central claim is narrow and falsifiable: local, sparse, non-backpropagation learning measurably resists catastrophic forgetting better than backpropagation with its standard fix, under conditions we state precisely.
• Abstract（参考訳）: CMP(Cognitive Memory Primitive)は、入力をスパースなリレーショナルコードとして表現し、2階層の競合メモリに格納し、ローカルで勾配のない更新を通じて完全に学習し、ネットワークのどこにもバックプロパゲーションを含まないアーキテクチャである。 破滅的な忘れは、通常、リプレイや正規化でパッチを当てられるトレーニング時の欠陥として扱われるが、代わりにバックプロパゲーションがクレジットを割り当てる構造的な結果であり、建設によって局所的でスパースな学習規則はパッチなしでそれに耐えるべきである、という、特定の仮説をテストするためにこのアーキテクチャを使用します。 15個のテキストドメインにまたがる制御されたドメインインクリメンタルプロトコルでは、CMPの後方転送は、オンラインEWCで訓練されたマッチサイズトランスフォーマーよりも15-19倍、ドメインオーダコントロールが残る(単一の図ではなく、+0.24から+0.44に記録されている)。 本稿では,トランスフォーマーベースラインに対する実質的,実質的な精度のギャップ,認識されたビジョンベンチマーク上のヌル結果,およびこのアーキテクチャを生の精度向上のための分離メカニズムと組み合わせようとする未解決の故障を報告する。 局所的、疎外的、非バックプロパゲーション学習は、私たちが正確に述べる条件の下で、標準的な修正によるバックプロパゲーションよりも破滅的な忘れに抵抗する。

関連論文リスト

• The Art of Not Forgetting A Local Learning Architecture for Continual Learning [0.0]
  入力をスパースリレーショナルコードとして再帰する連続学習アーキテクチャであるCMPを導入する。 本研究では,スパース表現,局所学習,永続記憶の組み合わせが破滅的な記憶を減少させるかどうかを考察する。
  論文  参考訳（メタデータ） (2026-07-29T06:42:23Z)
• Safety-Aware Cascaded Inference for Crop Damage Assessment with Controlled Error Trade-offs [0.0]
  小作農の絵ベースの農業保険では、被害検出の欠落は誤報よりもかなり高いコストがかかる。 本稿では,2段階のカスケードアーキテクチャであるCascadeCropNetを提案する。 軽量のセンチネルモデルでは2値の健康トリアージを行い、キャリブレーションされた損傷確率閾値タウを超えるサンプルを専門家モデルにエスカレーションして詳細な診断を行う。
  論文  参考訳（メタデータ） (2026-07-28T09:01:27Z)
• Correct Answers from Sound Reasoning: Verifiable Process Supervision for Language Models [94.68358825189738]
  本稿では,予測精度と推論品質を協調的に最適化する検証済み領域の学習後フレームワークを提案する。 我々は,エンジン信号に対して推論ステップを確定的に検証できる制御テストベッドであるチェスのVPSを評価する。 VPSは、推論品質を著しく向上させながら精度を保ち、勝利率エラーを最大30%削減し、一貫性をほぼ飽和状態に回復する。
  論文  参考訳（メタデータ） (2026-04-03T15:19:46Z)
• Feedback Alignment Meets Low-Rank Manifolds: A Structured Recipe for Local Learning [7.034739490820967]
  バックプロパゲーション(BP)を用いたディープニューラルネットワーク(DNN)のトレーニングは、最先端の精度を実現するが、大域的なエラー伝搬と完全なパラメータ化が必要である。 ダイレクトフィードバックアライメント(DFA)は、メモリ要件の低いローカルで並列化可能な更新を可能にする。 低ランク多様体上で直接動作する構造化局所学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-10-29T15:03:46Z)
• Diagnosing and Rectifying Fake OOD Invariance: A Restructured Causal Approach [51.012396632595554]
  不変表現学習(IRL)は、不変因果的特徴から環境から切り離されたラベルへの予測を促進する。 最近の理論的結果は、IRLによって回復されたいくつかの因果的特徴は、訓練環境ではドメイン不変のふりをするが、目に見えない領域では失敗する。 本研究では,RS-SCMに関する条件付き相互情報に基づく手法を開発し,その効果を巧みに補正する。
  論文  参考訳（メタデータ） (2023-12-15T12:58:05Z)
• READ: Aggregating Reconstruction Error into Out-of-distribution Detection [5.069442437365223]
  ディープニューラルネットワークは異常なデータに対する過信であることが知られている。 本稿では,READ(Reconstruction Error Aggregated Detector)を提案する。 本手法は,従来のOOD検出アルゴリズムと比較して,FPR@95TPRの平均値を最大9.8%削減する。
  論文  参考訳（メタデータ） (2022-06-15T11:30:41Z)
• Confident Sinkhorn Allocation for Pseudo-Labeling [40.883130133661304]
  半教師付き学習は、ラベル付きデータへの機械学習の依存を減らす重要なツールである。 本稿では,疑似ラベル作成における不確実性の役割を理論的に研究し,CSA(Confident Sinkhorn Allocation)を提案する。 CSAは、信頼度の高いサンプルのみへの最適な輸送を通して、最高の擬似ラベル割り当てを特定する。
  論文  参考訳（メタデータ） (2022-06-13T02:16:26Z)
• Rethinking Reconstruction Autoencoder-Based Out-of-Distribution Detection [0.0]
  リコンストラクションオートエンコーダに基づく手法は、入力再構成誤差を新規性対正規性の計量として用いることでこの問題に対処する。 本稿では, 意味的再構成, データの確実性分解, 正規化L2距離を導入し, 元の手法を大幅に改善する。 提案手法は,追加データや実装の困難さ,時間を要するパイプライン,さらには既知のクラスの分類精度を損なうことなく機能する。
  論文  参考訳（メタデータ） (2022-03-04T09:04:55Z)
• Higher Performance Visual Tracking with Dual-Modal Localization [106.91097443275035]
  Visual Object Tracking (VOT)は、堅牢性と正確性の両方に同期性を必要とする。 ONRによるロバストなローカリゼーション抑制器とOFCによるターゲットセンターへの正確なローカリゼーションにより、ターゲットローカリゼーションのためのデュアルモーダルフレームワークを提案します。
  論文  参考訳（メタデータ） (2021-03-18T08:47:56Z)
• Generalized Focal Loss: Learning Qualified and Distributed Bounding Boxes for Dense Object Detection [85.53263670166304]
  一段検出器は基本的に、物体検出を密度の高い分類と位置化として定式化する。 1段検出器の最近の傾向は、局所化の質を推定するために個別の予測分岐を導入することである。 本稿では, 上記の3つの基本要素, 品質推定, 分類, ローカライゼーションについて述べる。
  論文  参考訳（メタデータ） (2020-06-08T07:24:33Z)
• Uncertainty-Aware Consistency Regularization for Cross-Domain Semantic Segmentation [63.75774438196315]
  Unsupervised Domain adapt (UDA) は、未ラベルのデータのみを持つ新しいターゲットドメインにソースドメインの既存のモデルを適用することを目的としている。 既存のほとんどの手法は、エラーを起こしやすい識別器ネットワークまたは不合理な教師モデルから生じる顕著な負の伝達に悩まされている。 ドメイン間セマンティックセグメンテーションのための不確実性を考慮した整合性正規化手法を提案する。
  論文  参考訳（メタデータ） (2020-04-19T15:30:26Z)
• Log-Likelihood Ratio Minimizing Flows: Towards Robust and Quantifiable Neural Distribution Alignment [52.02794488304448]
  そこで本研究では,対数様比統計量と正規化フローに基づく新しい分布アライメント手法を提案する。 入力領域の局所構造を保存する領域アライメントにおいて,結果の最小化を実験的に検証する。
  論文  参考訳（メタデータ） (2020-03-26T22:10:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。