論文の概要: Rescuing Points Trapped Inside Incorrect Decision Regions: A target for Evaluating and Improving Forward-Forward Learning

• arxiv url: http://arxiv.org/abs/2610.16347v1
• Date: Mon, 12 Oct 2026 08:04:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.333014
• Title: Rescuing Points Trapped Inside Incorrect Decision Regions: A target for Evaluating and Improving Forward-Forward Learning
• Title（参考訳）: 誤った決定領域内で捕捉された救難ポイント:前向き学習の評価と改善のための目標
• Abstract要約: フォワード-フォワード学習は、エンドツーエンドのバックプロパゲーションを、ローカルで階層的なトレーニング目的に置き換える。 我々は、未学習の畳み込みニューラルネットワークの表現に関する線形プローブが、既に精度をはるかに上回っていることを示す。
• 参考スコア（独自算出の注目度）: 4.181052252349582
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Forward-Forward learning replaces end-to-end backpropagation with local, layer-wise training objectives. Its variants are evaluated primarily by classification accuracy, often measured with linear probes trained on their representations. We show that this evaluation can over-credit the learning method: a linear probe on the representations of an untrained convolutional neural network already reaches accuracy well above chance. Moreover, a single accuracy value does not reveal which datapoints become correctly classified after training and which remain misclassified. To examine what learning contributes beyond the random, untrained baseline, we present an analysis methodology built on the Boundary Proximity Index (BPI), a multiclass margin normalized by a class-centroid reference. We apply our analysis to seven Forward-Forward variants and related layer-local methods and find that initially misclassified points near the probe's decision boundary generally have higher rescue rates than those farther inside incorrect decision regions. Rescue rates vary substantially across methods, with some correcting a substantial fraction of these deeply embedded points. Together, these analyses offer a way to evaluate representation learning beyond accuracy and identify the rescue of points far inside incorrect decision regions as a target for improving local learning methods.
• Abstract（参考訳）: フォワード-フォワード学習は、エンドツーエンドのバックプロパゲーションを、ローカルで階層的なトレーニング目的に置き換える。 その変種は、主に分類精度によって評価され、しばしばそれらの表現について訓練された線形プローブで測定される。 我々は、この評価が学習法を過度に上回り、未学習の畳み込みニューラルネットワークの表現に関する線形プローブが、既に精度をはるかに上回っていることを示す。 さらに、トレーニング後にどのデータポイントが正しく分類され、どのデータポイントが正しく分類されたかは、単一の精度で明らかにしない。 ランダムでトレーニングされていないベースラインを超えて学習がどのような意味を持つかを調べるために,クラスセントロイド基準によって正規化されたマルチクラスマージンである境界近接指数(BPI)に基づいて構築された分析手法を提案する。 本分析は,7つの前向き変種および関連層局所法に適用し,プローブの判定境界付近で最初に誤分類された地点は,不正確な判定領域内よりも一般的に高い救難率を有することを示した。 救助率はメソッドによって大きく異なり、一部では深く埋め込まれたポイントのかなりの部分を修正する。 これらの分析は、精度以上の表現学習を評価する方法を提供し、不正確な決定領域内における遠い地点の救助を、局所的な学習方法を改善するための目標として特定する。

関連論文リスト

• Bi-discriminator Domain Adversarial Neural Networks with Class-Level Gradient Alignment [87.8301166955305]
  そこで本研究では,クラスレベルのアライメントアライメントを有するバイディミネータドメイン対向ニューラルネットワークを提案する。 BACGは、領域分布の整合性を改善するために勾配信号と二階確率推定を利用する。 さらに、対照的な学習にインスパイアされ、トレーニングプロセスを大幅に短縮できるメモリバンクベースの変種であるFast-BACGを開発した。
  論文  参考訳（メタデータ） (2023-10-21T09:53:17Z)
• A Call to Reflect on Evaluation Practices for Failure Detection in Image Classification [0.491574468325115]
  本稿では,信頼度評価関数のベンチマーク化を初めて実現した大規模実証的研究について述べる。 簡便なソフトマックス応答ベースラインを全体の最高の実行方法として明らかにすることは、現在の評価の劇的な欠点を浮き彫りにする。
  論文  参考訳（メタデータ） (2022-11-28T12:25:27Z)
• Simple Calibration via Geodesic Kernels [9.999034479498889]
  決定の森やディープニューラルネットワークのような深い差別的アプローチは、最近、多くの重要な現実世界のシナリオで応用を見出した。 しかし、これらの学習アルゴリズムを安全クリティカルなアプリケーションにデプロイすることは、特に分布内領域と分布外領域の両方のキャリブレーションを確保することに懸念を生じさせる。
  論文  参考訳（メタデータ） (2022-01-31T05:07:16Z)
• Ranking Distance Calibration for Cross-Domain Few-Shot Learning [91.22458739205766]
  数ショット学習の最近の進歩は、より現実的なクロスドメイン設定を促進する。 ドメインギャップとソースとターゲットデータセット間のラベル空間の相違により、共有される知識は極めて限られている。 我々は,タスク内の相互k-アネレスト近傍を発見することで,目標距離行列の校正を行う。
  論文  参考訳（メタデータ） (2021-12-01T03:36:58Z)
• On the Practicality of Deterministic Epistemic Uncertainty [106.06571981780591]
  決定論的不確実性法(DUM)は,分布外データの検出において高い性能を達成する。 DUMが十分に校正されており、現実のアプリケーションにシームレスにスケールできるかどうかは不明だ。
  論文  参考訳（メタデータ） (2021-07-01T17:59:07Z)
• Scalable Marginal Likelihood Estimation for Model Selection in Deep Learning [78.83598532168256]
  階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。 本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
  論文  参考訳（メタデータ） (2021-04-11T09:50:24Z)
• Learning Calibrated Uncertainties for Domain Shift: A Distributionally Robust Learning Approach [150.8920602230832]
  ドメインシフトの下で校正された不確実性を学習するためのフレームワークを提案する。 特に、密度比推定は、ターゲット(テスト)サンプルの近さをソース(トレーニング)分布に反映する。 提案手法は下流タスクに有利な校正不確実性を生成する。
  論文  参考訳（メタデータ） (2020-10-08T02:10:54Z)
• Fine-grained Uncertainty Modeling in Neural Networks [0.0]
  本稿では,ニューラルネットワークにおける分布外点検出のための新しい手法を提案する。 我々の手法は、NNの過度な判断を正し、外れ点を検知し、上位2つの予測の間で重要な点が不確実であるときに「私は知らない」と言うことを学習する。 副作用として, 本手法は, 追加訓練を必要とせず, 敵の攻撃を防ぐのに有効である。
  論文  参考訳（メタデータ） (2020-02-11T05:06:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。