論文の概要: Hyperspherical Forward-Forward with Prototypical Representations

• arxiv url: http://arxiv.org/abs/2605.00082v1
• Date: Thu, 30 Apr 2026 15:33:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-04 17:43:28.681865
• Title: Hyperspherical Forward-Forward with Prototypical Representations
• Title（参考訳）: 原型表現を用いた超球面フォワードフォワード
• Authors: Shalini Sarode, Brian Moser, Joachim Folz, Federico Raue, Tobias Nauen, Stanislav Frolov, Andreas Dengel,
• Abstract要約: 我々は、この重要なボトルネックを解決する新しい改革であるHyperspherical Forward-Forward (HFF)を導入する。 我々の中核的な革新は、局所的な目的を二元的善良性タスクから直接多クラス分類問題に再編成することである。 ImageNet-1kで25%以上、転送学習で65.96%の正確さを報告した。
• 参考スコア（独自算出の注目度）: 7.053013122947757
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The Forward-Forward (FF) algorithm presents a compelling, bio-inspired alternative to backpropagation. However, while efficient in training, it has a computationally prohibitive inference process that requires a separate forward pass for every class that is evaluated. In this work, we introduce the Hyperspherical Forward-Forward (HFF), a novel reformulation that resolves this critical bottleneck. Our core innovation is to reframe the local objective of each layer from a binary goodness-of-fit task to a direct multi-class classification problem within a hyperspherical feature space. We achieve this by learning a set of class-specific, unit-norm prototypes that act as geometric anchors and implicit negatives. This architectural innovation preserves the benefits of local training while enabling weight update and inference in a single forward pass, making it >40x faster than the original FF algorithm. Our method is simple to implement, scales effectively to modern convolutional architectures, and achieves superior accuracy on standard image classification benchmarks, closing the gap with backpropagation. Most notably, we are among the first greedy local-learning methods to report over 25% top-1 accuracy on ImageNet-1k, and 65.96% with transfer learning.
• Abstract（参考訳）: Forward-Forward(FF)アルゴリズムは、バックプロパゲーションに代わる魅力的なバイオインスパイアされた代替手段を提供する。 しかし、訓練では効率的であるが、評価されるクラスごとに別の前方通過を必要とする計算的に禁止された推論プロセスがある。 本稿では,この重要なボトルネックを解決する新しい改革であるHyperspherical Forward-Forward(HFF)を紹介する。 我々の中核的な革新は、各レイヤの局所的な目的を、二元的善良性タスクから超球面的特徴空間内の直接多クラス分類問題に再構成することである。 我々は、幾何学的アンカーや暗黙的陰性として機能するクラス固有の単位ノルムのプロトタイプの集合を学習することでこれを実現できる。 このアーキテクチャの革新は、局所的なトレーニングの利点を保ちながら、1回のフォワードパスで重み更新と推論を可能にし、元のFFアルゴリズムよりも40倍高速になる。 提案手法は実装が簡単で,モダンな畳み込みアーキテクチャに効果的にスケールし,標準画像分類ベンチマークにおいて優れた精度を実現し,バックプロパゲーションによるギャップを埋める。 中でも注目すべきは、ImageNet-1kで25%以上、転送学習で65.96%の正確さを報告した、グリージーなローカル学習手法である。

関連論文リスト

• The Cascaded Forward Algorithm for Neural Network Training [61.06444586991505]
  本稿では,ニューラルネットワークのための新しい学習フレームワークであるCascaded Forward(CaFo)アルゴリズムを提案する。 FFとは異なり、我々のフレームワークは各カスケードブロックのラベル分布を直接出力する。 我々のフレームワークでは、各ブロックは独立して訓練できるので、並列加速度システムに容易に展開できる。
  論文  参考訳（メタデータ） (2023-03-17T02:01:11Z)
• Towards Calibrated Hyper-Sphere Representation via Distribution Overlap Coefficient for Long-tailed Learning [8.208237033120492]
  ロングテール学習は、現実世界のシナリオにおいて、厳しいクラス不均衡の下で、ヘッドクラスがトレーニング手順を支配しているという課題に取り組むことを目的としている。 これを動機として、コサインに基づく分類器をフォン・ミセス・フィッシャー混合モデル(vMF)に一般化する。 分布重なり係数の計算により超球面上の表現品質を測定する。
  論文  参考訳（メタデータ） (2022-08-22T03:53:29Z)
• Efficient Few-Shot Object Detection via Knowledge Inheritance [62.36414544915032]
  Few-shot Object Detection (FSOD) は、未確認のタスクに少ないトレーニングサンプルで適応できるジェネリック検出器を学習することを目的としている。 計算量の増加を伴わない効率的なプレトレイン・トランスファー・フレームワーク(PTF)のベースラインを提案する。 また,予測された新しいウェイトと事前訓練されたベースウェイトとのベクトル長の不整合を軽減するために,適応長再スケーリング(ALR)戦略を提案する。
  論文  参考訳（メタデータ） (2022-03-23T06:24:31Z)
• Fast Few-Shot Classification by Few-Iteration Meta-Learning [173.32497326674775]
  数ショット分類のための高速な最適化に基づくメタラーニング手法を提案する。 我々の戦略はメタ学習において学習すべき基礎学習者の目的の重要な側面を可能にする。 我々は、我々のアプローチの速度と効果を実証し、総合的な実験分析を行う。
  論文  参考訳（メタデータ） (2020-10-01T15:59:31Z)
• Prior Guided Feature Enrichment Network for Few-Shot Segmentation [64.91560451900125]
  最先端のセマンティックセグメンテーション手法は、良い結果を得るために十分なラベル付きデータを必要とする。 少数のラベル付きサポートサンプルを持つ新しいクラスに迅速に適応するモデルを学習することで,この問題に対処するためのショットセグメンテーションが提案されている。 これらのフレームワークは、高レベルのセマンティック情報の不適切な使用により、目に見えないクラスにおける一般化能力の低下という課題に直面している。
  論文  参考訳（メタデータ） (2020-08-04T10:41:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。