論文の概要: HCL-FF: Hierarchical and Contrastive Learning for Forward-Forward Algorithm

• arxiv url: http://arxiv.org/abs/2605.24797v1
• Date: Sun, 24 May 2026 00:48:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-26 19:50:18.449949
• Title: HCL-FF: Hierarchical and Contrastive Learning for Forward-Forward Algorithm
• Title（参考訳）: HCL-FF:フォワードフォワードアルゴリズムのための階層的・コントラスト学習
• Authors: Jie-En Yao, Hong-En Chen, C. -C. Jay Kuo,
• Abstract要約: 深層ニューラルネットワークのための階層的でコントラッシブな学習フレームワーク(HCL-FF)を提案する。 HCL-FFは、低レベルのキューから高レベルのセマンティクスへの表現をガイドする粗大な階層的学習戦略を導入している。 CIFAR-10、CIFAR-100、Tiny-ImageNetの実験では、HCL-FFがFFベースの手法で新しい最先端性能を実現することを示した。
• 参考スコア（独自算出の注目度）: 23.026010149504387
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep neural networks trained with backpropagation have achieved outstanding performance in vision tasks but remain biologically implausible, computationally demanding, and difficult to interpret. The Forward-Forward (FF) algorithm offers a promising alternative by training each layer independently through local goodness objectives. However, its purely local optimization lacks hierarchical coordination across layers, and the decoupling of goodness from features leaves the representations unconstrained and semantically ambiguous. We propose a Hierarchical and Contrastive Learning FF framework (HCL-FF) to address these limitations. HCL-FF introduces (1) a coarse-to-fine hierarchical learning strategy that guides representations from low-level cues to high-level semantics, and (2) a supervised contrastive objective that enforces class-discriminative alignment after goodness decoupling. Experiments on CIFAR-10, CIFAR-100, and Tiny-ImageNet demonstrate that HCL-FF achieves new state-of-the-art performance among FF-based methods, with notable accuracy gains of +5.46%, +17.00%, and +12.51%, respectively.
• Abstract（参考訳）: バックプロパゲーションで訓練されたディープニューラルネットワークは、視覚タスクにおいて卓越した性能を達成したが、生物学的に理解できず、計算的に要求され、解釈が難しいままである。 Forward-Forward (FF)アルゴリズムは、各層を局所的良性目標を通じて独立にトレーニングすることで、有望な代替手段を提供する。 しかし、純粋に局所的な最適化は層間の階層的な調整を欠いているため、特徴からの良さの分離は、制約のない、意味的に曖昧な表現を残している。 本稿では,これらの制約に対処する階層的・コントラシブラーニングFFフレームワーク(HCL-FF)を提案する。 HCL-FFは,(1)低レベルな手がかりから高レベルな意味論へ表現を導く粗大な階層的学習戦略,(2)良質なデカップリング後のクラス識別的アライメントを強制する教師付きコントラスト的目標を導入する。 CIFAR-10、CIFAR-100、Tiny-ImageNetの実験では、HCL-FFはFFベースの手法でそれぞれ5.46%、+17.00%、+12.51%の精度で新しい最先端性能を実現している。

関連論文リスト

• Enhancing Gradient Inversion Attacks in Federated Learning via Hierarchical Feature Optimization [56.95448807869383]
  フェデレートラーニング(FL)は、プライバシを保存する分散機械学習の魅力的なパラダイムとして登場した。 近年の研究では、FLシステムで交換される勾配もプライバシー漏洩に弱いことが報告されている。 我々は textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD) を提案する。
  論文  参考訳（メタデータ） (2026-04-01T14:32:15Z)
• Self-Distillation of Hidden Layers for Self-Supervised Representation Learning [18.042078225633045]
  本稿では,教師ネットワークの隠れレイヤから潜在表現を予測することによって,モデルのタスクによって分割をブリッジする手法であるBootlegを紹介する。 BootlegはImageNet-1KとiNaturalist-21の分類とADE20KとCityscapesのセマンティックセグメンテーションにおいて、同等のベースラインを著しく上回ります。
  論文  参考訳（メタデータ） (2026-03-16T17:13:27Z)
• Improving Visual Discriminability of CLIP for Training-Free Open-Vocabulary Semantic Segmentation [20.30263242388691]
  LHT-CLIPは、レイヤ、ヘッド、トークンレベルのCLIPの視覚的識別性を活用する、トレーニング不要のフレームワークである。 さまざまなシナリオにまたがって最先端のパフォーマンスを実現し、実際のデプロイメントの有効性と実用性を強調している。
  論文  参考訳（メタデータ） (2025-10-27T22:05:08Z)
• Variational Supervised Contrastive Learning [50.79938854370321]
  本稿では,教師付きコントラスト学習を潜在クラス変数に対する変分推論として再構成した変分教師付きコントラスト学習(VarCon)を提案する。 VarConは対照的な学習フレームワークの最先端のパフォーマンスを達成し、ImageNet-1Kでは79.36%、CIFAR-100では78.29%、ResNet-50エンコーダでは78.29%に達した。
  論文  参考訳（メタデータ） (2025-06-09T04:19:12Z)
• Self-Contrastive Forward-Forward Algorithm [3.1361717406527667]
  フォワードフォワード (FF) アルゴリズムは、レイヤーワイドの目的を最適化するためにフィードフォワード演算に依存する。 FFは、ほとんどの標準ベンチマークタスクで最先端のパフォーマンスに到達できなかった。 本稿では,この性能ギャップを解消するための競争訓練手法である,自己コントラストフォワード(SCFF)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-09-17T22:58:20Z)
• Convolutional Channel-wise Competitive Learning for the Forward-Forward Algorithm [5.1246638322893245]
  深層ニューラルネットワークのトレーニングに一般的に使用されるバックプロパゲーション(BP)の問題を軽減するために,フォワードフォワード(FF)アルゴリズムが提案されている。 我々は、画像分類タスクにおける畳み込みニューラルネットワークの文脈において、チャネルワイズ競争学習を活用することにより、FFの主な考え方を取り入れ、それらを改善する。 MNIST, Fashion-MNIST, CIFAR-10, CIFAR-100の試験誤差は0.58%, 7.69%, 21.89%, 48.77%であった。
  論文  参考訳（メタデータ） (2023-12-19T23:48:43Z)
• Hierarchical Deep Counterfactual Regret Minimization [53.86223883060367]
  本稿では,大規模な状態空間や深部ゲームツリーを含むタスクにおいて,学習効率を向上させる革新的な手法であるDeep CFRの最初の階層バージョンを紹介する。 HDCFRのこれまでの研究よりも顕著な利点は、事前に定義された(人間的な)専門知識による学習の促進と、同様のタスクに移行可能なスキルの獲得を促進する能力である。
  論文  参考訳（メタデータ） (2023-05-27T02:05:41Z)
• Improving Music Performance Assessment with Contrastive Learning [78.8942067357231]
  本研究では,既存のMPAシステムを改善するための潜在的手法として,コントラスト学習について検討する。 畳み込みニューラルネットワークに適用された回帰タスクに適した重み付きコントラスト損失を導入する。 この結果から,MPA回帰タスクにおいて,コントラッシブ・ベースの手法がSoTA性能に適合し,超越できることが示唆された。
  論文  参考訳（メタデータ） (2021-08-03T19:24:25Z)
• No Fear of Heterogeneity: Classifier Calibration for Federated Learning with Non-IID Data [78.69828864672978]
  実世界のフェデレーションシステムにおける分類モデルのトレーニングにおける中心的な課題は、非IIDデータによる学習である。 このアルゴリズムは, 近似されたssian混合モデルからサンプリングした仮想表現を用いて分類器を調整する。 実験の結果,CIFAR-10,CIFAR-100,CINIC-10など,一般的なフェデレーション学習ベンチマークにおけるCCVRの現状が示された。
  論文  参考訳（メタデータ） (2021-06-09T12:02:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。