論文の概要: When Labels Have Structure: Improving Image Classification with Hierarchy-Aware Cross-Entropy
- arxiv url: http://arxiv.org/abs/2605.06274v1
- Date: Thu, 07 May 2026 13:49:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-08 22:27:11.859541
- Title: When Labels Have Structure: Improving Image Classification with Hierarchy-Aware Cross-Entropy
- Title(参考訳): ラベルの構造:階層型クロスエントロピーによる画像分類の改善
- Authors: April Chan, Davide D'Ascenzo, Sebastiano Cultrera di Montesano,
- Abstract要約: HACEは標準のクロスエントロピーをドロップインで置き換えたもので、既知のクラス階層を損失に直接組み込む。
エンドツーエンドのトレーニングでは、HACEは18のアーキテクチャセットペアのうち15の標準のクロスエントロピーよりも精度が向上する。
凍結したDINOv2-Large機能に対する線形探索では、HACEはすべてのデータセットで競合するメソッドよりも優れています。
- 参考スコア(独自算出の注目度): 0.09558392439655013
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Standard cross-entropy is the default classification loss across virtually all of machine learning, yet it treats all misclassifications equally, ignoring the semantic distances that a class hierarchy encodes. We propose Hierarchy-Aware Cross-Entropy (HACE), a drop-in replacement for standard cross-entropy that incorporates a known class hierarchy directly into the loss. HACE combines two components: prediction aggregation, which propagates the model's probability mass upward through the class hierarchy to ensure that parent nodes accumulate the confidence of their children; and ancestral label smoothing, which distributes the ground-truth signal along the path from the true class to the root. We evaluate HACE on CIFAR-100, FGVC Aircraft, and NABirds in two regimes: end-to-end training across six architectures spanning convolutional and attention-based designs, and linear probing on frozen DINOv2-Large features. In end-to-end training, HACE improves accuracy over standard cross-entropy in 15 out of 18 architecture--dataset pairs, with a mean gain of 4.66\%. In linear probing on frozen DINOv2-Large features, HACE outperforms all competing methods on all three datasets, with a mean improvement of 2.18\% over the next best baseline.
- Abstract(参考訳): 標準的なクロスエントロピーは、ほぼすべての機械学習におけるデフォルトの分類損失であるが、クラス階層がエンコードする意味的な距離を無視して、すべての誤分類を平等に扱う。
我々は、既知のクラス階層を損失に直接組み込んだ標準的なクロスエントロピーのドロップイン置換である階層型クロスエントロピー(HACE)を提案する。
HACEは、モデルの確率質量をクラス階層を通して上向きに伝播し、親ノードが子供の信頼を蓄積することを保証する予測アグリゲーションと、真のクラスからルートへの経路に沿って地上信号の分散を行う祖先ラベルスムーシングの2つのコンポーネントを組み合わせる。
CIFAR-100, FGVC Aircraft, NABirdsのHACEを, コンボリューションとアテンションに基づく設計にまたがる6つのアーキテクチャのエンドツーエンドトレーニングと, 凍結したDINOv2-Large機能による線形探索の2つの方式で評価した。
エンドツーエンドのトレーニングでは、HACEは18のアーキテクチャセットペアのうち15の標準のクロスエントロピーよりも精度が向上し、平均的なゲインは4.66\%である。
凍結したDINOv2-Large機能に対する線形探索では、HACEは3つのデータセットで競合するすべてのメソッドより優れており、次の最良ベースラインよりも平均2.18\%向上している。
関連論文リスト
- CrossHGL: A Text-Free Foundation Model for Cross-Domain Heterogeneous Graph Learning [18.84875776859183]
CrossHGLは、異種グラフを均質化し、相互作用セマンティクスをエッジ特徴にエンコードする意味保存変換戦略である。
Tri-Prompt機構を備えたプロンプト対応のマルチドメイン事前トレーニングフレームワークは、機能、エッジ、構造の観点から伝達可能な知識をキャプチャする。
ノードレベルのタスクとグラフレベルのタスクの実験は、CrossHGLが一貫して最先端のベースラインを上回っていることを示している。
論文 参考訳(メタデータ) (2026-03-29T13:17:15Z) - FUSE: Fast Semi-Supervised Node Embedding Learning via Structural and Label-Aware Optimization [0.0]
3つの相補的目的を共同で最適化する高速半教師あり組込みフレームワークを提案する。
標準ベンチマークにおいて,本手法は最先端手法と同等以上の分類精度を一貫して達成する。
論文 参考訳(メタデータ) (2025-10-13T10:39:58Z) - AHDMIL: Asymmetric Hierarchical Distillation Multi-Instance Learning for Fast and Accurate Whole-Slide Image Classification [51.525891360380285]
AHDMILは非対称な階層的蒸留マルチインスタンス学習フレームワークである。
2段階のトレーニングプロセスを通じて、無関係なパッチを排除します。
分類性能と推論速度の両方において、従来の最先端手法を一貫して上回っている。
論文 参考訳(メタデータ) (2025-08-07T07:47:16Z) - Cross-architecture universal feature coding via distribution alignment [88.73189953617594]
クロスアーキテクチャユニバーサル特徴符号化(CAUFC)という新しい研究課題を導入する。
まず,CNN と Transformer が一貫した2次元トークン形式に特徴付けるフォーマットアライメント手法を設計し,また,トランケーションと正規化によって統計分布を調和させる特徴値アライメント手法を提案する。
本稿では,CAUFCを最初に研究する試みとして,画像分類作業における手法の評価を行い,本手法がアーキテクチャ固有のベースラインに比べて高いレート精度のトレードオフを実現することを示す。
論文 参考訳(メタデータ) (2025-06-15T06:14:02Z) - Learning Robust Heterogeneous Graph Representations via Contrastive-Reconstruction under Sparse Semantics [13.555683316315683]
マスケードオートエンコーダ(MAE)とコントラスト学習(CL)はグラフ自己教師学習において2つの重要なパラダイムである。
本稿ではヘテロジニアスグラフのための新しい二チャンネル自己教師型学習フレームワークHetCRFを紹介する。
HetCRFは2段階のアグリゲーション戦略を用いて埋め込みセマンティクスを適応し、MAEとCLの両方と互換性がある。
論文 参考訳(メタデータ) (2025-06-07T06:35:42Z) - Learning and Evaluating Hierarchical Feature Representations [3.770103075126785]
我々は、直交部分空間の階層的構成(Hier-COS)という新しい枠組みを提案する。
Hier-COSは、与えられた分類木の構造と整合した設計により、深い特徴埋め込みをベクトル空間にマッピングすることを学ぶ。
Hier-COSはすべてのデータセットにまたがって最先端の階層的パフォーマンスを実現し,同時に1つのケースを除いてトップ1の精度を上回ります。
論文 参考訳(メタデータ) (2025-03-10T20:59:41Z) - Learning Hierarchy Aware Features for Reducing Mistake Severity [3.704832909610283]
階層認識機能(HAF)を学習するための新しいアプローチを提案する。
HAFは、トップ1エラーを維持しながらミスを改善するトレーニングタイムアプローチであり、すべてのミスを平等に扱うクロスエントロピー損失の問題に対処する。
我々は,3つの階層的データセット上でHAFを評価し,iNaturalist-19およびCIFAR-100データセットの最先端結果を得た。
論文 参考訳(メタデータ) (2022-07-26T04:24:47Z) - GSMFlow: Generation Shifts Mitigating Flow for Generalized Zero-Shot
Learning [55.79997930181418]
Generalized Zero-Shot Learningは、目に見えないクラスから見えないクラスに意味的な知識を移すことで、目に見えないクラスと見えないクラスの両方から画像を認識することを目的としている。
生成モデルの利点を生かして、見学したクラスから学んだ知識に基づいて、現実的な見知らぬサンプルを幻覚させることは、有望な解決策である。
本研究では,複数の条件付きアフィン結合層からなるフローベース生成フレームワークを提案する。
論文 参考訳(メタデータ) (2022-07-05T04:04:37Z) - Do We Really Need a Learnable Classifier at the End of Deep Neural
Network? [118.18554882199676]
本研究では、ニューラルネットワークを学習して分類器をランダムにETFとして分類し、訓練中に固定する可能性について検討する。
実験結果から,バランスの取れたデータセットの画像分類において,同様の性能が得られることがわかった。
論文 参考訳(メタデータ) (2022-03-17T04:34:28Z) - Label Distributionally Robust Losses for Multi-class Classification:
Consistency, Robustness and Adaptivity [55.29408396918968]
多クラス分類のためのラベル分布ロバスト(LDR)損失という損失関数群について検討した。
我々の貢献は、多クラス分類のためのLDR損失のトップ$kの一貫性を確立することによって、一貫性と堅牢性の両方を含んでいる。
本稿では,各インスタンスのクラスラベルの雑音度に個別化温度パラメータを自動的に適応させる適応型LDR損失を提案する。
論文 参考訳(メタデータ) (2021-12-30T00:27:30Z) - Heuristic Semi-Supervised Learning for Graph Generation Inspired by
Electoral College [80.67842220664231]
本稿では,新たなノードやエッジを自動的に拡張して,高密度サブグラフ内のラベル類似性を向上する,新しい前処理手法であるElectoral College(ELCO)を提案する。
テストされたすべての設定において、我々の手法はベースモデルの平均スコアを4.7ポイントの広いマージンで引き上げるとともに、常に最先端のモデルよりも優れています。
論文 参考訳(メタデータ) (2020-06-10T14:48:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。