論文の概要: VICAL: Vicinal Consistency Alignment for Long-Tailed Visual Recognition
- arxiv url: http://arxiv.org/abs/2609.04948v1
- Date: Fri, 04 Sep 2026 09:55:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-07 18:15:23.99759
- Title: VICAL: Vicinal Consistency Alignment for Long-Tailed Visual Recognition
- Title(参考訳): VICAL:長期視覚認識のためのウイルスの整合性アライメント
- Abstract要約: VICALは、専門家の多様性を強制するのではなく、予測のばらつきを減らすことによって、ロングテール認識を改善するフレームワークである。
このアプローチは、自己一貫性学習とDeep Ensemble Distillationの2つの重要なコンポーネントで構成されています。
CIFAR-LT, ImageNet-LT, iist 2018 に関する我々の実験は、VICAL が常に最先端の手法より優れていることを示している。
- 参考スコア(独自算出の注目度): 32.48884030865545
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-expert models have become the dominant paradigm for long-tailed learning, largely attributed to their presumed ability to benefit from expert diversity. However, we revisit this central assumption and reveal that diversity induced by logit adjustment or explicit regularizers does not guarantee better ensemble accuracy. Our work suggests that multi-expert models benefit more from variance reduction than diversity maximization. We introduce \textbf{VICAL}, a \textbf{VI}cinal \textbf{C}onsistency \textbf{AL}ignment framework that improves long-tailed recognition not by enforcing expert diversity, but by reducing prediction variance. Specifically, our approach comprises two key components: Self-Consistency Learning and Deep Ensemble Distillation. Self-Consistency Learning discourages reliance on unstable high-frequency information, smoothing the local loss landscape and mitigating overfitting, especially for tail classes. Deep Ensemble Distillation promotes cross-expert low-frequency semantic agreement using a low-resolution view, thereby sidestepping optimization conflicts with established knowledge. Extensive experiments on CIFAR-LT, ImageNet-LT, and iNaturalist 2018 show that VICAL consistently outperforms state-of-the-art methods, validating the effectiveness of our consistency-driven design. Our code is available at \href{https://github.com/FlamieZhu/Vicinal-Consistency-Alignment}{VICAL}.
- Abstract(参考訳): マルチエキスパートモデルは、主に専門家の多様性から恩恵を受けると推定される能力に起因して、長い尾の学習において支配的なパラダイムとなっている。
しかし、この中心的な仮定を再検討し、ロジット調整や明示的な正規化器によって誘導される多様性がより良いアンサンブル精度を保証しないことを明らかにした。
我々の研究は、多様性の最大化よりも分散化の恩恵を受けることを示唆している。
本稿では, 専門家の多様性を強制するのではなく, 予測分散を減少させることにより, 長い尾の認識を向上するフレームワークである, \textbf{VI}cinal \textbf{C}onsistency \textbf{AL}ignmentフレームワークを紹介する。
具体的には,自己整合学習とディープ・アンサンブル蒸留という2つの重要な要素から構成される。
自己整合性学習は不安定な高周波情報への依存を回避し、局所的なロスランドスケープを平滑化し、特にテールクラスにおいて過度な適合を緩和する。
Deep Ensemble Distillationは、低分解能ビューを用いたクロスエキスパートな低周波セマンティックアライアンスを促進し、既存の知識と矛盾する最適化をサイドステッピングする。
CIFAR-LT、ImageNet-LT、iNaturalist 2018に関する大規模な実験によると、VICALは一貫して最先端の手法を上回り、一貫性駆動設計の有効性を検証する。
私たちのコードは、 \href{https://github.com/FlamieZhu/Vicinal-Consistency-Alignment}{VICAL}で利用可能です。
関連論文リスト
- Fisher-Routed Mixture of Experts for Federated Class-Incremental Learning [4.9788177236136635]
Federated Learning (FL)は、有望な分散機械学習パラダイムとして登場した。
FLをクラスにインクリメンタルな学習シナリオに拡張することは、ユニークな課題をもたらす。
textbfFederated Class-Incremental Learning (textscFedFMX) のためのエキスパートのtextbfFisher-Routed textbfMitextbfXture を提案する。
論文 参考訳(メタデータ) (2026-06-27T09:45:52Z) - TRACER: Persistent Regularization for Robust Multimodal Finetuning [15.846967169292789]
我々は,マルチモーダルコントラストファインタニングの理論的枠組みを開発し,各戦略の閉形式解と幾何分解を導出する。
重み付けされた移動平均教師が有限地平線上で永続的な正規化力を保ち、タスク部分空間においてバイアスのない収束をもたらすことを証明した。
CLIPファインタニングの実験は、3つのバックボーンアーキテクチャで一貫したOOD精度とキャリブレーションゲインを示す。
論文 参考訳(メタデータ) (2026-05-28T05:34:23Z) - Dual-Expert Consistency Model for Efficient and High-Quality Video Generation [57.33788820909211]
本稿では,パラメータ効率の高いtextbfDual-Expert Consistency Model (DCM) を提案する。
提案手法は, ビデオ拡散モデル蒸留における専門的専門化の有効性を実証し, サンプリング工程を大幅に短縮して, 最先端の視覚品質を実現する。
論文 参考訳(メタデータ) (2025-06-03T17:55:04Z) - A Unified Virtual Mixture-of-Experts Framework:Enhanced Inference and Hallucination Mitigation in Single-Model System [9.764336669208394]
GPTやBERTのような生成モデルは、テキスト生成や要約といったタスクのパフォーマンスを大幅に改善した。
しかし、「モデルが非現実的または誤解を招くコンテンツを生成する場所」という幻覚は、特に小規模アーキテクチャでは問題となる。
本稿では,単一のQwen 1.5 0.5Bモデルにおいて,推論性能を高め,幻覚を緩和する仮想ミックス・オブ・エクササイズ(MoE)融合戦略を提案する。
論文 参考訳(メタデータ) (2025-04-01T11:38:01Z) - MDCS: More Diverse Experts with Consistency Self-distillation for
Long-tailed Recognition [14.998014782981663]
本稿では,従来手法が残っていたギャップを埋めるために,MDCS (Consistency Self-distillation) を用いた多種多様な専門家を提案する。
MDCSのアプローチは,2つの中核的コンポーネント – 多様性損失(DL)と一貫性自己蒸留(CS) – から構成される。
論文 参考訳(メタデータ) (2023-08-19T06:21:22Z) - A Unifying Perspective on Multi-Calibration: Game Dynamics for
Multi-Objective Learning [63.20009081099896]
マルチキャリブレーション予測器の設計と解析のための統一フレームワークを提供する。
ゲームダイナミクスとの接続を利用して,多様なマルチ校正学習問題に対する最先端の保証を実現する。
論文 参考訳(メタデータ) (2023-02-21T18:24:17Z) - Trusted Multi-View Classification with Dynamic Evidential Fusion [73.35990456162745]
信頼型マルチビュー分類(TMC)と呼ばれる新しいマルチビュー分類アルゴリズムを提案する。
TMCは、様々な視点をエビデンスレベルで動的に統合することで、マルチビュー学習のための新しいパラダイムを提供する。
理論的および実験的結果は、精度、堅牢性、信頼性において提案されたモデルの有効性を検証した。
論文 参考訳(メタデータ) (2022-04-25T03:48:49Z) - Revisiting Consistency Regularization for Semi-Supervised Learning [80.28461584135967]
そこで我々は,FeatDistLossというシンプルな手法により,一貫性の規則化を改良したフレームワークを提案する。
実験結果から,本モデルは様々なデータセットや設定のための新しい技術状態を定義する。
論文 参考訳(メタデータ) (2021-12-10T20:46:13Z) - Holistic Deep Learning [3.718942345103135]
本稿では、入力摂動、過度なパラメータ化、性能不安定といった脆弱性の課題に対処する、新しい総合的なディープラーニングフレームワークを提案する。
提案したフレームワークは、標準的なディープラーニングモデルよりも正確性、堅牢性、疎性、安定性を全面的に改善する。
論文 参考訳(メタデータ) (2021-10-29T14:46:32Z) - Regularizing Variational Autoencoder with Diversity and Uncertainty
Awareness [61.827054365139645]
変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。
よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
論文 参考訳(メタデータ) (2021-10-24T07:58:13Z) - Trusted Multi-View Classification [76.73585034192894]
本稿では,信頼された多視点分類と呼ばれる新しい多視点分類手法を提案する。
さまざまなビューをエビデンスレベルで動的に統合することで、マルチビュー学習のための新しいパラダイムを提供する。
提案アルゴリズムは,分類信頼性とロバスト性の両方を促進するために,複数のビューを併用する。
論文 参考訳(メタデータ) (2021-02-03T13:30:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。