論文の概要: Calibrating Biased Distribution in VFM-derived Latent Space via Cross-Domain Geometric Consistency

• arxiv url: http://arxiv.org/abs/2508.13518v1
• Date: Tue, 19 Aug 2025 05:22:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-20 15:36:31.800531
• Title: Calibrating Biased Distribution in VFM-derived Latent Space via Cross-Domain Geometric Consistency
• Title（参考訳）: クロスドメインな幾何学的整合性によるVFM起源潜時空間の校正バイアス分布
• Authors: Yanbiao Ma, Wei Dai, Bowei Liu, Jiayi Chen, Wenke Huang, Guancheng Wan, Zhiwu Lu, Junchi Yan,
• Abstract要約: 特徴抽出にオフザシェルフ(ビジョン)基礎モデルを利用する場合、特徴分布の幾何学的形状はドメインやデータセット間で顕著な伝達性を示す。 我々は,我々の幾何学的知識誘導分布キャリブレーションフレームワークを,フェデレーション学習とロングテール認識の2つの人気かつ挑戦的な設定で具体化する。 長期学習において、サンプル豊富なカテゴリから移動された幾何学的知識を利用して、サンプル・スカース・テールクラスの真の分布を復元する。
• 参考スコア（独自算出の注目度）: 52.52950138164424
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Despite the fast progress of deep learning, one standing challenge is the gap of the observed training samples and the underlying true distribution. There are multiple reasons for the causing of this gap e.g. sampling bias, noise etc. In the era of foundation models, we show that when leveraging the off-the-shelf (vision) foundation models (e.g., CLIP, DINOv2) for feature extraction, the geometric shapes of the resulting feature distributions exhibit remarkable transferability across domains and datasets. To verify its practical usefulness, we embody our geometric knowledge-guided distribution calibration framework in two popular and challenging settings: federated learning and long-tailed recognition. In the federated setting, we devise a technique of acquiring the global geometric shape under privacy constraints, then leverage this knowledge to generate new samples for clients, in the aim of bridging the gap between local and global observations. In long-tailed learning, it utilizes the geometric knowledge transferred from sample-rich categories to recover the true distribution for sample-scarce tail classes. Comprehensive experiments show that our proposed geometric knowledge-guided distribution calibration effectively overcomes information deficits caused by data heterogeneity and sample imbalance, with boosted performance across benchmarks.
• Abstract（参考訳）: ディープラーニングの急速な進歩にもかかわらず、観察されたトレーニングサンプルと根底にある真の分布のギャップがある。 このギャップの原因には、例えばサンプリングバイアスやノイズなど、さまざまな理由があります。 基礎モデルでは,特徴抽出にオフザシェルフ(ビジョン)基盤モデル(例えばCLIP,DINOv2)を利用する場合,特徴分布の幾何学的形状はドメインやデータセット間で顕著な伝達性を示す。 その実用性を検証するため,我々の幾何学的知識誘導分布キャリブレーション・フレームワークを,フェデレーション学習とロングテール認識の2つの人気かつ挑戦的な設定で具体化する。 本研究では, プライバシー制約下でのグローバルな幾何学的形状の獲得手法を考案し, その知識を生かして, 地域とグローバルな観察のギャップを埋めることを目的として, クライアントのための新しいサンプルを作成する。 長期学習において、サンプル豊富なカテゴリから移動された幾何学的知識を利用して、サンプル・スカース・テールクラスの真の分布を復元する。 包括的実験により,我々の提案した幾何的知識誘導分布キャリブレーションは,データの不均一性やサンプルの不均衡に起因する情報不足を効果的に克服し,ベンチマーク全体の性能向上を図っている。

関連論文リスト

• Geometric Knowledge-Guided Localized Global Distribution Alignment for Federated Learning [7.893874342163829]
  本研究では,グローバルな埋め込み分布を局所的にシミュレートすることに焦点を当てた幾何学誘導型データ生成手法を提案する。 まず,埋め込み分布の幾何学的形状の概念を紹介する。 そして、プライバシー制約の下でグローバルな幾何学的形状を得るという課題に対処する。
  論文  参考訳（メタデータ） (2025-03-09T05:30:28Z)
• Federated Learning with Sample-level Client Drift Mitigation [15.248811557566128]
  Federated Learningは、クライアント間のデータの不均一性によって、パフォーマンスが大幅に低下する。 本稿では,まず不均一性問題をサンプルレベルで緩和するFedBSSを提案する。 また,特徴分布とノイズラベルデータセット設定の効果的な結果を得た。
  論文  参考訳（メタデータ） (2025-01-20T09:44:07Z)
• Geometric Prior Guided Feature Representation Learning for Long-Tailed Classification [47.09355487357069]
  そこで,本論文では,よく表現されたヘッドクラスの特徴分布の幾何学的情報を活用し,モデルにテールクラスの基盤となる分布を学習させる手法を提案する。 パータード機能は、可能な限りテールクラスの基盤となる分布をカバーし、テスト領域におけるモデルの一般化性能を向上させることを目的としている。
  論文  参考訳（メタデータ） (2024-01-21T09:16:29Z)
• Integrating Local Real Data with Global Gradient Prototypes for Classifier Re-Balancing in Federated Long-Tailed Learning [60.41501515192088]
  フェデレートラーニング(FL)は、グローバルモデルを協調的にトレーニングする複数のクライアントを含む、人気のある分散ラーニングパラダイムになっています。 データサンプルは通常、現実世界の長い尾の分布に従っており、分散化された長い尾のデータのFLは、貧弱なグローバルモデルをもたらす。 本研究では、局所的な実データとグローバルな勾配のプロトタイプを統合し、局所的なバランスの取れたデータセットを形成する。
  論文  参考訳（メタデータ） (2023-01-25T03:18:10Z)
• When Relation Networks meet GANs: Relation GANs with Triplet Loss [110.7572918636599]
  GAN(Generative Adversarial Network)の学習安定性はいまだに悩みの種である 本稿では,判別器のための関係ネットワークアーキテクチャについて検討し,より優れた一般化と安定性を実現する三重項損失を設計する。 ベンチマークデータセットの実験により、提案された関係判別器と新たな損失は、可変視覚タスクに大幅な改善をもたらすことが示された。
  論文  参考訳（メタデータ） (2020-02-24T11:35:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。