論文の概要: InfoBound: A Provable Information-Bounds Inspired Framework for Both OoD Generalization and OoD Detection
- arxiv url: http://arxiv.org/abs/2504.09448v1
- Date: Sun, 13 Apr 2025 06:13:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-15 16:52:10.116665
- Title: InfoBound: A Provable Information-Bounds Inspired Framework for Both OoD Generalization and OoD Detection
- Title(参考訳): InfoBound: OoDの一般化とOoD検出のための確率的情報境界インスパイアされたフレームワーク
- Authors: Lin Zhu, Yifeng Yang, Zichao Nie, Yuan Gao, Jiarui Li, Qinying Gu, Xinbing Wang, Chenghu Zhou, Nanyang Ye,
- Abstract要約: 実世界のシナリオでは、分配シフトは、OoD(out-of-distribution)一般化とOoD検出という2つの問題の重要性をもたらす。
相互情報最小化(MI-Min)と条件エントロピー最大化(CE-Max)からなる統一的なアプローチを提供する。
競争のベースラインに比べて2つの課題間のトレードオフを緩和することに成功した。
- 参考スコア(独自算出の注目度): 42.00535508469573
- License:
- Abstract: In real-world scenarios, distribution shifts give rise to the importance of two problems: out-of-distribution (OoD) generalization, which focuses on models' generalization ability against covariate shifts (i.e., the changes of environments), and OoD detection, which aims to be aware of semantic shifts (i.e., test-time unseen classes). Real-world testing environments often involve a combination of both covariate and semantic shifts. While numerous methods have been proposed to address these critical issues, only a few works tackled them simultaneously. Moreover, prior works often improve one problem but sacrifice the other. To overcome these limitations, we delve into boosting OoD detection and OoD generalization from the perspective of information theory, which can be easily applied to existing models and different tasks. Building upon the theoretical bounds for mutual information and conditional entropy, we provide a unified approach, composed of Mutual Information Minimization (MI-Min) and Conditional Entropy Maximizing (CE-Max). Extensive experiments and comprehensive evaluations on multi-label image classification and object detection have demonstrated the superiority of our method. It successfully mitigates trade-offs between the two challenges compared to competitive baselines.
- Abstract(参考訳): 現実のシナリオでは、分散シフトは、共変量シフト(環境の変化)に対するモデルの一般化能力に焦点を当てたアウト・オブ・ディストリビューション(OoD)一般化と、セマンティックシフト(テストタイム・アンサイトクラス)を意識することを目的としたOoD検出という2つの問題の重要性を生じさせる。
実世界のテスト環境は、しばしば共変量とセマンティックシフトの組み合わせを含む。
これらの重要な問題に対処する多くの方法が提案されているが、同時に対処する研究はごくわずかであった。
さらに、事前の作業は1つの問題を改善するが、もう1つの問題を犠牲にする。
これらの制約を克服するため,既存のモデルやタスクに容易に適用可能な情報理論の観点から,OoD検出とOoD一般化の促進を探求する。
相互情報の理論的境界と条件エントロピーに基づいて,相互情報最小化(MI-Min)と条件エントロピー最大化(CE-Max)からなる統一的なアプローチを提案する。
マルチラベル画像分類とオブジェクト検出に関する広範囲な実験と総合評価により,本手法の優位性を実証した。
競争のベースラインに比べて2つの課題間のトレードオフを緩和することに成功した。
関連論文リスト
- SIGMA: Sheaf-Informed Geometric Multi-Agent Pathfinding [4.801673346687721]
MAPF(Multi-Agent Path Finding)問題は、既知の、潜在的に障害物のある環境において、複数のエージェントに対して最も短く、衝突のない経路を決定することを目的としている。
本稿では,分散化された深層強化学習にせん断理論を適用し,エージェント同士の幾何学的相互依存性を学習できるようにする新しい枠組みを提案する。
特に,ニューラルネットワークを組み込んで,せん断理論に基づく潜在空間のコンセンサスを概ねモデル化し,自己教師型学習を通じて学習する。
論文 参考訳(メタデータ) (2025-02-10T13:17:34Z) - Towards Modality Generalization: A Benchmark and Prospective Analysis [56.84045461854789]
本稿では,モダリティ・ジェネリゼーション(MG)について述べる。
マルチモーダルアルゴリズムを特徴とする包括的ベンチマークを提案し,一般化に着目した既存手法を適用した。
私たちの研究は、堅牢で適応可能なマルチモーダルモデルを進化させる基盤を提供し、現実的なシナリオで目に見えないモダリティを扱えるようにします。
論文 参考訳(メタデータ) (2024-12-24T08:38:35Z) - Bridging the Gap for Test-Time Multimodal Sentiment Analysis [7.871669754963032]
マルチモーダル感情分析(マルチモーダル感情分析、Multimodal sentiment analysis、MSA)は、複数のモーダルを通して人間の感情や感情を理解し、認識することを目的とした、新たな研究トピックである。
本稿では,コントラスト適応(Contrastive Adaptation)と安定擬似ラベル生成(Stable Pseudo-label generation, CASP)の2つの手法を提案する。
論文 参考訳(メタデータ) (2024-12-10T02:26:33Z) - Generalize or Detect? Towards Robust Semantic Segmentation Under Multiple Distribution Shifts [56.57141696245328]
斬新なクラスとドメインの両方が存在するようなオープンワールドシナリオでは、理想的なセグメンテーションモデルは安全のために異常なクラスを検出する必要がある。
既存の方法はドメインレベルとセマンティックレベルの分散シフトを区別するのに苦労することが多い。
論文 参考訳(メタデータ) (2024-11-06T11:03:02Z) - Bridging OOD Detection and Generalization: A Graph-Theoretic View [21.84304334604601]
OODの一般化と検出の両問題に対処するためのグラフ理論フレームワークを提案する。
グラフ定式化を利用すると、グラフの隣接行列の分解によってデータ表現が得られる。
経験的結果は既存の手法と比較して競争性能を示す。
論文 参考訳(メタデータ) (2024-09-26T18:35:51Z) - Learning Feature Inversion for Multi-class Anomaly Detection under General-purpose COCO-AD Benchmark [101.23684938489413]
異常検出(AD)は、しばしば産業品質検査や医学的病変検査のための異常の検出に焦点が当てられている。
この研究はまず、COCOをADフィールドに拡張することにより、大規模で汎用的なCOCO-ADデータセットを構築する。
セグメンテーション分野のメトリクスにインスパイアされた我々は、より実用的なしきい値に依存したAD固有のメトリクスをいくつか提案する。
論文 参考訳(メタデータ) (2024-04-16T17:38:26Z) - Feed Two Birds with One Scone: Exploiting Wild Data for Both
Out-of-Distribution Generalization and Detection [31.68755583314898]
そこで本稿では,未ラベルのデータを野生で自由に利用できるように活用する,マージンベースの学習フレームワークを提案する。
我々は,提案した限界制約がOOD一般化と検出の両方を達成する鍵であることを実証的および理論的に示す。
論文 参考訳(メタデータ) (2023-06-15T14:32:35Z) - Variational Distillation for Multi-View Learning [104.17551354374821]
我々は,多視点表現学習における2つの重要な特徴を利用するために,様々な情報ボトルネックを設計する。
厳密な理論的保証の下で,本手法は,観察とセマンティックラベルの内在的相関の把握を可能にする。
論文 参考訳(メタデータ) (2022-06-20T03:09:46Z) - Unsupervised Domain Adaptation in Person re-ID via k-Reciprocal
Clustering and Large-Scale Heterogeneous Environment Synthesis [76.46004354572956]
個人再識別のための教師なし領域適応手法を提案する。
実験結果から,ktCUDA法とSHRED法は,再同定性能において,+5.7 mAPの平均的改善を実現することがわかった。
論文 参考訳(メタデータ) (2020-01-14T17:43:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。