論文の概要: Phase Matching for Out-of-Distribution Generalization
- arxiv url: http://arxiv.org/abs/2307.12622v6
- Date: Wed, 28 Aug 2024 03:45:08 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-29 21:31:09.068737
- Title: Phase Matching for Out-of-Distribution Generalization
- Title(参考訳): アウト・オブ・ディストリビューション一般化のための位相マッチング
- Authors: Chengming Hu, Yeqian Du, Rui Wang, Hao Chen, Congcong Zhu,
- Abstract要約: 本稿では,ドメイン一般化(DG)と周波数成分の関係を明らかにすることを目的とした。
我々は、DG問題に対処するPhaMaと呼ばれる位相マッチング手法を提案する。
複数のベンチマーク実験により,提案手法が最先端性能を実現することを示す。
- 参考スコア(独自算出の注目度): 9.786356781007122
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The Fourier transform, an explicit decomposition method for visual signals, has been employed to explain the out-of-distribution generalization behaviors of Deep Neural Networks (DNNs). Previous studies indicate that the amplitude spectrum is susceptible to the disturbance caused by distribution shifts, whereas the phase spectrum preserves highly-structured spatial information that is crucial for robust visual representation learning. Inspired by this insight, this paper is dedicated to clarifying the relationships between Domain Generalization (DG) and the frequency components. Specifically, we provide distribution analysis and empirical experiments for the frequency components. Based on these observations, we propose a Phase Matching approach, termed PhaMa, to address DG problems. To this end, PhaMa introduces perturbations on the amplitude spectrum and establishes spatial relationships to match the phase components with patch contrastive learning. Experiments on multiple benchmarks demonstrate that our proposed method achieves state-of-the-art performance in domain generalization and out-of-distribution robustness tasks. Beyond vanilla analysis and experiments, we further clarify the relationships between the Fourier components and DG problems by introducing a Fourier-based Structural Causal Model (SCM).
- Abstract(参考訳): 視覚信号の明示的な分解法であるフーリエ変換は、ディープニューラルネットワーク(DNN)の分布外一般化挙動を説明するために用いられている。
従来の研究では、振幅スペクトルは分布シフトによる乱れの影響を受けやすいが、位相スペクトルは頑健な視覚表現学習に不可欠な高度に構造化された空間情報を保存している。
この知見から着想を得た本論文は,ドメイン一般化(DG)と周波数成分の関係を明らかにすることを目的としている。
具体的には,周波数成分の分布解析と実験実験を行う。
これらの観測に基づいて、DG問題に対処するPhaMaと呼ばれる位相マッチング手法を提案する。
この目的のために、PhaMaは振幅スペクトルの摂動を導入し、位相成分とパッチコントラスト学習との空間的関係を確立する。
複数のベンチマーク実験により,提案手法は領域一般化および分布外ロバスト性タスクにおける最先端性能を実現することを示す。
バニラ解析や実験の他に、フーリエ構造因果モデル(SCM)を導入することにより、フーリエ成分とDG問題との関係をさらに明らかにする。
関連論文リスト
- Measurement-Induced Spectral Transition [0.0]
弱い測定に曝されるノイズの多い量子力学は、ギャップレス相とギャップド相の間のスペクトル遷移を示す。
ギャップレス位相とギャップド位相はそれぞれ、支配的なリャプノフベクトルに対する絡み合いエントロピーの体積-法則と面積-法則位相に対応していることを示す。
論文 参考訳(メタデータ) (2024-06-26T10:33:28Z) - HoloNets: Spectral Convolutions do extend to Directed Graphs [59.851175771106625]
従来の知恵は、スペクトル畳み込みネットワークは無向グラフ上にしか展開できないと規定している。
ここでは、このグラフフーリエ変換への伝統的な依存が超フルであることを示す。
本稿では,新たに開発されたフィルタの周波数応答解釈を行い,フィルタ表現に使用するベースの影響を調査し,ネットワークを基盤とする特性演算子との相互作用について議論する。
論文 参考訳(メタデータ) (2023-10-03T17:42:09Z) - Hodge-Aware Contrastive Learning [101.56637264703058]
単純コンプレックスは、マルチウェイ依存によるデータのモデリングに有効である。
我々は、単純なデータを処理するための対照的な自己教師付き学習手法を開発した。
論文 参考訳(メタデータ) (2023-09-14T00:40:07Z) - Exploring Invariant Representation for Visible-Infrared Person
Re-Identification [77.06940947765406]
異なるスペクトルを横断する歩行者にアイデンティティを関連付けることを目的とした、クロススペクトルの人物再識別は、モダリティの相違の主な課題に直面している。
本稿では、ロバスト機能マイニングネットワーク(RFM)と呼ばれるエンドツーエンドのハイブリッド学習フレームワークにおいて、画像レベルと特徴レベルの両方の問題に対処する。
RegDBとSYSU-MM01という2つの標準的なクロススペクトル人物識別データセットの実験結果により,最先端の性能が示された。
論文 参考訳(メタデータ) (2023-02-02T05:24:50Z) - Robust, Nonparametric, Efficient Decomposition of Spectral Peaks under
Distortion and Interference [0.0]
本稿では, 高速フーリエ変換を用いて, 周波数スペクトルのスペクトルピークの分解法を提案する。
スペクトルのピークを擬対称関数としてモデル化する。そこでは、距離が大きくなると中心周波数の周りの非増加的な振る舞いが制約となる。
我々のアプローチは、観測システムによって引き起こされる可能性のあるスペクトルの任意の歪み、干渉、ノイズに対してより堅牢である。
論文 参考訳(メタデータ) (2022-04-18T17:08:37Z) - Time-inhomogeneous diffusion geometry and topology [69.55228523791897]
拡散凝縮(英: Diffusion condensation)は、各ステップが最初に計算し、そのデータに拡散演算子を適用する時間不均質な過程である。
我々はこの過程の収束と進化を幾何学的、スペクトル的、位相的観点から理論的に分析する。
我々の研究は拡散凝縮の収束に関する理論的洞察を与え、トポロジカルデータ解析と幾何学的データ解析のリンクを提供することを示している。
論文 参考訳(メタデータ) (2022-03-28T16:06:17Z) - Spectral-Spatial Global Graph Reasoning for Hyperspectral Image
Classification [50.899576891296235]
畳み込みニューラルネットワークは、ハイパースペクトル画像分類に広く応用されている。
近年の手法は空間トポロジのグラフ畳み込みによってこの問題に対処しようとしている。
論文 参考訳(メタデータ) (2021-06-26T06:24:51Z) - A Fourier-based Framework for Domain Generalization [82.54650565298418]
ドメインの一般化は、複数のソースドメインから伝達可能な知識を学習して、未確認のターゲットドメインに一般化することでこの問題に対処することを目的としている。
本稿では、ドメイン一般化のための新しいフーリエに基づく視点を紹介する。
3つのベンチマーク実験により,提案手法は領域一般化のための最先端性能を実現することができることを示した。
論文 参考訳(メタデータ) (2021-05-24T06:50:30Z) - Interpreting Stellar Spectra with Unsupervised Domain Adaptation [0.0]
我々は、シミュレートされたドメインと観測されたドメイン間の転送がいかに可能かを示す。
恒星分光スカイサーベイを解釈するアプリケーションにより、我々はドメイン転送パイプラインを構築した。
論文 参考訳(メタデータ) (2020-07-06T23:09:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。