論文の概要: Robust Computer Vision in an Ever-Changing World: A Survey of Techniques
for Tackling Distribution Shifts
- arxiv url: http://arxiv.org/abs/2312.01540v1
- Date: Sun, 3 Dec 2023 23:40:12 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-05 17:01:42.472241
- Title: Robust Computer Vision in an Ever-Changing World: A Survey of Techniques
for Tackling Distribution Shifts
- Title(参考訳): 常に変化する世界におけるロバストコンピュータビジョン:分散シフトに対処するための技術調査
- Authors: Eashan Adhikarla, Kai Zhang, Jun Yu, Lichao Sun, John Nicholson and
Brian D. Davison
- Abstract要約: AIアプリケーションは、ますます一般大衆に注目を集めている。
コンピュータビジョンモデルに関する理論的な仮定と、それらのモデルが現実世界に展開する際に直面する現実との間には、顕著なギャップがある。
このギャップの重要な理由の1つは、分散シフトとして知られる難しい問題である。
- 参考スコア(独自算出の注目度): 20.17397328893533
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: AI applications are becoming increasingly visible to the general public.
There is a notable gap between the theoretical assumptions researchers make
about computer vision models and the reality those models face when deployed in
the real world. One of the critical reasons for this gap is a challenging
problem known as distribution shift. Distribution shifts tend to vary with
complexity of the data, dataset size, and application type. In our paper, we
discuss the identification of such a prominent gap, exploring the concept of
distribution shift and its critical significance. We provide an in-depth
overview of various types of distribution shifts, elucidate their distinctions,
and explore techniques within the realm of the data-centric domain employed to
address them. Distribution shifts can occur during every phase of the machine
learning pipeline, from the data collection stage to the stage of training a
machine learning model to the stage of final model deployment. As a result, it
raises concerns about the overall robustness of the machine learning techniques
for computer vision applications that are deployed publicly for consumers.
Different deep learning models each tailored for specific type of data and
tasks, architectural pipelines; highlighting how variations in data
preprocessing and feature extraction can impact robustness., data augmentation
strategies (e.g. geometric, synthetic and learning-based); demonstrating their
role in enhancing model generalization, and training mechanisms (e.g. transfer
learning, zero-shot) fall under the umbrella of data-centric methods. Each of
these components form an integral part of the neural-network we analyze
contributing uniquely to strengthening model robustness against distribution
shifts. We compare and contrast numerous AI models that are built for
mitigating shifts in hidden stratification and spurious correlations, ...
- Abstract(参考訳): AIアプリケーションは、ますます一般大衆に注目を集めている。
コンピュータビジョンモデルに関する理論的な仮定と、それらのモデルが現実世界に展開する際に直面する現実との間には、顕著なギャップがある。
このギャップの重大な理由の1つは、分散シフトと呼ばれる難しい問題である。
分散シフトは、データの複雑さ、データセットサイズ、アプリケーションタイプによって異なります。
本稿では,このような顕著なギャップの同定について論じ,分布シフトの概念とその重要性について考察する。
本稿では,様々な分散シフトの詳細な概要と,その相違を解明し,それに対応するデータ中心領域の領域における技術を探究する。
データ収集段階からマシンラーニングモデルをトレーニング段階から最終モデルデプロイメント段階まで、マシンラーニングパイプラインのすべてのフェーズにおいて、分散シフトが発生する可能性がある。
その結果、消費者向けに公開されているコンピュータビジョンアプリケーションのための機械学習技術の全体的な堅牢性に対する懸念が高まる。
異なるディープラーニングモデルはそれぞれ、特定のタイプのデータやタスク、アーキテクチャパイプラインに対応しており、データ前処理や機能抽出のバリエーションが堅牢性にどのように影響するかを強調している。
データ拡張戦略(幾何学、合成、学習など)、モデル一般化の促進におけるその役割の実証、およびトレーニングメカニズム(転送学習、ゼロショットなど)は、データ中心の手法の傘下にある。
これらのコンポーネントはそれぞれ、分散シフトに対するモデルロバスト性強化に一意に寄与するために、ニューラルネットワークの不可欠な部分を形成します。
我々は、隠れ階層化とスプリアス相関のシフトを緩和するために作られた多数のaiモデルを比較して比較する。
関連論文リスト
- A Survey of Deep Graph Learning under Distribution Shifts: from Graph Out-of-Distribution Generalization to Adaptation [59.14165404728197]
我々は,分散シフト下での深層グラフ学習について,最新かつ先見的なレビューを行う。
具体的には,グラフ OOD 一般化,トレーニング時グラフ OOD 適応,テスト時グラフ OOD 適応の3つのシナリオについて述べる。
文献の理解を深めるために,提案した分類に基づく既存モデルを体系的に分類した。
論文 参考訳(メタデータ) (2024-10-25T02:39:56Z) - Learning Divergence Fields for Shift-Robust Graph Representations [73.11818515795761]
本研究では,相互依存データに対する問題に対して,学習可能な分散場を持つ幾何学的拡散モデルを提案する。
因果推論によって新たな学習目標が導出され、ドメイン間で無神経な相互依存の一般化可能なパターンを学習するためのモデルが導出される。
論文 参考訳(メタデータ) (2024-06-07T14:29:21Z) - Machine Learning vs Deep Learning: The Generalization Problem [0.0]
本研究では,従来の機械学習(ML)モデルとディープラーニング(DL)アルゴリズムの比較能力について,外挿の観点から検討した。
本稿では,MLモデルとDLモデルの両方が指数関数で学習され,学習領域外の値でテストされる経験的分析を提案する。
その結果,ディープラーニングモデルには,学習範囲を超えて一般化する固有の能力があることが示唆された。
論文 参考訳(メタデータ) (2024-03-03T21:42:55Z) - Better, Not Just More: Data-Centric Machine Learning for Earth Observation [16.729827218159038]
モデル中心の視点から補完的なデータ中心の視点へのシフトは、より正確性、一般化能力、そしてエンドユーザーアプリケーションへの影響を高めるために必要である。
本研究は、地理空間データに対する自動データ中心学習手法の正確な分類と概要と、その定義を提示する。
論文 参考訳(メタデータ) (2023-12-08T19:24:05Z) - Fantastic Gains and Where to Find Them: On the Existence and Prospect of
General Knowledge Transfer between Any Pretrained Model [74.62272538148245]
事前訓練されたモデルの任意のペアリングに対して、一方のモデルは他方では利用できない重要なデータコンテキストを抽出する。
このような「補的」な知識を,性能劣化を伴わずに,あるモデルから別のモデルへ伝達できるかどうかを検討する。
論文 参考訳(メタデータ) (2023-10-26T17:59:46Z) - ProtoVAE: Prototypical Networks for Unsupervised Disentanglement [1.6114012813668934]
本稿では,自己スーパービジョンを用いて学習した深層学習型プロトタイプネットワークを活用する,新しい深部生成型VAEモデルProtoVAEを提案する。
我々のモデルは、完全に教師なしであり、要素数を含むデータセットの事前知識を必要としない。
提案手法をベンチマークdSprites, 3DShapes, MPI3Dディジアングルメントデータセット上で評価した。
論文 参考訳(メタデータ) (2023-05-16T01:29:26Z) - Synthetic-to-Real Domain Generalized Semantic Segmentation for 3D Indoor
Point Clouds [69.64240235315864]
本稿では,本課題に対して,合成-実領域一般化設定を提案する。
合成と実世界のポイントクラウドデータのドメインギャップは、主に異なるレイアウトとポイントパターンにあります。
CINMixとMulti-prototypeの両方が分配ギャップを狭めることを示した。
論文 参考訳(メタデータ) (2022-12-09T05:07:43Z) - CHALLENGER: Training with Attribution Maps [63.736435657236505]
ニューラルネットワークのトレーニングに属性マップを利用すると、モデルの正規化が向上し、性能が向上することを示す。
特に、我々の汎用的なドメインに依存しないアプローチは、ビジョン、自然言語処理、時系列タスクにおける最先端の結果をもたらすことを示す。
論文 参考訳(メタデータ) (2022-05-30T13:34:46Z) - Deep invariant networks with differentiable augmentation layers [87.22033101185201]
データ拡張ポリシーの学習方法は、保持データを必要とし、二段階最適化の問題に基づいている。
我々のアプローチは、現代の自動データ拡張技術よりも訓練が簡単で高速であることを示す。
論文 参考訳(メタデータ) (2022-02-04T14:12:31Z) - Visual Representation Learning Does Not Generalize Strongly Within the
Same Domain [41.66817277929783]
我々は、17の教師なし、弱弱教師付き、完全教師付き表現学習アプローチが、単純なデータセットの変動の生成要因を正しく推測するかどうかを検証した。
2000以上のモデルをトレーニングし、テストし、それらすべてが、監視信号やアーキテクチャバイアスに関係なく、基盤となるメカニズムを学ぶのに苦労していることを観察します。
論文 参考訳(メタデータ) (2021-07-17T11:24:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。