論文の概要: Towards out of distribution generalization for problems in mechanics
- arxiv url: http://arxiv.org/abs/2206.14917v1
- Date: Wed, 29 Jun 2022 21:14:08 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-02 07:56:20.416430
- Title: Towards out of distribution generalization for problems in mechanics
- Title（参考訳）: 力学における問題に対する分布一般化に向けて
- Authors: Lingxiao Yuan, Harold S. Park, Emma Lejeune
- Abstract要約: アウト・オブ・ディストリビューション(OOD)の一般化は、テストデータがシフトする可能性があると仮定する。
従来の機械学習(ML)手法は、トレーニング(観測された)データとテスト(見えない)データが独立して同一に分散されているという仮定に依存している。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: There has been a massive increase in research interest towards applying data
driven methods to problems in mechanics. While traditional machine learning
(ML) methods have enabled many breakthroughs, they rely on the assumption that
the training (observed) data and testing (unseen) data are independent and
identically distributed (i.i.d). Thus, traditional ML approaches often break
down when applied to real world mechanics problems with unknown test
environments and data distribution shifts. In contrast, out-of-distribution
(OOD) generalization assumes that the test data may shift (i.e., violate the
i.i.d. assumption). To date, multiple methods have been proposed to improve the
OOD generalization of ML methods. However, because of the lack of benchmark
datasets for OOD regression problems, the efficiency of these OOD methods on
regression problems, which dominate the mechanics field, remains unknown. To
address this, we investigate the performance of OOD generalization methods for
regression problems in mechanics. Specifically, we identify three OOD problems:
covariate shift, mechanism shift, and sampling bias. For each problem, we
create two benchmark examples that extend the Mechanical MNIST dataset
collection, and we investigate the performance of popular OOD generalization
methods on these mechanics-specific regression problems. Our numerical
experiments show that in most cases, while the OOD generalization algorithms
perform better compared to traditional ML methods on these OOD problems, there
is a compelling need to develop more robust OOD generalization methods that are
effective across multiple OOD scenarios. Overall, we expect that this study, as
well as the associated open access benchmark datasets, will enable further
development of OOD generalization methods for mechanics specific regression
problems.
- Abstract（参考訳）: メカニクスにおける問題に対するデータ駆動手法の適用に対する研究の関心が高まっている。
従来の機械学習(ML)法は多くのブレークスルーを可能にしてきたが、トレーニング(観測された)データとテスト(見えない)データが独立して同じ分散(すなわちd)であるという仮定に依存している。
したがって、未知のテスト環境とデータ分散シフトによる実世界のメカニクス問題に適用した場合、従来のMLアプローチは故障することが多い。
対照的に、out-of-distribution (ood) 一般化は、テストデータのシフト(すなわち、i.i.d.仮定に違反する)を仮定する。
これまで,ML手法のOOD一般化を改善するために,複数の手法が提案されてきた。
しかし、OOD回帰問題のベンチマークデータセットが欠如しているため、これらのOOD法が力学分野を支配している回帰問題に対する効率が不明である。
そこで本研究では,機械力学における回帰問題に対するOOD一般化手法の性能について検討する。
具体的には、共変量シフト、メカニズムシフト、サンプリングバイアスの3つのOOD問題を同定する。
各問題に対して、メカニカルMNISTデータセットコレクションを拡張する2つのベンチマーク例を作成し、これらの力学固有の回帰問題に対する一般的なOOD一般化手法の性能について検討する。
数値実験の結果,OODの一般化アルゴリズムは従来のML法に比べ性能がよいが,複数のOODシナリオで有効なOODの一般化手法を開発する必要があることが示唆された。
全体として、本研究は、関連するオープンアクセスベンチマークデータセットと同様に、メカニクス固有の回帰問題に対するOOD一般化手法をさらに発展させることを期待する。
関連論文リスト
- Mixture Data for Training Cannot Ensure Out-of-distribution Generalization [21.801115344132114]
トレーニングデータのサイズが大きくなると、必ずしもテスト一般化誤差が減少するとは限らない。
本研究では,OODデータを混合学習データの凸内外にあるデータとして定量的に再定義する。
新たなリスクバウンドの証明は、よく訓練されたモデルの有効性が、目に見えないデータに対して保証されることに同意する。
論文 参考訳（メタデータ） (2023-12-25T11:00:38Z) - Graph Structure and Feature Extrapolation for Out-of-Distribution Generalization [54.64375566326931]
アウト・オブ・ディストリビューション(OOD)の一般化は、テスト分布がトレーニング分布からシフトする一般的な学習シナリオを扱う。
我々は,非ユークリッド空間線型補間の新しい設計により,グラフOOD一般化を実現することを提案する。
我々の設計は、根底にある因果機構を損なうことなく、OODサンプルを特定のシフトのために調整する。
論文 参考訳（メタデータ） (2023-06-13T18:46:28Z) - Pseudo-OOD training for robust language models [78.15712542481859]
OOD検出は、あらゆる産業規模のアプリケーションに対する信頼性の高い機械学習モデルの鍵となるコンポーネントである。
In-distribution(IND)データを用いて擬似OODサンプルを生成するPOORE-POORE-POSthoc pseudo-Ood Regularizationを提案する。
我々は3つの現実世界の対話システムに関する枠組みを広く評価し、OOD検出における新たな最先端技術を実現した。
論文 参考訳（メタデータ） (2022-10-17T14:32:02Z) - Improved OOD Generalization via Conditional Invariant Regularizer [43.62211060412388]
クラスラベルが与えられた場合、スプリアス属性の条件付き独立モデルがOOD一般であることが示される。
このような条件独立度を測定するために,OOD誤差を制御する計量条件変分(CSV)を提案する。
この問題を解決するために,ミニケーブ収束率のアルゴリズムを提案する。
論文 参考訳（メタデータ） (2022-07-14T06:34:21Z) - Rethinking Machine Learning Robustness via its Link with the
Out-of-Distribution Problem [16.154434566725012]
本稿では,機械学習モデルの逆例に対する感受性の原因について検討する。
本稿では, 逆方向と自然方向の両方に反するOOD一般化法を提案する。
われわれのアプローチは、OODの敵入力に対する堅牢性を一貫して改善し、最先端の防御よりも優れています。
論文 参考訳（メタデータ） (2022-02-18T00:17:23Z) - Training OOD Detectors in their Natural Habitats [31.565635192716712]
アウト・オブ・ディストリビューション(OOD)検出は、野生にデプロイされた機械学習モデルにとって重要である。
近年の手法では,OOD検出の改善のために補助外乱データを用いてモデルを正規化している。
我々は、自然にIDとOODの両方のサンプルで構成される野生の混合データを活用する新しいフレームワークを提案する。
論文 参考訳（メタデータ） (2022-02-07T15:38:39Z) - No True State-of-the-Art? OOD Detection Methods are Inconsistent across
Datasets [69.725266027309]
アウト・オブ・ディストリビューション検出は、信頼できるMLシステムの重要なコンポーネントである。
本研究では,これらの手法が16対の標準セット上でのOOD検出よりも本質的に優れていることを示す。
また、ある(ID, OOD)ペアにおいて他の(ID, OOD)ペアよりも優れる手法は、低データ方式ではそうしない可能性があることを示す。
論文 参考訳（メタデータ） (2021-09-12T16:35:00Z) - Towards Out-Of-Distribution Generalization: A Survey [46.329995334444156]
アウト・オブ・ディストリビューションの一般化は、機械学習研究の新たなトピックである。
本論文は,OODの一般化に関する総合的,体系的な最初のレビューである。
論文 参考訳（メタデータ） (2021-08-31T05:28:42Z) - Improved OOD Generalization via Adversarial Training and Pre-training [49.08683910076778]
本稿では,入力摂動に頑健なモデルがOODデータによく一般化されることを理論的に示す。
従来, 対人訓練が入力難聴の改善に有効であったことが示唆され, 対人訓練モデルがOODデータに過剰なリスクを集中していることが示唆された。
論文 参考訳（メタデータ） (2021-05-24T08:06:35Z) - Learn what you can't learn: Regularized Ensembles for Transductive
Out-of-distribution Detection [76.39067237772286]
ニューラルネットワークの現在のアウト・オブ・ディストリビューション(OOD)検出アルゴリズムは,様々なOOD検出シナリオにおいて不満足な結果をもたらすことを示す。
本稿では,テストデータのバッチを観察した後に検出方法を調整することで,このような「ハード」なOODシナリオがいかに有用かを検討する。
本稿では,テストデータと正規化に人工ラベリング手法を用いて,テストバッチ内のOODサンプルに対してのみ矛盾予測を生成するモデルのアンサンブルを求める手法を提案する。
論文 参考訳（メタデータ） (2020-12-10T16:55:13Z) - On the Value of Out-of-Distribution Testing: An Example of Goodhart's
Law [78.10523907729642]
VQA-CPは視覚的質問応答の標準OODベンチマークとなっている。
ほとんどの公表された手法は、OOD分割の構成に関する明示的な知識に依存している。
ランダムに回答を生成できる手法を含む、恥ずかしいほど単純な手法が、いくつかの質問タイプで芸術の状態を超越していることを示す。
論文 参考訳（メタデータ） (2020-05-19T06:45:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。