Fugu-MT 論文翻訳(概要): AUGCAL: Improving Sim2Real Adaptation by Uncertainty Calibration on Augmented Synthetic Images

論文の概要: AUGCAL: Improving Sim2Real Adaptation by Uncertainty Calibration on Augmented Synthetic Images

arxiv url: http://arxiv.org/abs/2312.06106v3
Date: Mon, 29 Jul 2024 21:09:11 GMT
ステータス: 処理完了
システム内更新日: 2024-07-31 22:29:35.631405
Title: AUGCAL: Improving Sim2Real Adaptation by Uncertainty Calibration on Augmented Synthetic Images
Title（参考訳）: AUGCAL:Augmented Synthetic Imagesにおける不確かさ校正によるSim2Real Adaptationの改善
Authors: Prithvijit Chattopadhyay, Bharat Goyal, Boglarka Ecsedi, Viraj Prabhu, Judy Hoffman,
Abstract要約: AUGCALは, SIM2REAL適応モデルを改善するための簡易な訓練時間パッチであり, 1) 全体的な誤判定の低減, (2) 誤った予測における過度な信頼の低減,(3) 信頼スコアの信頼性の向上などによって, SIM2REAL適応モデルを改善する。我々は,未ラベルREALデータの誤校正方法の簡単な解析的正当性を用いて,AUGCALを動機付けている。
参考スコア（独自算出の注目度）: 17.62319962077315
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Synthetic data (SIM) drawn from simulators have emerged as a popular alternative for training models where acquiring annotated real-world images is difficult. However, transferring models trained on synthetic images to real-world applications can be challenging due to appearance disparities. A commonly employed solution to counter this SIM2REAL gap is unsupervised domain adaptation, where models are trained using labeled SIM data and unlabeled REAL data. Mispredictions made by such SIM2REAL adapted models are often associated with miscalibration - stemming from overconfident predictions on real data. In this paper, we introduce AUGCAL, a simple training-time patch for unsupervised adaptation that improves SIM2REAL adapted models by - (1) reducing overall miscalibration, (2) reducing overconfidence in incorrect predictions and (3) improving confidence score reliability by better guiding misclassification detection - all while retaining or improving SIM2REAL performance. Given a base SIM2REAL adaptation algorithm, at training time, AUGCAL involves replacing vanilla SIM images with strongly augmented views (AUG intervention) and additionally optimizing for a training time calibration loss on augmented SIM predictions (CAL intervention). We motivate AUGCAL using a brief analytical justification of how to reduce miscalibration on unlabeled REAL data. Through our experiments, we empirically show the efficacy of AUGCAL across multiple adaptation methods, backbones, tasks and shifts.
Abstract（参考訳）: シミュレータから抽出した合成データ(SIM)は,アノテートされた実世界の画像の取得が困難なトレーニングモデルの代替として人気がある。しかし, 合成画像上で訓練されたモデルを実世界のアプリケーションに転送することは, 外観の相違により困難である。このSIM2REALギャップに対処するための一般的な解決策は、ラベル付きSIMデータとラベルなしREALデータを使用してモデルをトレーニングする、教師なしのドメイン適応である。このようなSIM2REAL適応モデルによる誤予測は、しばしば誤判定と関連付けられ、これは実際のデータに対する過信的な予測から生じる。本稿では, SIM2REAL適応モデルを改善するための簡易な訓練時間パッチであるAUGCALについて紹介する。(1) 全体的な誤判定の低減, (2) 誤予測の過度さの低減,(3) 誤分類検出の改善による信頼性スコアの信頼性の向上など, SIM2REAL性能の維持・改善を図りつつ, SIM2REAL適応モデルの改良を行う。ベースSIM2REAL適応アルゴリズムが与えられた場合、トレーニング時に、AUGCALは、バニラSIMイメージを強力な拡張ビュー(AUG介入)に置き換え、拡張SIM予測(CAL介入)のトレーニング時間校正損失を最適化する。我々は,未ラベルREALデータの誤校正方法の簡単な解析的正当性を用いて,AUGCALを動機付けている。実験により、複数の適応方法、バックボーン、タスク、シフトにまたがるAUGCALの有効性を実証的に示す。

関連論文リスト

What Do Learning Dynamics Reveal About Generalization in LLM Reasoning? [83.83230167222852]
モデルの一般化動作は,事前記憶列車の精度と呼ばれるトレーニング指標によって効果的に特徴づけられることがわかった。モデルの学習行動と一般化を結びつけることで、トレーニング戦略に目標とする改善を導くことができる。
論文参考訳（メタデータ） (2024-11-12T09:52:40Z)
Learning Augmentation Policies from A Model Zoo for Time Series Forecasting [58.66211334969299]
本稿では,強化学習に基づく学習可能なデータ拡張手法であるAutoTSAugを紹介する。限界サンプルを学習可能なポリシーで強化することにより、AutoTSAugは予測性能を大幅に改善する。
論文参考訳（メタデータ） (2024-09-10T07:34:19Z)
Bridging the Sim-to-Real Gap with Bayesian Inference [53.61496586090384]
データからロボットダイナミクスを学習するためのSIM-FSVGDを提案する。我々は、ニューラルネットワークモデルのトレーニングを規則化するために、低忠実度物理プリエンスを使用します。高性能RCレースカーシステムにおけるSIM-to-realギャップのブリッジ化におけるSIM-FSVGDの有効性を実証する。
論文参考訳（メタデータ） (2024-03-25T11:29:32Z)
Improved Long Short-Term Memory-based Wastewater Treatment Simulators for Deep Reinforcement Learning [0.0]
排水処理データのトレーニングモデルを改善するための2つの手法を実装した。実験結果から, これらの手法を用いることで, シミュレーションの動作を1年を通して動的時間ワープで改善できることがわかった。
論文参考訳（メタデータ） (2024-03-22T10:20:09Z)
DUSA: Decoupled Unsupervised Sim2Real Adaptation for Vehicle-to-Everything Collaborative Perception [17.595237664316148]
自動運転車にとって、V2Xの協調認識は不可欠である。高精度なV2X知覚を実現するには、大量の注釈付き実世界のデータが必要である。 Decoupled Unsupervised Sim2Real Adaptation (DUSA) と名付けられたV2X協調検出のための新しい教師なしSim2realドメイン適応法を提案する。
論文参考訳（メタデータ） (2023-10-12T08:21:17Z)
Physics-Driven ML-Based Modelling for Correcting Inverse Estimation [6.018296524383859]
この研究は、SAE逆問題にそれらを採用する前に失敗した状態推定を検出し、修正することに焦点を当てている。本稿では,低エラーと高効率の両方を実現することを目的として,GEESEという新しい手法を提案する。 GEESEは3つの実世界のSAE逆問題でテストされ、最先端の最適化/探索手法と比較される。
論文参考訳（メタデータ） (2023-09-25T09:37:19Z)
Theoretical Characterization of the Generalization Performance of Overfitted Meta-Learning [70.52689048213398]
本稿では,ガウス的特徴を持つ線形回帰モデルの下で,過剰適合型メタラーニングの性能について検討する。シングルタスク線形回帰には存在しない新しい興味深い性質が見つかる。本分析は,各訓練課題における基礎的真理のノイズや多様性・変動が大きい場合には,良心過剰がより重要かつ容易に観察できることを示唆する。
論文参考訳（メタデータ） (2023-04-09T20:36:13Z)
Evaluating Prediction-Time Batch Normalization for Robustness under Covariate Shift [81.74795324629712]
我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
論文参考訳（メタデータ） (2020-06-19T05:08:43Z)
Extrapolation for Large-batch Training in Deep Learning [72.61259487233214]
我々は、バリエーションのホストが、我々が提案する統一されたフレームワークでカバー可能であることを示す。本稿では,この手法の収束性を証明し,ResNet,LSTM,Transformer上での経験的性能を厳格に評価する。
論文参考訳（メタデータ） (2020-06-10T08:22:41Z)
Designing Accurate Emulators for Scientific Processes using Calibration-Driven Deep Models [33.935755695805724]
Learn-by-Calibrating (LbC)は、科学応用においてエミュレータを設計するための新しいディープラーニングアプローチである。また,LbCは広く適応された損失関数の選択に対して,一般化誤差を大幅に改善することを示した。 LbCは、小さなデータレギュレータでも高品質なエミュレータを実現し、さらに重要なことは、明確な事前条件なしで固有のノイズ構造を復元する。
論文参考訳（メタデータ） (2020-05-05T16:54:11Z)
Self-Adaptive Training: beyond Empirical Risk Minimization [15.59721834388181]
余分な計算コストを伴わずにモデル予測により問題ラベルを動的に補正する新しいトレーニングアルゴリズムを提案する。自己適応型トレーニングは、様々なレベルのノイズに対する一般化を著しく改善し、自然と敵対両方のトレーニングにおいて過度に適合する問題を緩和する。 CIFARとImageNetデータセットの実験は、我々のアプローチの有効性を2つのアプリケーションで検証する。
論文参考訳（メタデータ） (2020-02-24T15:47:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。