論文の概要: Adaptive Conformal Guidance: A Framework for Multi-Domain Learning under Uncertainty
- arxiv url: http://arxiv.org/abs/2502.16736v3
- Date: Thu, 29 May 2025 23:40:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-02 15:03:34.235381
- Title: Adaptive Conformal Guidance: A Framework for Multi-Domain Learning under Uncertainty
- Title(参考訳): Adaptive Conformal Guidance: 不確実性下でのマルチドメイン学習のためのフレームワーク
- Authors: Rui Liu, Peng Gao, Yu Shen, Ming Lin, Pratap Tokekar,
- Abstract要約: AdaConGは、関連する不確実性に基づいて誘導信号の影響を動的に変調する。
我々はAdaConGを知識蒸留、半教師付き画像分類、グリッドワールドナビゲーション、自動運転など、さまざまな分野やタスクにわたって検証する。
- 参考スコア(独自算出の注目度): 38.20651868834144
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Learning with guidance has proven effective across a wide range of machine learning domains. Guidance may, for example, come from annotated datasets in supervised learning, pseudo-labels in semi-supervised learning, and expert demonstration policies in reinforcement learning. However, guidance signals can be noisy due to domain shifts and limited data availability and may not generalize well. Blindly trusting such signals when they are noisy, incomplete, or misaligned with the target domain can lead to degraded performance. To address these challenges, we propose $\underline{Ada}$ptive $\underline{Con}$formal $\underline{G}$uidance (AdaConG), a universal, plug-and-play framework that dynamically modulates the influence of guidance signals based on their associated uncertainty, quantified via split conformal prediction (CP). By adaptively adjusting to guidance uncertainty, AdaConG enables models to reduce reliance on potentially misleading signals and enhance learning performance. We validate AdaConG across diverse domains and tasks, including knowledge distillation, semi-supervised image classification, gridworld navigation, and autonomous driving. Experimental results demonstrate that AdaConG improves performance and robustness under imperfect guidance, e.g., in gridworld navigation, it accelerates convergence and achieves over $6\times$ higher rewards than the best-performing baseline. These results highlight AdaConG as a simple yet effective solution for multi-domain learning under uncertainty.
- Abstract(参考訳): ガイダンスによる学習は、幅広い機械学習領域で有効であることが証明されている。
例えば、ガイダンスは、教師付き学習における注釈付きデータセット、半教師付き学習における擬似ラベル、強化学習における専門家による実証ポリシーから得られる。
しかし、ドメインシフトやデータ可用性の制限により誘導信号がノイズになりうるため、十分に一般化できない場合がある。
ノイズ、不完全、あるいはターゲットドメインと不整合の場合には、そのような信号を盲目的に信頼すると、性能が低下する可能性がある。
これらの課題に対処するため、我々は、スプリット共形予測(CP)によって定量化された、関連する不確実性に基づいて誘導信号の影響を動的に変調する普遍的なプラグアンドプレイフレームワークである$\underline{Ada}$ptive $\underline{Con}$formal $\underline{G}$uidance (AdaConG)を提案する。
ガイダンスの不確実性に適応的に調整することで、AdaConGはモデルが潜在的に誤解を招く信号への依存を減らし、学習性能を向上させることができる。
我々はAdaConGを知識蒸留、半教師付き画像分類、グリッドワールドナビゲーション、自動運転など、さまざまな分野やタスクにわたって検証する。
実験結果から,AdaConGはグリッドワールドナビゲーションにおいて不完全な誘導の下で性能とロバスト性を向上し,コンバージェンスを加速し,最高性能のベースラインよりも6\times$高い報酬を得られることが示された。
これらの結果から,AdaConGは不確実性の下でのマルチドメイン学習において,単純かつ効果的なソリューションであることがわかった。
関連論文リスト
- Co-STAR: Collaborative Curriculum Self-Training with Adaptive Regularization for Source-Free Video Domain Adaptation [5.122518070721238]
Co-STARはカリキュラム学習と、ソース学習された教師と対照的な視覚言語モデル(CLIP)の協調的自己学習を統合している
カリキュラム学習アプローチでは,教師とCLIPの双方向予測アライメントを測定し,信頼性と不確実性の予測のバランスをとる信頼性に基づく重み関数を用いる。
さらに適応性を向上させるために,適応型カリキュラム正規化を提案し,その信頼性スコアと予測安定性に基づいて,確率的,適応的な方法でサンプルの学習優先度を変更する。
論文 参考訳(メタデータ) (2025-04-15T23:47:35Z) - Improve Knowledge Distillation via Label Revision and Data Selection [37.74822443555646]
本稿では,教師の不正確な予測を基礎的真理を用いて修正することを提案する。
後者では,教師が指導する適切なトレーニングサンプルを選択するためのデータ選択手法を提案する。
実験の結果,提案手法の有効性を実証し,他の蒸留法と組み合わせることができることを示した。
論文 参考訳(メタデータ) (2024-04-03T02:41:16Z) - Selective Knowledge Sharing for Privacy-Preserving Federated
Distillation without A Good Teacher [52.2926020848095]
フェデレーション学習は、ホワイトボックス攻撃に脆弱で、異種クライアントへの適応に苦慮している。
本稿では,選択的FD(Selective-FD)と呼ばれるFDのための選択的知識共有機構を提案する。
論文 参考訳(メタデータ) (2023-04-04T12:04:19Z) - Improving Adaptive Conformal Prediction Using Self-Supervised Learning [72.2614468437919]
我々は、既存の予測モデルの上に自己教師付きプレテキストタスクを持つ補助モデルを訓練し、自己教師付きエラーを付加的な特徴として用いて、非整合性スコアを推定する。
合成データと実データの両方を用いて、効率(幅)、欠陥、共形予測間隔の超過といった付加情報の利点を実証的に実証する。
論文 参考訳(メタデータ) (2023-02-23T18:57:14Z) - Differentiating Student Feedbacks for Knowledge Tracing [28.669001606806525]
本稿では,訓練における評価に基づいて,様々な反応の寄与を再重み付けする枠組みを提案する。
また,判別応答の少ない精度を維持するために,適応的な予測スコア融合手法を導入する。
論文 参考訳(メタデータ) (2022-12-16T13:55:07Z) - Distantly-Supervised Named Entity Recognition with Adaptive Teacher
Learning and Fine-grained Student Ensemble [56.705249154629264]
NERモデルの堅牢性を改善するために,自己学習型教員学生フレームワークを提案する。
本稿では,2つの教員ネットワークからなる適応型教員学習を提案する。
微粒な学生アンサンブルは、教師モデルの各フラグメントを、生徒の対応するフラグメントの時間移動平均で更新し、各モデルフラグメントのノイズに対する一貫した予測を強化する。
論文 参考訳(メタデータ) (2022-12-13T12:14:09Z) - Learning Domain Adaptive Object Detection with Probabilistic Teacher [93.76128726257946]
確率的教師(PT)と呼ばれる,シンプルで効果的な枠組みを提案する。
PTは、段階的に進化する教師から未ラベルの目標データの不確実性を捉え、相互に有利な方法で生徒の学習を指導することを目的としている。
また,不確実性誘導型自己学習を促進するために,新しいエントロピー・フォカル・ロス(EFL)を提案する。
論文 参考訳(メタデータ) (2022-06-13T16:24:22Z) - Agree to Disagree: Diversity through Disagreement for Better
Transferability [54.308327969778155]
本稿では,D-BAT(Diversity-By-dis-Agreement Training)を提案する。
我々は、D-BATが一般化された相違の概念から自然に現れることを示す。
論文 参考訳(メタデータ) (2022-02-09T12:03:02Z) - Grasping Detection Network with Uncertainty Estimation for
Confidence-Driven Semi-Supervised Domain Adaptation [17.16216430459064]
本稿では,信頼駆動型半教師付き学習を用いた新たな把握検出ネットワークを通じて,ドメイン適応が容易なアプローチを提案する。
提案した把握検出ネットワークは,特徴ピラミッドネットワーク(FPN)を利用した予測不確実性推定機構を特に提供し,平均教師半教師学習は,そのような不確実性情報を利用して,信頼度の高い非競合データに対してのみ整合性損失を強調する。
提案したネットワークは,コーネル把握データセット上で高い成功率を達成できることを示すとともに,極めて限られたデータでドメイン適応を行う場合,信頼駆動型平均教師は,元の平均教師と直接訓練を10%以上向上させる。
論文 参考訳(メタデータ) (2020-08-20T07:42:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。