論文の概要: Cumulative Meta-Learning from Active Learning Queries for Robustness to Spurious Correlations
- arxiv url: http://arxiv.org/abs/2605.20771v1
- Date: Wed, 20 May 2026 06:14:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-21 19:19:56.51787
- Title: Cumulative Meta-Learning from Active Learning Queries for Robustness to Spurious Correlations
- Title（参考訳）: ロバストネスと純粋相関のためのアクティブラーニングクエリからの累積メタラーニング
- Authors: Kin Whye Chew, Jingxian Wang,
- Abstract要約: Cumulative Active Meta-Learning(CAML)は、クエリ済みのサンプルを使用して、事前または帰納的バイアスをメタ学習し、モデルがどのように適応するかを管理する、アクティブラーニングフレームワークである。
また,CAMLは,スプリアス相関ベンチマークや買収戦略を用いて,マイノリティーグループ精度を向上することを示した。
- 参考スコア（独自算出の注目度）: 2.3234871809423585
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Spurious correlations in real-world datasets cause machine learning models to rely on irrelevant patterns, undermining reliability, generalization, and fairness. Active learning offers a promising way to address this failure mode by querying informative samples that distinguish core features from spurious ones. However, standard active-learning methods simply append queried examples to the labeled set, effectively updating only the likelihood term. In deep learning regimes, the influence of these informative samples can be diluted by the larger labeled set and memorized by overparameterized models. We propose Cumulative Active Meta-Learning (CAML), an active-learning framework that uses queried examples to meta-learn the prior, or inductive bias, governing how the model adapts. CAML casts each active-learning round as a meta-learning task: the current labeled set serves as meta-train data for adaptation, while the newly queried batch serves as meta-test data for evaluating generalization. Unlike conventional meta-learning, which treats tasks as independent and identically distributed, CAML exploits the sequential dependence between active-learning rounds by maintaining a cumulative inductive bias that is progressively refined. Theoretically, we show that this cumulative formulation introduces interaction terms that couple earlier meta-learned inductive biases with later query-induced objectives, capturing dependencies absent from standard meta-learning. Empirically, CAML improves minority-group accuracy across spurious-correlation benchmarks and acquisition strategies, with gains of up to 27.8% on Dominoes, 29.9% on Waterbirds, 14.3% on SpuCo, and 24.0% on CivilComments.
- Abstract（参考訳）: 現実のデータセットの鮮やかな相関は、機械学習モデルに無関係なパターンに依存し、信頼性、一般化、公正さを損なう。
アクティブな学習は、この障害モードに対処するための有望な手段を提供する。
しかし、標準的なアクティブラーニング手法は単にラベル付き集合にクエリされた例を付加するだけで、可能性項のみを効果的に更新する。
深層学習体制においては、これらの情報的サンプルの影響はより大きなラベル付き集合によって希釈され、過パラメータ化モデルによって記憶される。
本稿では,事前のメタ学習や帰納的バイアスを問合せに使用してモデルを適応させる,アクティブラーニングフレームワークであるCumulative Active Meta-Learning(CAML)を提案する。
CAMLは、各アクティブラーニングラウンドをメタラーニングタスクとしてキャストし、現在のラベル付きセットは、適応のためのメタトレインデータとして機能し、新しくクエリされたバッチは、一般化を評価するメタテストデータとして機能する。
タスクを独立的で同一に分散したものとして扱う従来のメタラーニングとは異なり、CAMLは累積帰納バイアスを維持して、アクティブラーニングラウンド間のシーケンシャルな依存を利用する。
理論的には、この累積的定式化は、初期メタ学習の帰納的バイアスと後続のクエリ誘導目的との相互作用項を導入し、標準メタ学習から欠落した依存関係をキャプチャすることを示した。
実証的に、CAMLは急激な相関ベンチマークと買収戦略で少数グループの精度を向上し、ドミノでは27.8%、ウォーターバードでは29.9%、スプーコでは14.3%、シビルコメンツでは24.0%まで上昇した。
関連論文リスト
- Hybrid Meta-learners for Estimating Heterogeneous Treatment Effects [1.9506923346234724]
観測データから条件平均治療効果(CATE)を推定するには、教師付き学習とは異なる決定をモデル化する必要がある。
従来のアプローチは、2つの主要な「メタ・ラーナー」パラダイムに分類することができる。
データセットに応じて直接正規化と間接正規化を補間する新しい正規化戦略であるHybrid Learner(H-learner)を導入する。
論文 参考訳（メタデータ） (2025-06-16T16:37:20Z) - Rethinking Meta-Learning from a Learning Lens [35.98940987691948]
メタラーニングの理論的理解と実践的実践のギャップを埋める方法について考察する。
タスク関係を利用してメタ学習を校正するプラグイン・アンド・プレイ方式TRLearnerを提案する。
論文 参考訳（メタデータ） (2024-09-13T02:00:16Z) - Spuriousness-Aware Meta-Learning for Learning Robust Classifiers [26.544938760265136]
Spurious correlations is brittle associations between certain attribute of inputs and target variables。
深部画像分類器はしばしばそれらを予測に利用し、相関が持たないデータの一般化が不十分になる。
スプリアス相関の影響を緩和することはロバストなモデル一般化に不可欠であるが、しばしばデータ内のスプリアス相関のアノテーションを必要とする。
論文 参考訳（メタデータ） (2024-06-15T21:41:25Z) - Conformal Meta-learners for Predictive Inference of Individual Treatment
Effects [0.0]
個別処理効果(ITE)における機械学習(ML)予測の問題点について検討する。
我々は,CATEメタラーナー上に標準共形予測(CP)手法を適用することで,ITTの予測区間を発行する一般的なフレームワークである共形メタラーナーを開発する。
論文 参考訳（メタデータ） (2023-08-28T20:32:22Z) - Scalable PAC-Bayesian Meta-Learning via the PAC-Optimal Hyper-Posterior:
From Theory to Practice [54.03076395748459]
メタラーニング文学の中心的な疑問は、目に見えないタスクへの一般化を保証するために、いかに正規化するかである。
本稿では,Rothfussらによって最初に導かれたメタラーニングの一般化について述べる。
PAC-Bayesian per-task 学習境界におけるメタラーニングの条件と程度について,理論的解析および実証事例研究を行った。
論文 参考訳（メタデータ） (2022-11-14T08:51:04Z) - Meta-Learning with Self-Improving Momentum Target [72.98879709228981]
メタラーナーの性能を向上させるために,SiMT(Self-improving Momentum Target)を提案する。
SiMTはメタラーナーの時間アンサンブルから適応してターゲットモデルを生成する。
我々は、SiMTが幅広いメタ学習手法と組み合わせることで、大きなパフォーマンス向上をもたらすことを示す。
論文 参考訳（メタデータ） (2022-10-11T06:45:15Z) - CMW-Net: Learning a Class-Aware Sample Weighting Mapping for Robust Deep
Learning [55.733193075728096]
現代のディープニューラルネットワークは、破損したラベルやクラス不均衡を含むバイアス付きトレーニングデータに容易に適合する。
サンプル再重み付け手法は、このデータバイアス問題を緩和するために一般的に使用されている。
本稿では,データから直接明示的な重み付け方式を適応的に学習できるメタモデルを提案する。
論文 参考訳（メタデータ） (2022-02-11T13:49:51Z) - BAMLD: Bayesian Active Meta-Learning by Disagreement [39.59987601426039]
本稿では,メタトレーニングタスクのラベル付け要求数を削減するための情報理論アクティブタスク選択機構を提案する。
本稿では,既存の取得メカニズムと比較した実験結果について報告する。
論文 参考訳（メタデータ） (2021-10-19T13:06:51Z) - Meta-Learned Confidence for Few-shot Learning [60.6086305523402]
数ショットのメトリックベースのアプローチのための一般的なトランスダクティブ推論手法は、最も確実なクエリ例の平均で、各クラスのプロトタイプを更新することである。
本稿では,各クエリの信頼度をメタラーニングして,ラベルのないクエリに最適な重みを割り当てる手法を提案する。
4つのベンチマークデータセットに対してメタ学習の信頼度で、少数ショットの学習モデルを検証した。
論文 参考訳（メタデータ） (2020-02-27T10:22:17Z) - Incremental Meta-Learning via Indirect Discriminant Alignment [118.61152684795178]
メタ学習のメタ学習段階において,段階的な学習の概念を発達させる。
我々のアプローチは、完全なメタトレーニングセットでモデルをトレーニングするのと比べて、テスト時に好適に機能する。
論文 参考訳（メタデータ） (2020-02-11T01:39:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。