論文の概要: TOOD: Task-Aware Out-of-Distribution Score Calibration for Continual Learners

• arxiv url: http://arxiv.org/abs/2607.29592v1
• Date: Fri, 31 Jul 2026 16:18:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-03 14:29:40.794725
• Title: TOOD: Task-Aware Out-of-Distribution Score Calibration for Continual Learners
• Title（参考訳）: TOOD:継続的な学習者のためのタスク意識のアウト・オブ・ディストリビューションスコア校正
• Authors: Mostafa ElAraby, Samer B. Nashed, Liam Paull,
• Abstract要約: 本稿では,連続学習システムにおけるOOD検出のダイナミクスに関する知見を示す。 ToODは,ロジットをタスク毎のエネルギースコアに分解し,再校正する訓練不要のポストホック法である。 CIFAR-10、CIFAR-100、100タスクのImageNet-1Kストリームの実験では、TOODが未調整エネルギーよりもOOD検出性能を向上させることが示されている。
• 参考スコア（独自算出の注目度）: 12.865188175443427
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The primary challenge of continual learning (CL) systems is to learn new tasks while remaining performant on previously learned tasks. A similarly important though less well-studied aspect of CL systems is their ability to distinguish inputs that are unlikely to come from within the set of tasks the system has already encountered, often called out-of-distribution (OOD) detection. This paper presents several findings related to the dynamics of OOD detection in CL systems, causes of performance degradation over time which we call OOD forgetting (OODF), and proposed mitigation strategies for this degradation. Chiefly, we find the unintuitive result that OODF is only weakly anti-correlated with classification performance on previous tasks, suggesting that the underlying mechanisms producing OODF are distinct. Moreover, this effect is observed for both energy-based and feature-based OOD detection methods. Energy-based detectors suffer a drop in logit scale as additional tasks are learned, which we term the Confidence Gap, while feature-based detectors also degrade under a complementary effect we call Manifold Crowding. Motivated by these observations, we propose TOOD, a training-free post-hoc method that decomposes logits into per-task energy scores and re-calibrates them using replay-buffer statistics. Experiments on CIFAR-10, CIFAR-100, and a 100-task ImageNet-1K stream show that TOOD improves OOD detection performance over uncalibrated energy in most settings and ranks first or second in nine of ten CIFAR configurations, with the largest gains when the confidence gap is most severe. These results suggest that a substantial portion of OOD deterioration in continual learning arises from score miscalibration rather than from a complete loss of discriminative structure.
• Abstract（参考訳）: 継続学習(CL)システムの最大の課題は、以前に学習したタスクでパフォーマンスを維持しながら、新しいタスクを学習することである。 同様に、CLシステムのよく研究されていない側面は、システムが既に遭遇したタスクの集合の中では起こりそうもないインプットを区別する能力である(しばしば、out-of-distriion (OOD) 検出と呼ばれる)。 本稿では, CLシステムにおけるOOD検出のダイナミクス, OOD forgetting (OODF) と呼ばれる時間経過に伴う性能劣化の原因, そして, この劣化の緩和策を提案する。 主に、OODFが従来のタスクの分類性能と弱い反相関しか持たないという直感的な結果が得られ、OODFの生成メカニズムは異なることが示唆された。 さらに、この効果はエネルギーベースおよび特徴ベースOOD検出法の両方で観察される。 エネルギーベースの検出器は、新たなタスクが学習されるにつれてロジットスケールの低下に悩まされ、それは信頼性ギャップ(Confidence Gap)と呼ばれ、特徴ベースの検出器は、私たちがManifold Crowdingと呼ぶ補完効果の下でも劣化する。 これらの観測から得られたTOODは,ロジットをタスク毎のエネルギースコアに分解し,リプレイバッファ統計を用いて再校正する,トレーニング不要なポストホック法である。 CIFAR-10, CIFAR-100, 100-task ImageNet-1Kストリームによる実験では、TOODは、ほとんどの設定において未調整エネルギーよりもOOD検出性能を向上し、CIFAR構成の9つのうち1つまたは2つにランク付けする。 これらの結果から, 連続学習におけるOOD劣化のかなりの部分は, 識別構造が完全に失われることよりも, スコアの誤校正が原因であることが示唆された。

関連論文リスト

• A Robust Out-of-Distribution Detection Framework via Synergistic Smoothing [14.102179108540161]
  最先端のOOD検出器は敵の攻撃に非常に敏感である。 我々は、新しい、堅牢なポストホックOOD検出器であるROSを提案する。 ROSSはスコア最小化攻撃とスコア最大化攻撃の両方に強く反対する。
  論文  参考訳（メタデータ） (2026-05-05T15:45:38Z)
• HALO: Robust Out-of-Distribution Detection via Joint Optimisation [11.107924895663173]
  リアルタイムシナリオにおける機械学習モデルの安全なデプロイには、効果的なアウト・オブ・ディストリビューション(OOD)検出が不可欠である。 近年の研究では、OOD検出手法は敵攻撃に弱いことが示されており、高い精度のアプリケーションにおいて致命的な障害を引き起こす可能性がある。 分類と検出性能を高める新たな損失項を導入する。 私たちのアプローチはHALOと呼ばれ、既存のメソッドを超え、多くのデータセットとアタック設定で最先端のパフォーマンスを実現しています。
  論文  参考訳（メタデータ） (2025-02-27T04:40:18Z)
• Double Descent Meets Out-of-Distribution Detection: Theoretical Insights and Empirical Analysis on the role of model complexity [12.193620729333738]
  機械学習システムの信頼性と安全性を確保するためには、アウト・オブ・ディストリビューション(OOD)検出が不可欠である。 本稿では,モデルのトレーニング手順や目的を変更することなくOODサンプルを識別できるポストホックなOOD検出に焦点をあてる。
  論文  参考訳（メタデータ） (2024-11-04T15:39:12Z)
• MOODv2: Masked Image Modeling for Out-of-Distribution Detection [57.17163962383442]
  本研究は,様々なOODスコア関数を用いて,個別の事前学習課題について検討する。 当社のフレームワークMOODv2は,14.30%のAUROCをImageNetで95.68%に向上し,CIFAR-10で99.98%を達成した。
  論文  参考訳（メタデータ） (2024-01-05T02:57:58Z)
• AUTO: Adaptive Outlier Optimization for Test-Time OOD Detection [79.51071170042972]
  Out-of-Distribution (OOD) 検出は、任意のトレーニングインディストリビューション(ID)クラスに該当しないテストサンプルを検出することを目的としている。 データ安全性とプライバシにより、さまざまなシナリオに対して、事前にタスク固有の外れ値の収集が不可能になる。 テスト中にラベルのないデータストリームから実際のOODデータを利用することができる。
  論文  参考訳（メタデータ） (2023-03-22T02:28:54Z)
• Rethinking Out-of-distribution (OOD) Detection: Masked Image Modeling is All You Need [52.88953913542445]
  簡単な再構築手法を用いることで,OOD検出の性能が大幅に向上する可能性が示唆された。 我々は、OOD検出フレームワーク(MOOD)のプリテキストタスクとして、マスケ画像モデリング(Masked Image Modeling)を採用する。
  論文  参考訳（メタデータ） (2023-02-06T08:24:41Z)
• Free Lunch for Generating Effective Outlier Supervision [46.37464572099351]
  本稿では, ほぼ現実的な外乱監視を実現するための超効率的な手法を提案する。 提案したtextttBayesAug は,従来の方式に比べて偽陽性率を 12.50% 以上削減する。
  論文  参考訳（メタデータ） (2023-01-17T01:46:45Z)
• How to Exploit Hyperspherical Embeddings for Out-of-Distribution Detection? [22.519572587827213]
  CIDERは、OOD検出に超球面埋め込みを利用する表現学習フレームワークである。 CIDERは優れたパフォーマンスを確立し、FPR95では19.36%で最新のライバルを上回った。
  論文  参考訳（メタデータ） (2022-03-08T23:44:01Z)
• Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
  既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。 ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
  論文  参考訳（メタデータ） (2020-03-21T17:46:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。