論文の概要: Improving Context-Shift Robustness of Convolutional Networks via Context-Regularized Cross-Entropy
- arxiv url: http://arxiv.org/abs/2611.08157v1
- Date: Thu, 05 Nov 2026 15:16:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-07 04:55:13.560184
- Title: Improving Context-Shift Robustness of Convolutional Networks via Context-Regularized Cross-Entropy
- Title(参考訳): コンテキスト規則化されたクロスエントロピーによる畳み込みネットワークのコンテキストシフトロバスト性の改善
- Abstract要約: コンテクストシフト下での畳み込みニューラルネットワークの堅牢性を改善するための新しいトレーニングフレームワークを提案する。
提案手法では,空間的特徴属性を利用して,文脈的領域に依存せず,オブジェクト関連特徴に依存しない予測モデルを作成する。
我々は,複数の中規模から大規模のデータセットに対するアプローチの有効性を評価する。
- 参考スコア(独自算出の注目度): 1.8466658684464594
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Image classification models often encounter objects in diverse and unpredictable contexts at test time, which may differ substantially from those seen during training. This phenomenon, termed context shift, exposes a key fragility in neural networks: when models rely on non-causal contextual cues for prediction, shifts in context can lead to significant performance degradation. In this paper, we propose a novel training framework to improve the robustness of convolutional neural networks under context shift. Our approach leverages spatial feature attribution to guide models toward making predictions that rely less on contextual regions and more on object-relevant features. As a first step, recognizing a theoretical limitation of existing feature attribution methods we introduce a new variant, ContrastiveCAMs, which produces more faithful attribution maps of model predictions. Building on ContrastiveCAMs, we further propose Context-Regularized Cross-Entropy (CR-CE), a modification of the standard cross-entropy loss that regularizes the model's attention by suppressing the influence of contextual regions, thereby improving robustness to context shift. We evaluate the effectiveness of our approach on several medium-to-large scale datasets (Waterbirds, Spawrious, ImageNet/ImageNet-BG, Hard-ImageNet), and report consistent improvements in context-shift robustness.
- Abstract(参考訳): 画像分類モデルは、テスト時に、多様で予測不可能な状況のオブジェクトに遭遇することが多い。
この現象は、コンテキストシフトと呼ばれ、ニューラルネットワークにおける重要な脆弱性を露呈する。モデルが予測に非因果的なコンテキストキューに依存している場合、コンテキストの変化は、パフォーマンスを著しく低下させる可能性がある。
本稿では,コンテキストシフト下での畳み込みニューラルネットワークの堅牢性を改善するための新しいトレーニングフレームワークを提案する。
提案手法では,空間的特徴属性を利用して,文脈的領域に依存せず,オブジェクト関連特徴に依存しない予測モデルを作成する。
最初のステップとして、既存の特徴帰属法の理論的制限を認識し、モデル予測のより忠実な帰属写像を生成する新しい変種ContrastiveCAMを導入する。
ContrastiveCAM(ContrastiveCAM)上に構築されたCR-CE(Context-Regularized Cross-Entropy)は,コンテキスト領域の影響を抑えることによってモデルの注意を規則化する標準的なクロスエントロピー損失の修正であり,コンテキストシフトに対する堅牢性を向上させる。
我々は,複数の中規模から大規模のデータセット(Waterbirds, Spawrious, ImageNet/ImageNet-BG, Hard-ImageNet)に対するアプローチの有効性を評価し,コンテクストシフトのロバスト性について一貫した改善を報告した。
関連論文リスト
- Context-weighted Discrete Flow Matching [13.385997589934645]
本稿では,ローカルコンテキスト情報を組み込んだCTMC(Continuous-time Markov chain)の簡単な修正を提案する。
文脈重み付きサンプリング器は,計算オーバーヘッドを無視して生成品質を向上させる。
スケールしたクロスエントロピー損失関数は,異なるトークンからトレーニング信号を再重み付けし,OpenWebText上で生成パープレキシティを最大63%低減する。
論文 参考訳(メタデータ) (2026-07-23T15:29:49Z) - TRUST: Leveraging Text Robustness for Unsupervised Domain Adaptation [9.906359339999039]
視覚モデルの適応を導くために,言語モダリティの堅牢性を活用する新しいUDAアプローチを導入する。
視覚と言語の特徴空間を整合させるマルチモーダルなソフトコントラスト学習損失を提案する。
我々のアプローチは従来の手法よりも優れており、従来の(DomainNet)ドメインシフトと複雑な(GeoNet)ドメインシフトに新しい最先端の設定を施しています。
論文 参考訳(メタデータ) (2025-08-08T16:51:44Z) - Diversify, Contextualize, and Adapt: Efficient Entropy Modeling for Neural Image Codec [11.078070771578837]
より効率的な後方適応型エントロピーモデルが最近開発されている。
彼らのパフォーマンスは、前向きな適応のためのデザイン規約のシンプルな採用によって制限されている、と私たちは主張する。
本稿では,ビットレートを犠牲にすることなく,事前適応に十分なコンテキストを利用する,シンプルで効果的なエントロピーモデリングフレームワークを提案する。
論文 参考訳(メタデータ) (2024-11-06T04:30:04Z) - Improving Network Interpretability via Explanation Consistency Evaluation [56.14036428778861]
本稿では、より説明可能なアクティベーションヒートマップを取得し、同時にモデル性能を向上させるフレームワークを提案する。
具体的には、モデル学習において、トレーニングサンプルを適応的に重み付けするために、新しいメトリクス、すなわち説明整合性を導入する。
そこで,本フレームワークは,これらのトレーニングサンプルに深い注意を払ってモデル学習を促進する。
論文 参考訳(メタデータ) (2024-08-08T17:20:08Z) - Corner-to-Center Long-range Context Model for Efficient Learned Image
Compression [70.0411436929495]
学習された画像圧縮のフレームワークでは、コンテキストモデルは潜在表現間の依存関係をキャプチャする上で重要な役割を果たす。
本研究では,textbfCorner-to-Center 変換器を用いたコンテキストモデル (C$3$M) を提案する。
また,解析および合成変換における受容場を拡大するために,エンコーダ/デコーダのLong-range Crossing Attention Module (LCAM) を用いる。
論文 参考訳(メタデータ) (2023-11-29T21:40:28Z) - Improving Diversity in Zero-Shot GAN Adaptation with Semantic Variations [61.132408427908175]
0ショットのGAN適応は、よく訓練されたジェネレータを再利用して、目に見えないターゲットドメインの画像を合成することを目的としている。
実際の画像の代わりに1つの代表的テキスト機能しか持たないため、合成された画像は徐々に多様性を損なう。
そこで本研究では,CLIP空間における対象テキストの意味的変化を見つけるための新しい手法を提案する。
論文 参考訳(メタデータ) (2023-08-21T08:12:28Z) - Context Decoupling Augmentation for Weakly Supervised Semantic
Segmentation [53.49821324597837]
微調整されたセマンティックセグメンテーションは、近年深く研究されている困難な問題です。
本稿では、オブジェクトが現れる固有のコンテキストを変更する Context Decoupling Augmentation (CDA) メソッドを紹介します。
提案手法の有効性を検証するため, PASCAL VOC 2012データセットにいくつかの代替ネットワークアーキテクチャを用いた広範な実験を行い, CDAが様々なWSSS手法を新たな最先端技術に拡張できることを実証した。
論文 参考訳(メタデータ) (2021-03-02T15:05:09Z) - Encoding Robustness to Image Style via Adversarial Feature Perturbations [72.81911076841408]
我々は、画像画素ではなく特徴統計を直接摂動することで、頑健なモデルを生成することで、敵の訓練に適応する。
提案手法であるAdvBN(Adversarial Batch Normalization)は,トレーニング中に最悪の機能摂動を発生させる単一ネットワーク層である。
論文 参考訳(メタデータ) (2020-09-18T17:52:34Z) - On Robustness and Transferability of Convolutional Neural Networks [147.71743081671508]
現代の深層畳み込みネットワーク(CNN)は、分散シフトの下で一般化しないとしてしばしば批判される。
現代画像分類CNNにおける分布外と転送性能の相互作用を初めて検討した。
トレーニングセットとモデルサイズを増大させることで、分散シフトロバスト性が著しく向上することがわかった。
論文 参考訳(メタデータ) (2020-07-16T18:39:04Z) - Interpolation between Residual and Non-Residual Networks [24.690238357686134]
ダンピング項を追加することで,新しいODEモデルを提案する。
提案モデルでは係数を調整してResNetとCNNの両方を復元可能であることを示す。
複数の画像分類ベンチマーク実験により,提案手法はResNetとResNeXtの精度を大幅に向上することが示された。
論文 参考訳(メタデータ) (2020-06-10T09:36:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。