論文の概要: Shortcut Invariance: Targeted Jacobian Regularization in Disentangled Latent Space

• arxiv url: http://arxiv.org/abs/2511.19525v1
• Date: Mon, 24 Nov 2025 07:09:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-26 17:37:04.073122
• Title: Shortcut Invariance: Targeted Jacobian Regularization in Disentangled Latent Space
• Title（参考訳）: 短絡不変性:非交叉ラテント空間におけるターゲットジャコビアン正規化
• Authors: Shivam Pal, Sakshi Varshney, Piyush Rai,
• Abstract要約: ディープニューラルネットワークはショートカットを学習しやすく、刺激的で容易に学習できる相関関係を持つ。 ショートカット信号に機能的に不変な分類器を簡易かつ効果的に描画する手法を提案する。 我々はこれを対象のヤコビ正規化として分析し、分類器は急激な特徴を無視し、より複雑なコアセマンティック信号に依存するように強制する。
• 参考スコア（独自算出の注目度）: 7.8904984750896885
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep neural networks are prone to learning shortcuts, spurious and easily learned correlations in training data that cause severe failures in out-of-distribution (OOD) generalization. A dominant line of work seeks robustness by learning a robust representation, often explicitly partitioning the latent space into core and spurious components; this approach can be complex, brittle, and difficult to scale. We take a different approach, instead of a robust representation, we learn a robust function. We present a simple and effective training method that renders the classifier functionally invariant to shortcut signals. Our method operates within a disentangled latent space, which is essential as it isolates spurious and core features into distinct dimensions. This separation enables the identification of candidate shortcut features by their strong correlation with the label, used as a proxy for semantic simplicity. The classifier is then desensitized to these features by injecting targeted, anisotropic latent noise during training. We analyze this as targeted Jacobian regularization, which forces the classifier to ignore spurious features and rely on more complex, core semantic signals. The result is state-of-the-art OOD performance on established shortcut learning benchmarks.
• Abstract（参考訳）: ディープニューラルネットワークは、アウト・オブ・ディストリビューション(OOD)の一般化において深刻な障害を引き起こす訓練データにおいて、ショートカットを学習し、刺激的で容易に学習される相関関係を学習する傾向がある。 支配的な作業のラインは、堅牢な表現を学ぶことで堅牢性を求め、しばしば潜伏空間を、中核的で刺激的なコンポーネントに明示的に分割する。 私たちは、堅牢な表現ではなく、堅牢な関数を学びます。 ショートカット信号に機能的に不変な分類器を簡易かつ効果的に描画する手法を提案する。 本手法は, 急激な特徴と中核的特徴を異なる次元に分離する上で, 互いに絡み合った潜在空間内で機能する。 この分離により、意味的単純性のプロキシとして使用されるラベルとの強い相関によって、候補のショートカット特徴の識別が可能になる。 分類器は、訓練中に目標の異方性潜伏雑音を注入することでこれらの特徴に感性を与える。 我々はこれを対象のヤコビ正規化として分析し、分類器は急激な特徴を無視し、より複雑なコアセマンティック信号に依存するように強制する。 その結果、確立したショートカット学習ベンチマークにおける最先端のOOD性能が得られた。

関連論文リスト

• Semantic Concentration for Self-Supervised Dense Representations Learning [103.10708947415092]
  イメージレベルの自己教師型学習(SSL)は大きな進歩を遂げているが、パッチの密度の高い表現を学ぶことは依然として難しい。 この研究は、画像レベルのSSLが暗黙のセマンティックな集中を伴って過分散を避けることを明らかにしている。
  論文  参考訳（メタデータ） (2025-09-11T13:12:10Z)
• Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple Logits Retargeting Approach [102.0769560460338]
  我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。 提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
  論文  参考訳（メタデータ） (2024-03-01T03:27:08Z)
• Beyond Prototypes: Semantic Anchor Regularization for Better Representation Learning [82.29761875805369]
  表現学習の最終的な目標の1つは、クラス内のコンパクトさとクラス間の十分な分離性を達成することである。 本稿では,機能セントロイドとして機能する事前定義されたクラスアンカーを用いて,特徴学習を一方向ガイドする新しい視点を提案する。 提案したSemantic Anchor Regularization (SAR) は,既存モデルのプラグアンドプレイ方式で使用することができる。
  論文  参考訳（メタデータ） (2023-12-19T05:52:38Z)
• Learning Context-aware Classifier for Semantic Segmentation [88.88198210948426]
  本稿では,文脈認識型分類器の学習を通じて文脈ヒントを利用する。 本手法はモデルに依存しないため,ジェネリックセグメンテーションモデルにも容易に適用できる。 無視できる追加パラメータと+2%の推論時間だけで、小型モデルと大型モデルの両方で十分な性能向上が達成されている。
  論文  参考訳（メタデータ） (2023-03-21T07:00:35Z)
• Chroma-VAE: Mitigating Shortcut Learning with Generative Classifiers [44.97660597940641]
  生成モデルだけではショートカット学習を防ぐには不十分であることを示す。 特にChroma-VAE(英語版)を提案する。これは、VAEが最初、小さな潜伏部分空間でショートカットを分離するために訓練される2段階のアプローチである。 ベンチマークや実世界のショートカット学習におけるクロマVAEの有効性の実証に加えて, 生成型分類器の潜時空間を操作して, 特定の相関関係を分離・解釈する可能性を強調した。
  論文  参考訳（メタデータ） (2022-11-28T11:27:50Z)
• Regularizing Neural Network Training via Identity-wise Discriminative Feature Suppression [20.89979858757123]
  トレーニングサンプルの数が少ない場合、あるいはクラスラベルがうるさい場合、ネットワークはトレーニングエラーを最小限に抑えるために個々のインスタンス固有のパターンを記憶する傾向がある。 本稿では、経験的エラー最小化のために、インスタンス固有のパターンに依存するネットワークの傾向を抑えることで、改善策を検討する。
  論文  参考訳（メタデータ） (2022-09-29T05:14:56Z)
• Learning Debiased and Disentangled Representations for Semantic Segmentation [52.35766945827972]
  セマンティックセグメンテーションのためのモデルに依存しない訓練手法を提案する。 各トレーニングイテレーションで特定のクラス情報をランダムに除去することにより、クラス間の機能依存を効果的に削減する。 提案手法で訓練したモデルは,複数のセマンティックセグメンテーションベンチマークにおいて強い結果を示す。
  論文  参考訳（メタデータ） (2021-10-31T16:15:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。