論文の概要: On the Properties of Feature Attribution for Supervised Contrastive Learning

• arxiv url: http://arxiv.org/abs/2604.22540v1
• Date: Fri, 24 Apr 2026 13:32:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-27 15:36:26.471827
• Title: On the Properties of Feature Attribution for Supervised Contrastive Learning
• Title（参考訳）: 教師付きコントラスト学習における特徴属性の特性について
• Abstract要約: 分類のためのほとんどのニューラルネットワーク(NN)は、損失関数としてクロスエントロピーを用いて訓練されている。 対照的学習(CL)では、NNが埋め込みスペースを生成し、類似したデータのプロジェクションをまとめる。 Supervised CL (SCL) はCEロバスト性に対して, 対向性およびアウト・オブ・ディストリビューション検出において重要な優位性を提供する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Most Neural Networks (NNs) for classification are trained using Cross-Entropy as a loss function. This approach requires the model to have an explicit classification layer. However, there exist alternative approaches, such as Contrastive Learning (CL). Instead of explicitly operating a classification, CL has the NN produce an embedding space where projections of similar data are pulled together, while projections of dissimilar data are pushed apart. In the case of Supervised CL (SCL), labels are adopted as similarity criteria, thus creating an embedding space where the projected data points are well-clustered. SCL provides crucial advantages over CE with regard to adversarial robustness and out-of-distribution detection, thus making it a more natural choice in safety-critical scenarios. In the present paper, we empirically show that NNs for image classification trained with SCL present higher-quality feature attribution explanations than CL with regard to faithfulness, complexity, and continuity. These results reinforce previous findings about CL-based approaches when targeting more trustworthy and transparent NNs and can guide practitioners in the selection of training objectives targeting not only accuracy, but also transparency of the models.
• Abstract（参考訳）: 分類のためのほとんどのニューラルネットワーク(NN)は、損失関数としてクロスエントロピーを用いて訓練されている。 このアプローチでは、明確な分類層を持つ必要がある。 しかし、Contrastive Learning (CL)のような別のアプローチもある。 分類を明示的に操作する代わりに、CL は NN に、類似したデータのプロジェクションをまとめ、異なるデータのプロジェクションを分割する埋め込み空間を作らせている。 Supervised CL (SCL) の場合、ラベルは類似性基準として採用され、投影されたデータポイントが適切にクラスタリングされた埋め込み空間が生成される。 SCLは、敵のロバスト性やアウト・オブ・ディストリビューション検出に関して、CEに対して重要なアドバンテージを提供するため、安全クリティカルなシナリオにおいてより自然な選択となる。 本稿では,SCLで訓練された画像分類のためのNNが,忠実度,複雑性,連続性に関して,CLよりも高品質な特徴帰属説明を提示することを実証的に示す。 これらの結果は、より信頼性が高く透明なNNをターゲットにしたCLベースのアプローチに関する以前の知見を補強し、モデルの正確性だけでなく透明性も目標とするトレーニング目標の選択を実践者の指導に役立てることができる。

関連論文リスト

• When Features Become Instances: Inverted Contrastive Learning for Unsupervised Feature Selection [0.0]
  教師なしの特徴選択は、クラスラベルにアクセスすることなく、情報的特徴のコンパクトなサブセットを求める。 Inverted Contrastive Learning for Unsupervised Feature Selection (ICLFS)を提案する。 ICLFSは、UFSをサンプルではなく特徴よりも表現学習の問題として再定義する。
  論文  参考訳（メタデータ） (2026-09-01T06:25:43Z)
• Concept Regions Matter: Benchmarking CLIP with a New Cluster-Importance Approach [20.898059440239603]
  クラスタベースの概念重要度(CCI)は、新しい解釈可能性手法である。 CCIは、忠実度ベンチマークの新たな最先端を定めている。 今回,18種類のCLIPの包括的評価を行った。
  論文  参考訳（メタデータ） (2025-11-17T05:01:24Z)
• On the Alignment Between Supervised and Self-Supervised Contrastive Learning [8.71512981775656]
  自己指導型コントラスト学習(CL)は経験的成功を収めた。 最近の理論では、CLの損失は教師付きサロゲートであるNegatives-Only Supervised Contrastive Learning (NSCL)の損失と密接に近似している。 共有ランダム性の下で学習したCLモデルとNSCLモデルの表現アライメントを解析する。
  論文  参考訳（メタデータ） (2025-10-09T23:01:42Z)
• Mitigating Catastrophic Forgetting in Task-Incremental Continual Learning with Adaptive Classification Criterion [50.03041373044267]
  本稿では,継続的学習のための適応型分類基準を用いた教師付きコントラスト学習フレームワークを提案する。 実験により, CFLは最先端の性能を達成し, 分類基準に比べて克服する能力が強いことが示された。
  論文  参考訳（メタデータ） (2023-05-20T19:22:40Z)
• Dynamic Conceptional Contrastive Learning for Generalized Category Discovery [76.82327473338734]
  Generalized category discovery (GCD) は、部分的にラベル付けされたデータを自動でクラスタリングすることを目的としている。 ラベル付きデータには、ラベル付きデータの既知のカテゴリだけでなく、新しいカテゴリのインスタンスも含まれている。 GCDの効果的な方法の1つは、ラベルなしデータの識別表現を学習するために自己教師付き学習を適用することである。 本稿では,クラスタリングの精度を効果的に向上する動的概念コントラスト学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-03-30T14:04:39Z)
• Learning Deep Representations via Contrastive Learning for Instance Retrieval [11.736450745549792]
  本稿では、インスタンス識別に基づくコントラスト学習(CL)を用いて、この問題に取り組むための最初の試みを行う。 本研究では、事前学習されたCLモデルと微調整されたCLモデルから識別表現を導出する能力を探求することにより、この問題に対処する。
  論文  参考訳（メタデータ） (2022-09-28T04:36:34Z)
• Using Representation Expressiveness and Learnability to Evaluate Self-Supervised Learning Methods [61.49061000562676]
  本稿では,学習可能性を評価するためにCluster Learnability (CL)を導入する。 CLは、K-meansで表現をクラスタリングすることによって得られたラベルを予測するために訓練されたKNNのパフォーマンスで測定される。 CLは、他の競合する評価手法よりも分布内モデルの性能と相関することがわかった。
  論文  参考訳（メタデータ） (2022-06-02T19:05:13Z)
• You Never Cluster Alone [150.94921340034688]
  我々は、主流のコントラスト学習パラダイムをクラスタレベルのスキームに拡張し、同じクラスタに属するすべてのデータが統一された表現に寄与する。 分類変数の集合をクラスタ化代入信頼度として定義し、インスタンスレベルの学習トラックとクラスタレベルの学習トラックを関連付ける。 代入変数を再パラメータ化することで、TCCはエンドツーエンドでトレーニングされる。
  論文  参考訳（メタデータ） (2021-06-03T14:59:59Z)
• ORDisCo: Effective and Efficient Usage of Incremental Unlabeled Data for Semi-supervised Continual Learning [52.831894583501395]
  連続学習は、入力されたデータが完全にラベル付けされていると仮定し、実際のアプリケーションでは適用できないかもしれない。 我々は、条件付き生成逆数ネットワーク(GAN)を用いた分類器を相互に学習するために、識別器整合(ORDisCo)を用いたディープオンライン再生を提案する。 ORDisCo が SSCL の様々な半教師付き学習ベンチマークデータセットで大幅なパフォーマンス向上を達成していることを示します。
  論文  参考訳（メタデータ） (2021-01-02T09:04:14Z)
• Continual Learning in Recurrent Neural Networks [67.05499844830231]
  リカレントニューラルネットワーク(RNN)を用いた逐次データ処理における連続学習手法の有効性を評価する。 RNNに弾性重み強化などの重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重 そこで本研究では,重み付け手法の性能が処理シーケンスの長さに直接的な影響を受けず,むしろ高動作メモリ要求の影響を受けていることを示す。
  論文  参考訳（メタデータ） (2020-06-22T10:05:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。