論文の概要: Towards Fast and Disentangled Counterfactuals for Visual Foundation Models

• arxiv url: http://arxiv.org/abs/2610.00895v1
• Date: Thu, 01 Oct 2026 01:19:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:23.838174
• Title: Towards Fast and Disentangled Counterfactuals for Visual Foundation Models
• Title（参考訳）: ファウンデーションモデルのための高速・遠方性対策
• Abstract要約: 基礎モデルのための分散拡散オートエンコーダ(DiDAE)を提案する。 カウンターファクトは、非絡み合った辞書の方向に沿って1つのクローズドフォーム編集であり、次に復号化される。 DiDAEは、最先端技術よりも2000倍高速である。
• 参考スコア（独自算出の注目度）: 16.733762913398966
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Foundation models remain vulnerable to spurious correlations and ``Clever Hans'' strategies. Explainable machine learning can find and remove such strategies for classifiers without metadata. For foundation models, no such option exists yet. We propose Disentangled Diffusion Autoencoders (DiDAE). DiDAE wraps a frozen foundation model in a conditional diffusion decoder. A counterfactual is one closed-form edit along a direction of a disentangled dictionary, followed by decoding. The dictionary can be supervised (Procrustes) or unsupervised (Singular Value Decomposition, Sparse Autoencoders). No gradients are needed, so DiDAE is up to 2000 times faster than the state of the art. We evaluate on six datasets, two synthetic and four real-world. In a desiderata-driven benchmark on three of them, its counterfactuals are on par with or better than the state of the art, and they repair downstream classifiers through Counterfactual Knowledge Distillation (CFKD), where they beat metadata-based correction. The same machinery can rank a pretrained dictionary against a trained classifier. It returns the few directions the classifier actually reads, each causally verified by a counterfactual that flips the decision, and repairs the classifier along those a teacher marks spurious. The workflow is plug-and-play in our open-source Peal library we publish alongside the paper. With a public dictionary and a pretrained decoder, all that remains is a cheap linear distillation of the classifier and its own fine-tuning.
• Abstract（参考訳）: 基礎モデルは、急激な相関や 'Clever Hans' の戦略に弱いままである。 説明可能な機械学習は、メタデータなしで分類器のこのような戦略を見つけ、取り除くことができる。 基礎モデルについては、そのような選択肢はまだ存在しない。 分散拡散オートエンコーダ(DiDAE)を提案する。 DiDAEは条件拡散デコーダで凍結基礎モデルをラップする。 カウンターファクトは、非絡み合った辞書の方向に沿って1つのクローズドフォーム編集であり、次に復号化される。 辞書は、教師(Procrustes)または教師なし(Singular Value Decomposition, Sparse Autoencoders)でもよい。 勾配は不要なので、DiDAEは最先端の2000倍高速である。 我々は,6つのデータセット,2つの合成と4つの実世界について評価した。 それらの3つのデシラタ駆動のベンチマークでは、そのカウンターファクトは最先端のものと同等かそれ以上であり、下流の分類器をCFKD(Counterfactual Knowledge Distillation)で修復し、メタデータベースの補正を破る。 同じ機械は、訓練済みの辞書を、訓練済みの分類器に対してランク付けすることができる。 分類器が実際に読んでいるいくつかの方向を返し、それぞれが正当性によって慎重に検証され、決定を覆し、教師のマークに沿って分類器を修復する。 ワークフローは当社のオープンソースのPealライブラリにプラグイン・アンド・プレイで、論文と一緒に公開しています。 公開辞書と事前訓練されたデコーダで、残されているものは分類器とそれ自身の微調整の安価な線形蒸留である。

関連論文リスト

• Encoder-Decoder Manifold Alignment for Idempotent Generation [51.959208893243776]
  この失敗の主な理由は、エンコーダとデコーダによって学習された多様体間の幾何学的ミスマッチである。 我々は、エンコーダとデコーダに同じ基礎となるデータ多様体の一貫性のある表現を学習させ、このギャップを明示的に埋める新しいトレーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-06-21T02:14:37Z)
• Visual Disentangled Diffusion Autoencoders: Scalable Counterfactual Generation for Foundation Models [1.3535770763481902]
  ファンデーションモデルは、堅牢なゼロショット機能にもかかわらず、急激な相関と「クリーバーハンズ」戦略に弱いままである。 本研究では,凍結基盤モデルと解離辞書学習を統合した新しいフレームワークであるVisual Disentangled Diffusion Autoencoders (DiDAE)を提案する。 DiDAEはまず、不整合辞書の解釈可能な不整合方向への基礎モデルの埋め込みを編集し、拡散オートエンコーダを介してデコードする。
  論文  参考訳（メタデータ） (2026-01-29T15:25:37Z)
• RevCD -- Reversed Conditional Diffusion for Generalized Zero-Shot Learning [0.6792605600335813]
  コンピュータビジョンでは、視覚的特徴と利用可能なセマンティック情報の関係を利用して、目に見えないカテゴリからの知識を未知のカテゴリに転送する。 本稿では,視覚入力から意味的特徴を生成することで,この問題を緩和する逆条件拡散モデル(RevCD)を提案する。 我々のRevCDモデルは、正弦波時間スケジュールのクロスアダマール・アドデッション埋め込みと、注意誘導型埋め込みのためのマルチヘッド視覚変換器からなる。
  論文  参考訳（メタデータ） (2024-08-31T17:37:26Z)
• Forging the Forger: An Attempt to Improve Authorship Verification via Data Augmentation [52.72682366640554]
  著者検証(英語: Authorship Verification, AV)とは、ある特定の著者によって書かれたか、別の人物によって書かれたのかを推測するテキスト分類タスクである。 多くのAVシステムは敵の攻撃に弱いことが示されており、悪意のある著者は、その書体スタイルを隠蔽するか、あるいは他の著者の書体を模倣することによって、積極的に分類者を騙そうとしている。
  論文  参考訳（メタデータ） (2024-03-17T16:36:26Z)
• Towards Automated Identification of Violation Symptoms of Architecture Erosion [2.915855887948474]
  本稿では,コードレビューにおける開発者の議論から,違反症状の自動識別について検討する。 我々は,事前学習した単語埋め込みを用いた15の機械学習に基づく分類器を開発し,コードレビューのコメントで評価した。 その結果, word2vec を用いた SVM は F1 スコア 0.779 で最高の ML/DL 性能を示した。
  論文  参考訳（メタデータ） (2023-06-14T16:20:59Z)
• Noise-Robust Dense Retrieval via Contrastive Alignment Post Training [89.29256833403167]
  Contrastive Alignment POst Training (CAPOT) は、指数再生を必要とせず、モデルロバスト性を改善する高効率な微調整法である。 CAPOTはドキュメントエンコーダを凍結することで堅牢な検索を可能にし、クエリエンコーダはノイズの多いクエリを修正されていないルートに整列させる。 MSMARCO、Natural Questions、Trivia QAパス検索のCAPOTノイズ変動を評価し、CAPOTがオーバーヘッドを伴わないデータ増大に類似した影響があることを発見した。
  論文  参考訳（メタデータ） (2023-04-06T22:16:53Z)
• Semi-Supervised Text Classification via Self-Pretraining [0.0]
  本稿では,自己学習と呼ばれる半教師付き学習モデルを提案する。 我々のモデルは古典的な自己学習アルゴリズムにインスパイアされている。 以前はラベル付けされていた文書に対する信条を更新する可能性がある。
  論文  参考訳（メタデータ） (2021-09-30T17:45:16Z)
• Autoencoding Variational Autoencoder [56.05008520271406]
  我々は,この行動が学習表現に与える影響と,自己整合性の概念を導入することでそれを修正する結果について検討する。 自己整合性アプローチで訓練されたエンコーダは、敵攻撃による入力の摂動に対して頑健な(無神経な)表現につながることを示す。
  論文  参考訳（メタデータ） (2020-12-07T14:16:14Z)
• Auto-Encoding Twin-Bottleneck Hashing [141.5378966676885]
  本稿では,効率よく適応的なコード駆動グラフを提案する。 自動エンコーダのコンテキストでデコードすることで更新される。 ベンチマークデータセットの実験は、最先端のハッシュ手法よりもフレームワークの方が優れていることを明らかに示しています。
  論文  参考訳（メタデータ） (2020-02-27T05:58:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。