論文の概要: Attention, May I Have Your Decision? Localizing Generative Choices in Diffusion Models

• arxiv url: http://arxiv.org/abs/2604.06052v1
• Date: Sun, 29 Mar 2026 22:06:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-08 17:42:09.93034
• Title: Attention, May I Have Your Decision? Localizing Generative Choices in Diffusion Models
• Title（参考訳）: 注意して、決定は可能か? : 拡散モデルにおける生成的選択の局所化
• Authors: Katarzyna Zaleska, Łukasz Popek, Monika Wysoczańska, Kamil Deja,
• Abstract要約: この研究は、この意思決定プロセスは拡散ではなく、モデルアーキテクチャ内で計算的に局所化されているという仮説を考察する。 本稿では,概念の分離性が最も高い層を識別するために,探索に基づくローカライズ手法を提案する。 その結果,曖昧な概念の解決は,主に自己注意層によって管理されていることが示唆された。 ICM (Implicit Choice-Modification) は,少数の層に目的の介入を適用する,精密なステアリング手法である。
• 参考スコア（独自算出の注目度）: 3.3470427195962458
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Text-to-image diffusion models exhibit remarkable generative capabilities, yet their internal operations remain opaque, particularly when handling prompts that are not fully descriptive. In such scenarios, models must make implicit decisions to generate details not explicitly specified in the text. This work investigates the hypothesis that this decision-making process is not diffuse but is computationally localized within the model's architecture. While existing localization techniques focus on prompt-related interventions, we notice that such explicit conditioning may differ from implicit decisions. Therefore, we introduce a probing-based localization technique to identify the layers with the highest attribute separability for concepts. Our findings indicate that the resolution of ambiguous concepts is governed principally by self-attention layers, identifying them as the most effective point for intervention. Based on this discovery, we propose ICM (Implicit Choice-Modification) - a precise steering method that applies targeted interventions to a small subset of layers. Extensive experiments confirm that intervening on these specific self-attention layers yields superior debiasing performance compared to existing state-of-the-art methods, minimizing artifacts common to less precise approaches. The code is available at https://github.com/kzaleskaa/icm.
• Abstract（参考訳）: テキストから画像への拡散モデルは顕著な生成能力を示すが、内部操作は不透明であり、特に完全に記述できないプロンプトを扱う場合である。 このようなシナリオでは、モデルはテキストに明示的に指定されていない詳細を生成するために暗黙的な決定をしなければならない。 この研究は、この意思決定プロセスは拡散ではなく、モデルアーキテクチャ内で計算的に局所化されているという仮説を考察する。 既存のローカライゼーション技術はプロンプト関連介入に重点を置いているが、そのような明示的な条件付けは暗黙の判断と異なる可能性があることに気付く。 そこで本研究では,概念の最も高い属性分離性を持つ層を識別する探索型ローカライズ手法を提案する。 本研究は, 曖昧な概念の解決は, 主に自己注意層によって制御され, 介入の最も効果的な点として認識されていることを示唆する。 この発見に基づいて、小さなレイヤサブセットにターゲットの介入を適用する精密なステアリング手法であるICM(Implicit Choice-Modification)を提案する。 大規模な実験により、これらの特定の自己注意層に介入することで、従来の最先端手法よりも優れたバイアス性能が得られ、より精度の低いアプローチに共通するアーティファクトを最小限に抑えることが確認された。 コードはhttps://github.com/kzaleskaa/icm.comで公開されている。

関連論文リスト

• Where and How to Perturb: On the Design of Perturbation Guidance in Diffusion and Flow Models [48.385105851598745]
  ヘードハンター(HeadHunter)は、ユーザ中心の目標に合わせた注意点を反復的に選択するための体系的なフレームワークである。 ソフトパグ(SoftPAG)は、摂動強度を調整し、アーティファクトを抑える連続したノブである。 大規模なDiTベースのテキスト・ツー・イメージ・モデルに対して,本手法の有効性を検証した。
  論文  参考訳（メタデータ） (2025-06-12T17:59:51Z)
• Generalized Interpolating Discrete Diffusion [65.74168524007484]
  仮面拡散はその単純さと有効性のために一般的な選択である。 ノイズ発生過程の設計において、より柔軟性の高い離散拡散(GIDD)を補間する新しいファミリを一般化する。 GIDDの柔軟性をエクスプロイトし、マスクと均一ノイズを組み合わせたハイブリッドアプローチを探索し、サンプル品質を向上する。
  論文  参考訳（メタデータ） (2025-03-06T14:30:55Z)
• MASALA: Model-Agnostic Surrogate Explanations by Locality Adaptation [3.587367153279351]
  既存のローカル説明可能なAI(XAI)メソッドは、与えられた入力インスタンスの近傍にある入力空間の領域を選択し、より単純で解釈可能な代理モデルを用いてモデルの振る舞いを近似する。 そこで本研究では,各インスタンスごとの衝突モデル行動の適切な局所領域を自動決定する手法であるMASALAを提案する。
  論文  参考訳（メタデータ） (2024-08-19T15:26:45Z)
• Learning Transferable Conceptual Prototypes for Interpretable Unsupervised Domain Adaptation [79.22678026708134]
  本稿では,Transferable Prototype Learning (TCPL) という,本質的に解釈可能な手法を提案する。 この目的を達成するために、ソースドメインからターゲットドメインにカテゴリの基本概念を転送する階層的なプロトタイプモジュールを設計し、基礎となる推論プロセスを説明するためにドメイン共有プロトタイプを学習する。 総合的な実験により,提案手法は有効かつ直感的な説明を提供するだけでなく,従来の最先端技術よりも優れていることが示された。
  論文  参考訳（メタデータ） (2023-10-12T06:36:41Z)
• This changes to that : Combining causal and non-causal explanations to generate disease progression in capsule endoscopy [5.287156503763459]
  本稿では,モデル依存型と非依存型の両方を組み合わせて説明セットを生成する統一的説明手法を提案する。 生成された説明はサンプルの近傍で一貫性があり、画像の内容と結果の因果関係を明らかにすることができる。
  論文  参考訳（メタデータ） (2022-12-05T12:46:19Z)
• An Additive Instance-Wise Approach to Multi-class Model Interpretation [53.87578024052922]
  解釈可能な機械学習は、ブラックボックスシステムの特定の予測を駆動する要因に関する洞察を提供する。 既存の手法は主に、局所的な加法的あるいはインスタンス的なアプローチに従う説明的入力特徴の選択に重点を置いている。 本研究は,両手法の長所を生かし,複数の対象クラスに対する局所的な説明を同時に学習するためのグローバルフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-07-07T06:50:27Z)
• Visualization of Supervised and Self-Supervised Neural Networks via Attribution Guided Factorization [87.96102461221415]
  クラスごとの説明性を提供するアルゴリズムを開発した。 実験の広範なバッテリーでは、クラス固有の可視化のための手法の能力を実証する。
  論文  参考訳（メタデータ） (2020-12-03T18:48:39Z)
• Explainable Deep Classification Models for Domain Generalization [94.43131722655617]
  説明は、深い分類網が決定を下す視覚的証拠の領域として定義される。 トレーニング戦略は周期的な正当性に基づくフィードバックを強制し、モデルが地中真実に直接対応する画像領域に焦点を合わせることを奨励する。
  論文  参考訳（メタデータ） (2020-03-13T22:22:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。