論文の概要: Concept Reachability in Diffusion Models: Beyond Dataset Constraints

• arxiv url: http://arxiv.org/abs/2505.19313v1
• Date: Sun, 25 May 2025 21:00:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-27 16:58:43.048078
• Title: Concept Reachability in Diffusion Models: Beyond Dataset Constraints
• Title（参考訳）: 拡散モデルにおける概念到達可能性:データセット制約を超えて
• Authors: Marta Aparicio Rodriguez, Xenia Miscouridou, Anastasia Borovykh,
• Abstract要約: 本研究では,概念到達可能性の理解を深めるための一連の実験を紹介する。 我々は,概念の不足,キャプション内の概念の過小評価,関連概念によるデータバイアスという,3つの主要な障害を伴うトレーニングデータセットを設計する。 以上の結果から,ある概念は変換の特定の段階でのみ到達可能であることが示され,(iii)データセットの品質が低下するにつれて,その能力は急速に低下するが,ステアリングにより,概念は確実に到達可能であることが示唆された。
• 参考スコア（独自算出の注目度）: 1.3654846342364308
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Despite significant advances in quality and complexity of the generations in text-to-image models, prompting does not always lead to the desired outputs. Controlling model behaviour by directly steering intermediate model activations has emerged as a viable alternative allowing to reach concepts in latent space that may otherwise remain inaccessible by prompt. In this work, we introduce a set of experiments to deepen our understanding of concept reachability. We design a training data setup with three key obstacles: scarcity of concepts, underspecification of concepts in the captions, and data biases with tied concepts. Our results show: (i) concept reachability in latent space exhibits a distinct phase transition, with only a small number of samples being sufficient to enable reachability, (ii) where in the latent space the intervention is performed critically impacts reachability, showing that certain concepts are reachable only at certain stages of transformation, and (iii) while prompting ability rapidly diminishes with a decrease in quality of the dataset, concepts often remain reliably reachable through steering. Model providers can leverage this to bypass costly retraining and dataset curation and instead innovate with user-facing control mechanisms.
• Abstract（参考訳）: テキスト・ツー・イメージ・モデルでは世代間の品質と複雑さが大幅に向上しているにもかかわらず、プロンプトが常に望ましい出力に繋がるとは限らない。 中間モデルアクティベーションを直接操縦することでモデル動作を制御することは、他の場合ではアクティベーションによってアクセスできないような潜在空間の概念に到達できるようにするための、実行可能な代替手段として現れてきた。 本研究では,概念到達可能性の理解を深めるための一連の実験を紹介する。 我々は,概念の不足,キャプション内の概念の過小評価,関連概念によるデータバイアスという,3つの主要な障害を伴うトレーニングデータセットを設計する。 私たちの結果は以下のとおりです。 i) 潜在空間における概念到達性は相転移を示し、到達性を実現するのに十分なサンプルは少数のみである。 二 潜伏空間において、介入が実施されることが到達可能性に重大な影響を及ぼし、ある概念が変換の特定の段階でのみ到達可能であることを示すこと。 (三)データセットの品質の低下に伴い、能力の促進は急速に低下するが、ステアリングによって概念が確実に到達可能であることがしばしばある。 モデルプロバイダは、これを活用して、コストのかかるトレーニングやデータセットのキュレーションを回避し、代わりにユーザ対応のコントロールメカニズムを革新することができる。

関連論文リスト

• Concept Layers: Enhancing Interpretability and Intervenability via LLM Conceptualization [2.163881720692685]
  本稿では,概念層をアーキテクチャに組み込むことにより,解釈可能性とインターベンタビリティを既存モデルに組み込む新しい手法を提案する。 我々のアプローチは、モデルの内部ベクトル表現を、再構成してモデルにフィードバックする前に、概念的で説明可能なベクトル空間に投影する。 複数のタスクにまたがるCLを評価し、本来のモデルの性能と合意を維持しつつ、意味のある介入を可能にしていることを示す。
  論文  参考訳（メタデータ） (2025-02-19T11:10:19Z)
• Towards Robust and Reliable Concept Representations: Reliability-Enhanced Concept Embedding Model [22.865870813626316]
  概念ボトルネックモデル(Concept Bottleneck Models, CBM)は、人間の理解可能な概念を意思決定の中間体として予測することにより、解釈可能性を高めることを目的としている。 概念に関係のない特徴に対する感受性と、異なるサンプルの同じ概念に対する意味的一貫性の欠如である。 本稿では,Reliability-Enhanced Concept Embedding Model (RECEM) を提案する。Reliability-Enhanced Concept Embedding Model (RECEM) は2つの戦略を導入する。
  論文  参考訳（メタデータ） (2025-02-03T09:29:39Z)
• How to Continually Adapt Text-to-Image Diffusion Models for Flexible Customization? [91.49559116493414]
  本稿では,CIDM(Concept-Incremental Text-to-image Diffusion Model)を提案する。 破滅的な忘れと概念の無視を解決し、新しいカスタマイズタスクを概念的な方法で学習する。 実験により、CIDMが既存のカスタム拡散モデルを上回ることが確認された。
  論文  参考訳（メタデータ） (2024-10-23T06:47:29Z)
• Encapsulating Knowledge in One Prompt [56.31088116526825]
  KiOPは、元のモデルを変更したり、トレーニングデータにアクセスする必要なしに、さまざまなモデルからの知識を単独のプロンプトにカプセル化する。 実用性の観点から、このパラダイムは、データアクセス不能なコンテキストにおけるVisual Promptの有効性を証明している。 様々なデータセットとモデルを用いた実験は、提案したKiOP知識伝達パラダイムの有効性を示す。
  論文  参考訳（メタデータ） (2024-07-16T16:35:23Z)
• Improving Intervention Efficacy via Concept Realignment in Concept Bottleneck Models [57.86303579812877]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念に基づいて、解釈可能なモデル決定を可能にする画像分類である。 既存のアプローチは、強いパフォーマンスを達成するために、画像ごとに多数の人間の介入を必要とすることが多い。 本稿では,概念関係を利用した学習型概念認識介入モジュールについて紹介する。
  論文  参考訳（メタデータ） (2024-05-02T17:59:01Z)
• Concept Embedding Models [27.968589555078328]
  概念ボトルネックモデルは、人間のような概念の中間レベルに分類タスクを条件付けすることで、信頼性を促進する。 既存の概念ボトルネックモデルは、高いタスク精度、堅牢な概念に基づく説明、概念に対する効果的な介入の間の最適な妥協を見つけることができない。 本稿では,解釈可能な高次元概念表現を学習することで,現在の精度-vs-解釈可能性トレードオフを超える新しい概念ボトルネックモデルであるConcept Embedding Modelsを提案する。
  論文  参考訳（メタデータ） (2022-09-19T14:49:36Z)
• Exploring the Trade-off between Plausibility, Change Intensity and Adversarial Power in Counterfactual Explanations using Multi-objective Optimization [73.89239820192894]
  自動対物生成は、生成した対物インスタンスのいくつかの側面を考慮すべきである。 本稿では, 対実例生成のための新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2022-05-20T15:02:53Z)
• Towards Robust and Adaptive Motion Forecasting: A Causal Representation Perspective [72.55093886515824]
  本稿では,3つの潜伏変数群からなる動的過程として,運動予測の因果的形式化を導入する。 我々は、因果グラフを近似するために、不変なメカニズムやスタイルの共創者の表現を分解するモジュラーアーキテクチャを考案する。 合成および実データを用いた実験結果から,提案した3つの成分は,学習した動き表現の頑健性と再利用性を大幅に向上することが示された。
  論文  参考訳（メタデータ） (2021-11-29T18:59:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。