Fugu-MT 論文翻訳(概要): Transformer-based In-Context Score Operator Learning for Diffusion Models

論文の概要: Transformer-based In-Context Score Operator Learning for Diffusion Models

arxiv url: http://arxiv.org/abs/2610.13690v1
Date: Fri, 09 Oct 2026 14:53:49 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-13 04:06:29.645366
Title: Transformer-based In-Context Score Operator Learning for Diffusion Models
Title（参考訳）: 変圧器を用いた拡散モデルのためのインコンテキストスコア演算子学習
Abstract要約: 拡散モデルのためのコンテキスト内ソリューション演算子学習フレームワークを提案する。本手法では,コンテキストサンプル,ノイズの多いクエリポイント,タスク依存スコアへの拡散時間などをマッピングするコンテキスト内スコア演算子を学習する。本研究では,Navier-Stokes,ERA5気候データ,QuickDrawスケッチ,Food-101など,さまざまな科学的および視覚的なデータセットについて評価を行った。
参考スコア（独自算出の注目度）: 13.623694388702797
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Diffusion models typically learn the generative dynamics of a single target distribution or a family of distributions indexed by conditioning variables fixed during training. This limits their ability to adapt to a previously unseen distribution from only a small set of examples. We introduce an in-context solution operator learning framework for diffusion models, in which each target distribution is treated as a task drawn from a meta-distribution and is specified at inference time by an empirical context set. Our method learns an in-context score operator that maps the context samples, a noisy query point, and the diffusion time to the task-dependent score, enabling reverse-diffusion sampling on unseen tasks without retraining or parameter updates. A key observation is that the task-dependent score admits a Gaussian-kernel conditional-mean representation. Its empirical Nadaraya--Watson approximation can be represented exactly by a model in our constructed transformer class, providing a principled foundation for the proposed query-dependent attention architecture. The operator is trained through amortized denoising score matching across task distributions. We establish generalization-error bounds that quantify the effects of the context size, the numbers of training tasks and within-task samples, model complexity, and intrinsic and ambient dimensions. Numerically, we evaluate the method on a range of scientific and visual datasets, including Navier-Stokes, ERA5 climate data, QuickDraw sketches, and Food-101. The results show that the proposed method performs well on relatively simple task families, while its performance degrades as task complexity increases, thereby illustrating both the promise and the limitations of in-context learning for diffusion models.
Abstract（参考訳）: 拡散モデルは通常、訓練中に固定された条件付き変数によってインデックス付けされた単一対象分布または分布の族の生成力学を学ぶ。これにより、少数の例からしか見つからない分布に適応する能力が制限される。拡散モデルのためのコンテキスト内ソリューション演算子学習フレームワークを導入し、各ターゲット分布をメタ分布から引き出されたタスクとして扱い、経験的コンテキストセットで推論時に指定する。提案手法では,コンテキストサンプル,ノイズの多いクエリポイント,拡散時間をタスク依存スコアにマッピングするコンテキスト内スコア演算子を学習し,リトレーニングやパラメータ更新を行わずに未確認タスクの逆拡散サンプリングを可能にする。重要な観察は、タスク依存スコアがガウス-カーネル条件平均表現を受け入れることである。実験的なNadaraya-Watson近似は、構築されたトランスフォーマークラスのモデルによって正確に表現することができ、提案したクエリ依存型アテンションアーキテクチャの基礎となる。オペレータは、タスク分布にまたがるアモータイズされた復調スコアによってトレーニングされる。我々は,コンテキストサイズ,トレーニングタスク数,タスク内サンプル数,モデル複雑性,本質的および環境的次元の影響を定量化する一般化エラー境界を確立する。数値解析により,Navier-Stokes,ERA5気候データ,QuickDrawスケッチ,Food-101など,さまざまな科学的および視覚的なデータセットについて評価を行った。提案手法は,タスクの複雑性が増大するにつれて性能が低下するのに対して,比較的単純なタスクファミリでは良好に機能することを示す。

関連論文リスト

Attributing HOW, Not Just WHICH: Counterfactual Response Trajectories for Diffusion Models [6.151663523688704]
動的トラジェクトリ(CADT)を用いた新しい概念帰属法を提案する。同一ノイズ状態の対実対を構築し,因子特異的な表現変位を分離した。トレーニング例と生成されたクエリ毎に、CADTはステージワイズな特徴ベクトルを抽出し、デノナイズプロセスに沿ってそれらを統合して、トラジェクトリ記述子を形成する。
論文参考訳（メタデータ） (2026-10-08T04:40:24Z)
Sample complexity bounds for categorical Markov random fields via Discrete Diffusions [2.0339465062586566]
我々は、離散拡散のためのエンドツーエンドのサンプル複雑性境界を持つ学習方法を開発した。私たちの主要な技術的洞察は、離散的なスコアを分解する新しいエンピンジングです。両立型ニューラルスコア学習器を提案し,それを$$-leapingと組み合わせて,エンドツーエンドのサンプリング手順を得る。
論文参考訳（メタデータ） (2026-10-01T17:40:21Z)
A Foundation Model for Instruction-Conditioned In-Context Time Series Tasks [0.7677431882779153]
In-context Learning (ICL) では、モデルをパラメータを更新するのではなく、例に条件付けすることで推論時に適応させることができる。本稿では,量子レグレッションT5エンコーダを用いた命令条件付き時系列タスクの基礎モデルを提案する。
論文参考訳（メタデータ） (2026-03-23T21:24:41Z)
Consistent World Models via Foresight Diffusion [56.45012929930605]
我々は、一貫した拡散に基づく世界モデルを学習する上で重要なボトルネックは、最適下予測能力にあると主張している。本稿では,拡散に基づく世界モデリングフレームワークであるForesight Diffusion(ForeDiff)を提案する。
論文参考訳（メタデータ） (2025-05-22T10:01:59Z)
Provable Benefits of Task-Specific Prompts for In-context Learning [44.768199865867494]
本研究では,グローバルなタスク分布を条件付きタスク分布の結合に分割できる新しい設定について考察する。次に,タスク固有のプロンプトと予測ヘッドを用いて,一層アテンションモデルを用いて条件付きタスク分布に関連する事前情報を学習する。
論文参考訳（メタデータ） (2025-03-03T22:37:03Z)
Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
論文参考訳（メタデータ） (2023-12-27T09:03:43Z)
Time-series Generation by Contrastive Imitation [87.51882102248395]
モーメントマッチングの目的によってモチベーションされ、複合的エラーを軽減し、局所的(しかし前方的な)遷移ポリシーを最適化する。推論において、学習されたポリシーは反復的なサンプリングのジェネレータとして機能し、学習されたエネルギーはサンプルの品質を評価するための軌道レベル尺度として機能する。
論文参考訳（メタデータ） (2023-11-02T16:45:25Z)
An Additive Instance-Wise Approach to Multi-class Model Interpretation [53.87578024052922]
解釈可能な機械学習は、ブラックボックスシステムの特定の予測を駆動する要因に関する洞察を提供する。既存の手法は主に、局所的な加法的あるいはインスタンス的なアプローチに従う説明的入力特徴の選択に重点を置いている。本研究は,両手法の長所を生かし,複数の対象クラスに対する局所的な説明を同時に学習するためのグローバルフレームワークを提案する。
論文参考訳（メタデータ） (2022-07-07T06:50:27Z)
Conditional Meta-Learning of Linear Representations [57.90025697492041]
表現学習のための標準メタラーニングは、複数のタスク間で共有される共通の表現を見つけることを目的とする。本研究では,タスクの側情報を手作業に適した表現にマッピングし,条件付け関数を推定することで,この問題を克服する。この利点を実用的に活用できるメタアルゴリズムを提案する。
論文参考訳（メタデータ） (2021-03-30T12:02:14Z)
Learning Diverse Representations for Fast Adaptation to Distribution Shift [78.83747601814669]
本稿では,複数のモデルを学習する手法を提案する。分散シフトへの迅速な適応を促進するフレームワークの能力を実証する。
論文参考訳（メタデータ） (2020-06-12T12:23:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。