論文の概要: Support-Conditioned Flow Matching Is Kernel Smoothing

• arxiv url: http://arxiv.org/abs/2605.13386v1
• Date: Wed, 13 May 2026 11:44:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-14 23:30:28.019844
• Title: Support-Conditioned Flow Matching Is Kernel Smoothing
• Title（参考訳）: サポート契約型フローマッチングはカーネルスムース
• Authors: Daniel Matsui Smola,
• Abstract要約: 有限支持集合によって誘導される正確な速度場はナダラヤ-ワトソン核スムーズであることを示す。 クロスアテンション条件を古典的カーネル理論に結びつける。 ガウス混合体、球状殻、DINOv2 ImageNet の機能の実験により、学習条件がこれらの状態において正確に改善されることが確認された。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generative models are often conditioned on a small set of examples via cross-attention. Under the Gaussian optimal-transport path, we show that the exact velocity field induced by a finite support set is a Nadaraya--Watson kernel smoother whose bandwidth decreases with flow time, from broad averaging at early steps to nearest-neighbor at late steps. A single Gaussian-kernel attention head exactly computes this field, connecting cross-attention conditioning to classical kernel theory. The theory predicts three failure regimes: nearest-neighbor collapse of the kernel at high dimension, mismatch between the isotropic kernel and the data geometry, and insufficient support for nonparametric estimation. Experiments on Gaussian mixtures, spherical shells, and DINOv2 ImageNet features confirm that learned conditioning improves in precisely these regimes, and that IP-Adapter's cross-attention implements approximate NW smoothing in practice.
• Abstract（参考訳）: 生成モデルは、しばしばクロスアテンションを通して小さな例のセットで条件付けされる。 ガウスの最適輸送経路の下では、有限支持集合によって誘導される正確な速度場は、フロー時間とともに帯域幅が減少するナダラヤ-ワトソン核滑らか化器であることを示す。 単一のガウスカーネルアテンションヘッドはこの場を正確に計算し、古典的カーネル理論とクロスアテンション条件を結びつける。 この理論は、隣り合うカーネルの高次元での崩壊、等方性カーネルとデータ幾何のミスマッチ、非パラメトリック推定に対する不十分なサポートの3つの障害状態を予測する。 ガウス混合、球状シェル、DINOv2 ImageNetの実験により、学習条件の精度はこれらのレシエーションで向上し、IP-Adapterのクロスアテンションは実際に近似NWスムーシングを実装していることを確認した。

関連論文リスト

• Hessian-vector products for tensor networks via recursive tangent-state propagation [1.5282767384702272]
  線形写像の任意の合成のために設計された解析的ヘッセンベクトル積カーネルを導入する。 我々の2次アプローチは、素粒子のトロッタライゼーションよりも4次精度の向上が達成される。
  論文  参考訳（メタデータ） (2026-04-22T09:38:08Z)
• LaplacianFormer:Rethinking Linear Attention with Laplacian Kernel [27.87296519831803]
  ソフトマックスアテンションの二次的複雑さは、トランスフォーマーを高解像度の視覚タスクにスケーリングする上で大きな障害となる。 ソフトマックスの代わりにラプラシアンカーネルを用いるトランスフォーマー変種であるラプラシアンフォーマーを提案する。 ImageNetの実験では、LaplacianFormerは高いパフォーマンスと効率のトレードオフを実現し、注意力を高めている。
  論文  参考訳（メタデータ） (2026-04-22T09:04:54Z)
• Symmetric Mean-field Langevin Dynamics for Distributional Minimax Problems [78.96969465641024]
  平均場ランゲヴィンのダイナミクスを、対称で証明可能な収束した更新で、初めて確率分布に対する最小の最適化に拡張する。 また,時間と粒子の離散化機構について検討し,カオス結果の新たな均一時間伝播を証明した。
  論文  参考訳（メタデータ） (2023-12-02T13:01:29Z)
• Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
  本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。 最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
  論文  参考訳（メタデータ） (2023-10-20T12:45:12Z)
• Accelerated Bayesian imaging by relaxed proximal-point Langevin sampling [4.848683707039751]
  本稿では, 画像逆問題におけるベイズ推定を行うために, マルコフ近位連鎖モンテカルロ法を提案する。 モロー・ヨシダの滑らか化によって滑らかにあるいは正規化されるモデルに対しては、中間点は過度に損傷されたランゲヴィン拡散の暗黙の離散化と等価である。 kappa$-strongly log-concaveのターゲットに対しては、提供された非漸近収束解析も最適な時間ステップを特定する。
  論文  参考訳（メタデータ） (2023-08-18T10:55:49Z)
• Scalable Optimal Transport in High Dimensions for Graph Distances, Embedding Alignment, and More [7.484063729015126]
  最適輸送のためのコスト行列の2つの効率的な対数線形時間近似を提案する。 これらの近似は、複雑な高次元空間に対してもよく機能するエントロピー規則化OTに対する一般的な対数線形時間アルゴリズムを可能にする。 グラフ距離回帰のために,グラフニューラルネットワーク(GNN)と拡張シンクホーンを組み合わせたグラフトランスポートネットワーク(GTN)を提案する。
  論文  参考訳（メタデータ） (2021-07-14T17:40:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。