論文の概要: The Diffusion-Attention Connection
- arxiv url: http://arxiv.org/abs/2604.09560v1
- Date: Wed, 11 Feb 2026 17:27:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-19 19:09:11.495734
- Title: The Diffusion-Attention Connection
- Title(参考訳): 拡散・注意接続
- Authors: Julio Candanedo,
- Abstract要約: トランスフォーマー、拡散マップ、磁気ラプラシアンは通常別個のツールとして扱われる。
それらはすべて、事前のsoftmaxクエリスコアから構築された単一のマルコフ幾何学のレギュレーションであることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Transformers, diffusion-maps, and magnetic Laplacians are usually treated as separate tools; we show they are all different regimes of a single Markov geometry built from pre-softmax query-scores. We define a QK "bidivergence" whose exponentiated and normalized forms yield attention, diffusion-maps, and magnetic diffusion. And use product of experts and Schrödinger-bridges to connect and organize them into equilibrium, nonequilibrium steady-state, and driven dynamics.
- Abstract(参考訳): トランスフォーマー、拡散マップ、磁気ラプラシアンは通常、別個のツールとして扱われる。
我々は、指数化および正規化された形式が注意、拡散マップ、磁気拡散をもたらすQK「分岐」を定義する。
そして、専門家とシュレーディンガーブリッジの積を使って、それらを平衡、非平衡定常状態、駆動力学に結合し整理する。
関連論文リスト
- A Generative Sampler for distributions with possible discrete parameter based on Reversibility [9.349846971147256]
本稿では,多種多様な状態空間にまたがって適用可能な,統一的かつ段階的な目標自由な生成サンプリングフレームワークを提案する。
我々は,前方と後方のマルコフ軌道の関節分布の最大平均差 (MMD) を最小化する。
実験により,本フレームワークは熱力学観測器を正確に再現し,すべてのレシエーションでモードスイッチング動作を捉えていることがわかった。
論文 参考訳(メタデータ) (2026-03-10T06:32:51Z) - Exceptional points in Gaussian channels: diffusion gauging and drift-governed spectrum [0.0]
線形開量子系では、リウヴィリアスペクトルは雑音強度とは独立であることを示す。
我々はまず、このノイズ独立性原理を、多重モードボソニックなマルコフ半群に対して連続時間で正確にする。
論文 参考訳(メタデータ) (2026-01-22T17:16:06Z) - Foundations of Diffusion Models in General State Spaces: A Self-Contained Introduction [54.95522167029998]
この記事は、一般状態空間上の拡散に関する自己完結プライマーである。
我々は、その連続時間限界とともに離散時間ビュー(マルコフカーネルを経由し、逆ダイナミクスを学習する)を開発する。
一般的な変量処理は、標準の訓練損失を支えるELBOをもたらす。
論文 参考訳(メタデータ) (2025-12-04T18:55:36Z) - Different Phases in a Dissipative Rydberg Lattice : Roles of Occupancy and On-site Interaction [0.0]
光学格子における2レベル散逸性非平衡ボソニック・ライドバーグ系について検討する。
オンサイト相互作用強度によっては、システムは均一か反強磁性体のような密度波構造を持つことができる。
層間における初期集団差は密度波の秩序を高めるのに役立つことが観察された。
論文 参考訳(メタデータ) (2025-09-09T09:03:00Z) - Can We Achieve Efficient Diffusion without Self-Attention? Distilling Self-Attention into Convolutions [94.21989689001848]
従来の自己アテンションモジュールをピラミッド畳み込みブロック((Delta)ConvBlocks)に置き換えるための(Delta)ConvFusionを提案する。
ローカライズされた畳み込み操作に注意パターンを蒸留し、他のコンポーネントを凍結させながら、(Delta)ConvFusionは、トランスフォーマーベースの処理に匹敵する性能を達成し、計算コストを6929$times$、LinFusionを5.42$times$の効率で上回る。
論文 参考訳(メタデータ) (2025-04-30T03:57:28Z) - Generative Fractional Diffusion Models [53.36835573822926]
我々は,その基礎となる力学に分数拡散過程を利用する,最初の連続時間スコアベース生成モデルを導入する。
実画像データを用いた評価では,GFDMはFIDが低い値で示されるように,画素幅の多様性と画質の向上を実現している。
論文 参考訳(メタデータ) (2023-10-26T17:53:24Z) - Universal stability of coherently diffusive 1D systems with respect to decoherence [0.0]
我々は,コヒーレント拡散が存在する場合,輸送は非コヒーレントノイズに対して極めて安定であることを示す。
我々の結果は、多くの生物学的システムの機能に新たな光を当てるかもしれない。
論文 参考訳(メタデータ) (2023-07-11T15:49:51Z) - Spreading of a local excitation in a Quantum Hierarchical Model [62.997667081978825]
常磁性相における量子ダイソン階層モデルのダイナミクスについて検討する。
地磁気場状態の局所励起による初期状態を考慮する。
局所化機構が発見され、励起は任意の時間で初期位置に近づいたままである。
論文 参考訳(メタデータ) (2022-07-14T10:05:20Z) - GeoDiff: a Geometric Diffusion Model for Molecular Conformation
Generation [102.85440102147267]
分子配座予測のための新しい生成モデルGeoDiffを提案する。
GeoDiffは、既存の最先端のアプローチよりも優れているか、あるいは同等であることを示す。
論文 参考訳(メタデータ) (2022-03-06T09:47:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。