論文の概要: HodgePhaseNet: Discrete Hodge Decomposition of Semantic Flows in Transformer Attention
- arxiv url: http://arxiv.org/abs/2610.14971v1
- Date: Sat, 10 Oct 2026 14:45:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 03:04:54.474779
- Title: HodgePhaseNet: Discrete Hodge Decomposition of Semantic Flows in Transformer Attention
- Title（参考訳）: HodgePhaseNet: 変圧器注意における意味流の離散的ホッジ分解
- Abstract要約: HodgePhaseNet は、有限単純複体上の反対称実数値 1-cochain として意味遷移を表す。
本稿では,スパース実装,積分可能性とゲージ結果,検証された数値例,再設計された注目インタフェースを提案する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: WavePhaseNet introduced frequency-resolved semantic representations, QuantumPhaseNet introduced gauge-covariant phase connections, and ModularPhaseNet made a finite cyclic phase channel and its cycle holonomy computable in an ordinary Transformer. These constructions are complementary, yet they do not by themselves separate an observed collection of pairwise relations into a globally consistent direction, circulation around local compositions, and circulation that persists around a larger unfilled cycle. HodgePhaseNet addresses this separation by representing semantic transitions as an antisymmetric real-valued 1-cochain on a finite oriented simplicial complex. With vertex-edge incidence matrix $B_1$ and edge-face incidence matrix $B_2$, every such field has a unique orthogonal decomposition $Ω= B_1^TΦ+ B_2Ψ+ H$, where $B_1H=0$ and $B_2^TH=0$. The three component fields are unique even when their potentials are not. We give explicit projectors, a sparse implementation, integrability and gauge results, a verified numerical example, and a redesigned attention interface. The attention bias is defined on allowed ordered query-key pairs, remains consistent under arbitrary choices of edge orientation, and preserves a decoder's causal information boundary by constructing its complex from the visible prefix. Gauge invariance of the attention output is conditional on using invariant or appropriately compensated features. A simple difference of vertex embeddings has no coexact or harmonic component; a genuine relation encoder is therefore indispensable. Local circulation is not automatically contradiction, and harmonic flow is not automatically missing knowledge. These interpretations and any reduction in factual error require controlled empirical evaluation. This paper presents a mathematical and architectural proposal, not external natural-language performance results.
- Abstract（参考訳）: WavePhaseNetは周波数分解意味表現を導入し、QuantumPhaseNetはゲージ共変位相接続を導入し、ModularPhaseNetは有限巡回位相チャネルを作成し、そのサイクルホロノミーを通常の変換器で計算可能とした。
これらの構造は相補的であるが、それ自体は観測された対関係の集合を、一様に一貫した方向、局所的な組成のまわりの循環、そしてより大きな未満たのサイクルの周りに持続する循環に分離するわけではない。
HodgePhaseNetはこの分離に対処し、セマンティックトランジションを有限配向単体上の反対称実数値1-cochainとして表現する。
頂点-辺の入射行列 $B_1$ と辺面の入射行列 $B_2$ では、そのような体はすべて一意の直交分解 $Ω= B_1^T*+ B_2^+ H$ を持ち、ここでは$B_1H=0$ と $B_2^TH=0$ が成り立つ。
3つの成分体はポテンシャルがそうでない場合でも一意である。
我々は、明示的なプロジェクタ、スパース実装、積分可能性とゲージ結果、検証された数値例、再設計された注目インタフェースを提供する。
注意バイアスは、許容されたクエリキー対で定義され、エッジオリエンテーションの任意の選択の下で一貫しており、可視的なプレフィックスから複素数を構成することでデコーダの因果情報境界を保存する。
注意出力のゲージ不変性は、不変または適切に補償された特徴を用いることで条件付けられる。
頂点埋め込みの単純な違いは、共存成分や調和成分を持たないため、真の関係エンコーダは必須である。
局所的な循環は自動的に矛盾せず、調和流は自動的に知識を欠いているわけではない。
これらの解釈と事実誤りの低減には、制御された経験的評価が必要である。
本稿では,外部自然言語のパフォーマンス結果ではなく,数学的およびアーキテクチャ的な提案を提案する。
関連論文リスト
- From Symmetry to Secrecy: Covariant Classical--Quantum Wiretap Channels [42.71287663143178]
エントロピー差分としてプライベート情報を用いた有限ブロック前処理方式を構築する。
構成を製品グループに適用することで、固定数のチャネルの使用にまたがる相関が可能になる。
Tikku, Berta, Renes が検討したハイブリッドバイナリチャネルでは, 3 と 4 つのユースケースでの数値最適化は, 最適化された雑音-繰り返しベンチマークの数値的な推定値よりも高い。
論文 参考訳（メタデータ） (2026-10-02T16:53:39Z) - SQUARE: Structured Quantum Representation Adapters as Compact Quadratic Feature Maps for Frozen Language Models [50.300302932452006]
凍結言語モデル(LM)は、下流の再ランク付け、スコアリング、嗜好モデリングのための固定された特徴抽出器として、ますます使われている。
本稿では、ボトルネックベクトルを振幅符号化し、パラメータ化量子回路を適用し、その結果の状態を測定する構造量子表現アダプタを提案する。
各基底確率関数は、ちょうどボトルネック座標における正規化された二次形式であり、追加のPauli$Z$読み出しはそれらの確率の線形結合であることを示す。
論文 参考訳（メタデータ） (2026-09-29T09:38:29Z) - Fundamental Limits of Transferability and Equivariance in Algebraic Signal Models I: Finite Dimensions [54.56842478474683]
信号モデル間の準同型を通した代数学における転移可能性の基本的限界について検討する。
すべての準同型が一致類上の非制約ブロックに分解されることを証明する。
フィルタ導波路がスペクトル欠陥を修復する方法を示す。
論文 参考訳（メタデータ） (2026-09-28T18:44:40Z) - ModularPhaseNet: Finite-Cyclic Phase Geometry for Computable Semantic Hierarchy, Direction, and Context Consistency in Standard Transformers [0.0]
本稿では,QuantumPhaseNetで導入された連続複素位相幾何学の離散化を提案する。
量子ハードウェア、複素数値行列乗算、離散対数計算は不要である。
論文 参考訳（メタデータ） (2026-09-05T10:02:23Z) - Restricting Trainable Lie-Algebra Growth in Equivariant Quantum Networks via Hierarchical Ancilla-Controlled Subspace Projections [2.4903943571548735]
本稿では,このLie-algebra-growth機構に対処する階層型アンシラ制御アーキテクチャを提案する。
有限サイズの状態ベクトルシミュレーションでは, 通常の回転等変回路に比べて, スパース分散減衰が遅く, 勾配が大きくなることが示されている。
論文 参考訳（メタデータ） (2026-09-03T02:32:51Z) - GeoFlowVLM: Geometry-Aware Joint Uncertainty for Frozen Vision-Language Embedding [3.0708725114491293]
ペア化された$ell$-normalized dual-encoder VLM の結合分布を学習するポストホックアダプタとして textbfGeoFlowVLM を提案する。
整合性の結果, 人口制限下では, トレーニングされたネットワークは, 接合流と両モード条件流を露呈することがわかった。
この単一モデルから2つの量を得る:Fano型境界による決定論的解釈でアレター的曖昧さを定量化する条件付き検索エントロピーと、関節NLLの正確な連鎖ルール分解によって正当化される限界特異性スコアである。
論文 参考訳（メタデータ） (2026-05-13T11:12:18Z) - Breaking Symmetry Bottlenecks in GNN Readouts [0.764671395172401]
グラフニューラルネットワーク(GNN)は構造化データの学習に広く用いられているが、非同型グラフを識別する能力は基本的に制限されている。
読み出し段階で独立したボトルネックが発生することを示す。
本稿では,ノード表現を対称対応チャネルに分解するプロジェクタベースの不変読み出し手法を提案する。
論文 参考訳（メタデータ） (2026-02-05T18:08:13Z) - Variational Bayesian Flow Network for Graph Generation [54.94088904387278]
グラフ生成のための変分ベイズフローネットワーク(VBFN)を提案する。
VBFNは、構造化精度で支配されるトラクタブルジョイントガウス変分信念ファミリーに対して変分リフトを行う。
合成グラフと分子グラフのデータセットでは、VBFNは忠実度と多様性を改善し、ベースライン法を超えている。
論文 参考訳（メタデータ） (2026-01-30T03:59:38Z) - Random-Matrix-Induced Simplicity Bias in Over-parameterized Variational Quantum Circuits [72.0643009153473]
本稿では,観測可能な期待値とパラメータ勾配の両方がシステムサイズに指数関数的に集中するHaar型普遍性クラスに,表現的変分アンサーゼが入ることを示す。
その結果、そのような回路によって誘導される仮説クラスは、近点関数の狭い族に高い確率で崩壊する。
テンソル-ネットワークベースおよびテンソル-ハイパーネットワークパラメータ化を含むテンソル構造VQCは、ハール型普遍性クラスの外にある。
論文 参考訳（メタデータ） (2026-01-05T08:04:33Z) - Deep Delta Learning [91.75868893250662]
本稿では,標準残差接続を一般化した新しいアーキテクチャであるDeep Delta Learning(DDL)を紹介する。
我々はこの演算子のスペクトル解析を行い、ゲート$(mathbfX)$がアイデンティティマッピング、投影、幾何反射のダイナミックな相互作用を可能にすることを示した。
この統合により、ネットワークは階層的な遷移作用素のスペクトルを明示的に制御することができ、複雑な非単調力学のモデリングを可能にする。
論文 参考訳（メタデータ） (2026-01-01T18:11:38Z) - Generalized Linear Mode Connectivity for Transformers [87.32299363530996]
驚くべき現象はリニアモード接続(LMC)であり、独立に訓練されたモデルを低損失またはゼロ損失の経路で接続することができる。
以前の研究は主に置換によるニューロンの並べ替えに焦点を合わせてきたが、そのようなアプローチは範囲に限られている。
我々は、4つの対称性クラス(置換、半置換、変換、一般可逆写像)をキャプチャする統一的なフレームワークを導入する。
この一般化により、独立に訓練された視覚変換器とGPT-2モデルの間の低障壁とゼロバリア線形経路の発見が可能となった。
論文 参考訳（メタデータ） (2025-06-28T01:46:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。