論文の概要: Approximate Homomorphisms and Convergent Representations in Transducers
- arxiv url: http://arxiv.org/abs/2608.20428v1
- Date: Wed, 19 Aug 2026 19:56:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-24 14:49:32.049502
- Title: Approximate Homomorphisms and Convergent Representations in Transducers
- Title（参考訳）: トランスデューサにおける近似同型と収束表現
- Abstract要約: 摂動下での制御過程(特にトランスデューサ)の最小表現の安定性について検討する。
我々は、標準、線形、予測的なトランスデューサを考える。
- 参考スコア（独自算出の注目度）: 0.913755431537592
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study the stability of minimal representations of controlled stochastic processes (in particular, transducers) under perturbations. This question is motivated by recent experiments finding predictive-state structure in the latent representations of neural networks. We consider standard, linear and predictive transducers. We introduce notions of approximate homomorphism capturing local structural similarity between them, together with metrics comparing their induced dynamics (which we refer to as interfaces), and prove properties such as composability of the approximate homomorphisms. For standard transducers, we show that there exist simple interfaces for which there is no approximate homomorphism between the different implementations of the dynamics. In contrast, for every finite-rank interface $\mathcal I$, we prove that all minimal linear transducers implementing interfaces sufficiently close to $\mathcal I$ have an approximate homomorphism to the minimal implementation of $\mathcal I$, with error linear in the perturbation size. We prove an analogous stability result for predictive transducers under a residual metric using some mild hypothesis regarding the indistinguishability of the belief states. These results identify conditions under which canonical transducer representations are robust to perturbations, while showing that such convergence fails without additional structural restrictions. Under the assumption that these type of abstractions are embedded into the hidden layers of modern AI models, this gives some theoretical support to the hypothesis that their latent representations exhibit structural convergence.
- Abstract（参考訳）: 摂動下での制御確率過程(特にトランスデューサ)の最小表現の安定性について検討する。
この問題は、ニューラルネットワークの潜在表現における予測状態構造を見つける最近の実験によって動機づけられている。
我々は、標準、線形、予測的なトランスデューサを考える。
我々は、それらの間の局所的な構造的類似性を捉える近似準同型の概念と、それらの誘起力学(界面と呼ばれる)を比較するメトリクスを導入し、近似準同型の構成可能性のような性質を証明する。
標準的なトランスデューサに対して、力学の異なる実装間に近似準同型が存在しないような単純なインターフェイスが存在することを示す。
対照的に、すべての有限ランクインターフェイス $\mathcal I$ に対して、$\mathcal I$ に十分近いインターフェースを実装するすべての最小線型トランスデューサが、摂動サイズの誤差線型な $\mathcal I$ の最小実装に近似した準同型を持つことを示す。
本研究では,残差測定値の下での予測的トランスデューサに対する類似の安定性を,信念状態の不一致性に関する軽微な仮説を用いて証明する。
これらの結果は、標準トランスデューサ表現が摂動に頑健である条件を特定し、そのような収束が追加的な構造的制約なしで失敗することを示す。
これらの抽象化が現代のAIモデルの隠された層に埋め込まれているという仮定の下で、このことは、その潜在表現が構造的収束を示すという仮説を理論的に支持する。
関連論文リスト
- Contraction Analysis of Holomorphic Dynamical Systems via the Intrinsic Kobayashi Metric [0.0]
本論文では、無限小小林計量による正則力学系の漸進安定性について研究する。
収縮は、軌道に沿った小林計量上の上二微分不等式として定式化される。
論文 参考訳（メタデータ） (2026-08-01T17:06:21Z) - SIGMA: Structure-Invariant Generative Molecular Alignment for Chemical Language Models via Autoregressive Contrastive Learning [8.06177122578894]
構造不変な生成分子アライメント(SIGMA)を提案する。
線形表現を変更するのではなく、SIGMAはモデルが幾何対称性を厳密に認識することを可能にする。
標準ベンチマークにおける実証的な評価は、SIGMAがシーケンスのスケーラビリティとグラフの忠実さのギャップを埋めることを示している。
論文 参考訳（メタデータ） (2026-03-26T05:55:17Z) - Scale-Consistent State-Space Dynamics via Fractal of Stationary Transformations [9.983526161001997]
最近のディープラーニングモデルは、中間表現の妥当性に関する構造的な保証なしに、ますます深度に依存している。
我々は、状態空間モデルのスケール一貫性潜在力学の構造的要件を定式化することにより、この制限に対処する。
我々は予測されたスケール一貫性の挙動を実証的に検証し、適応効率がアライメントされた潜在幾何学から現れることを示す。
論文 参考訳（メタデータ） (2026-01-27T12:44:20Z) - Loss-Complexity Landscape and Model Structure Functions [53.92822954974537]
我々はコルモゴロフ構造関数 $h_x(alpha)$ を双対化するためのフレームワークを開発する。
情報理論構造と統計力学の数学的類似性を確立する。
構造関数と自由エネルギーの間のルジャンドル・フェンシェル双対性を明確に証明する。
論文 参考訳（メタデータ） (2025-07-17T21:31:45Z) - Emergence of Quantised Representations Isolated to Anisotropic Functions [0.0]
本稿では,既存のスポットライト共振法に基づく表現構造決定手法を提案する。
これは、アクティベーション関数のみを変更する制御されたアブレーション研究を通じて、オートエンコーダモデルにおいて、個々の表現がどのように出現し、組織化できるかを示す。
この手法を用いて、関数駆動対称性が表現に暗黙の帰納バイアスとして作用するかどうかを判定する。
論文 参考訳（メタデータ） (2025-07-16T09:27:54Z) - Relative Representations: Topological and Geometric Perspectives [50.85040046976025]
相対表現はゼロショットモデルの縫合に対する確立されたアプローチである。
相対変換において正規化手順を導入し、非等方的再スケーリングや置換に不変となる。
第二に、クラス内のクラスタリングを促進するトポロジカル正規化損失である、微調整された相対表現におけるトポロジカルデシフィケーションの展開を提案する。
論文 参考訳（メタデータ） (2024-09-17T08:09:22Z) - DIFFormer: Scalable (Graph) Transformers Induced by Energy Constrained
Diffusion [66.21290235237808]
本稿では,データセットからのインスタンスのバッチを進化状態にエンコードするエネルギー制約拡散モデルを提案する。
任意のインスタンス対間の対拡散強度に対する閉形式最適推定を示唆する厳密な理論を提供する。
各種タスクにおいて優れた性能を有する汎用エンコーダバックボーンとして,本モデルの適用性を示す実験を行った。
論文 参考訳（メタデータ） (2023-01-23T15:18:54Z) - Unifying Causal Inference and Reinforcement Learning using Higher-Order
Category Theory [4.119151469153588]
本稿では、強化学習における因果関係モデルと予測状態表現モデルの構造発見のための統一的な定式化を提案する。
具体的には、単純なオブジェクトを用いて、両方の設定で構造発見をモデル化する。
論文 参考訳（メタデータ） (2022-09-13T19:04:18Z) - Identifying Weight-Variant Latent Causal Models [82.14087963690561]
推移性は潜在因果表現の識別性を阻害する重要な役割を担っている。
いくつかの軽微な仮定の下では、潜伏因果表現が自明な置換とスケーリングまで特定可能であることを示すことができる。
本稿では,その間の因果関係や因果関係を直接学習する構造的caUsAl変分自動エンコーダを提案する。
論文 参考訳（メタデータ） (2022-08-30T11:12:59Z) - Convolutional Filtering and Neural Networks with Non Commutative
Algebras [153.20329791008095]
本研究では,非可換畳み込みニューラルネットワークの一般化について検討する。
非可換畳み込み構造は作用素空間上の変形に対して安定であることを示す。
論文 参考訳（メタデータ） (2021-08-23T04:22:58Z) - Models of zero-range interaction for the bosonic trimer at unitarity [91.3755431537592]
ゼロ範囲の2体相互作用によって相互に結合された同一ボソンからなる3体系に対する量子ハミルトニアンの構成について述べる。
プレゼンテーションの大部分では、無限の散乱長が考慮される。
論文 参考訳（メタデータ） (2020-06-03T17:54:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。