論文の概要: How to Tame Your LLM: Semantic Collapse in Continuous Systems
- arxiv url: http://arxiv.org/abs/2512.05162v1
- Date: Thu, 04 Dec 2025 11:33:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-13 22:40:56.767055
- Title: How to Tame Your LLM: Semantic Collapse in Continuous Systems
- Title（参考訳）: LLMの理由: 継続的システムのセマンティック崩壊
- Authors: C. M. Wyss,
- Abstract要約: 連続状態機械 (Continuous State Machines, CSM) として形式化することで, 大規模言語モデルに対する意味力学の理論を開発する。
意味的特徴論的定理(SCT)の証明
我々は、SCTをドリフトカーネルや断熱的な設定に拡張し、徐々にコンパクト性、スペクトルコヒーレンス、盆地構造を保っていることを示す。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We develop a general theory of semantic dynamics for large language models by formalizing them as Continuous State Machines (CSMs): smooth dynamical systems whose latent manifolds evolve under probabilistic transition operators. The associated transfer operator $P: L^2(M,μ) \to L^2(M,μ)$ encodes the propagation of semantic mass. Under mild regularity assumptions (compactness, ergodicity, bounded Jacobian), $P$ is compact with discrete spectrum. Within this setting, we prove the Semantic Characterization Theorem (SCT): the leading eigenfunctions of $P$ induce finitely many spectral basins of invariant meaning, each definable in an o-minimal structure over $\mathbb{R}$. Thus spectral lumpability and logical tameness coincide. This explains how discrete symbolic semantics can emerge from continuous computation: the continuous activation manifold collapses into a finite, logically interpretable ontology. We further extend the SCT to stochastic and adiabatic (time-inhomogeneous) settings, showing that slowly drifting kernels preserve compactness, spectral coherence, and basin structure.
- Abstract（参考訳）: 連続状態機械 (Continuous State Machines, CSM) として定式化することで, 大規模言語モデルに対する意味力学の一般的な理論を開発する。
関連する転送演算子$P: L^2(M,μ) \to L^2(M,μ)$は意味質量の伝播を符号化する。
穏やかな正則性仮定(コンパクト性、エルゴード性、有界ヤコビアン)の下では、$P$は離散スペクトルを持つコンパクトである。
この設定の中で、セマンティック特徴づけ定理(SCT: Semantic Characterization Theorem)を証明し、$P$ の先頭固有関数は不変意味の有限個のスペクトル盆地を誘導し、それぞれ$\mathbb{R}$ 上の O-極小構造で定義できる。
したがって、スペクトルの発散性と論理的なテイム性は一致している。
連続活性化多様体は有限で論理的に解釈可能なオントロジーに崩壊する。
さらに、SCTを確率的・非定常的(時間的不均一)な設定に拡張し、ゆっくりドリフトするカーネルがコンパクト性、スペクトルコヒーレンス、盆地構造を保っていることを示す。
関連論文リスト
- Foundations of Diffusion Models in General State Spaces: A Self-Contained Introduction [54.95522167029998]
この記事は、一般状態空間上の拡散に関する自己完結プライマーである。
我々は、その連続時間限界とともに離散時間ビュー(マルコフカーネルを経由し、逆ダイナミクスを学習する)を開発する。
一般的な変量処理は、標準の訓練損失を支えるELBOをもたらす。
論文 参考訳（メタデータ） (2025-12-04T18:55:36Z) - Non-Asymptotic Convergence of Discrete Diffusion Models: Masked and Random Walk dynamics [13.202844408027412]
我々は3つの一般的な離散拡散モデルに対する新しい鋭い収束保証を開発する。
各手法の計算複雑性は, 対数的因子まで, 次元で線形にスケールすることを示した。
この研究は、これらのノイズ発生過程に対する最初の非漸近収束保証を提供する。
論文 参考訳（メタデータ） (2025-11-29T18:24:43Z) - A Foundational Theory of Quantitative Abstraction: Adjunctions, Duality, and Logic for Probabilistic Systems [2.362412515574206]
大規模あるいは連続的な状態空間は、正確に解析しやすくし、原理化された量的抽象を要求する。
この研究は、圏論、コレージュブラ、量論理、最適輸送を統合することで、そのような抽象の統一理論を発展させる。
論文 参考訳（メタデータ） (2025-10-22T10:16:24Z) - Coevolutionary Continuous Discrete Diffusion: Make Your Diffusion Language Model a Latent Reasoner [66.86440230599656]
拡散言語モデルは必ずしも離散空間にある必要はないと主張する。
特に、連続拡散モデルが離散拡散やループ変換器よりも強い表現性を持つことを示す。
本稿では,連続表現空間と離散トークン空間の結合に関する共同多モード拡散過程を定義する共進化連続拡散法(CCDD)を提案する。
論文 参考訳（メタデータ） (2025-10-03T17:44:41Z) - Fast-Forward Lattice Boltzmann: Learning Kinetic Behaviour with Physics-Informed Neural Operators [37.65214107289304]
格子ボルツマン方程式(LBE)のための物理インフォームドニューラルネットワークフレームワークを提案する。
我々のフレームワークは離散化不変であり、粗い格子で訓練されたモデルをより微細なものに一般化することができる。
その結果,von Karman vortex shedding, ligament breakup, bubble adhesionなどの複雑な流れシナリオの堅牢性を示した。
論文 参考訳（メタデータ） (2025-09-26T14:36:23Z) - Explicit Quantum Circuits for Simulating Linear Differential Equations via Dilation [0.0]
本稿では,拡張形式と明示的な量子回路構成を結合する具体的なパイプラインを提案する。
解析面では、量子実装に適した連続拡張作用素の離散化を導入する。
得られたスキームは、指数関数的に小さな境界効果まで、オーダー$O(M-3/2)$の大域的誤差境界を達成することを証明した。
論文 参考訳（メタデータ） (2025-09-20T18:54:49Z) - From Linear Differential Equations to Unitaries: A Moment-Matching Dilation Framework with Near-Optimal Quantum Algorithms [0.0]
我々は、任意の線型非エルミート流を厳密なユニタリ進化に埋め込む普遍的なモーメント満載拡張を示す。
また、微分、積分、擬微分、差分ジェネレータから構築された新しいダイレーションの全ファミリーを公表する。
具体的な実演として、有限区間における単純な有限差分ダイレーションが、ほぼ最適オラクル複雑性に達することを証明している。
論文 参考訳（メタデータ） (2025-07-14T13:51:38Z) - Exemplar-Free Continual Learning for State Space Models [32.73275711666184]
State-Space Models (SSM) は構造化された再帰で長距離の依存関係をキャプチャする。
彼らの進化する内部状態は、継続的学習の下でそれらを適応する上で困難を生じさせる。
Inf-SSMを提案する。
論文 参考訳（メタデータ） (2025-05-24T08:59:13Z) - Exact dynamics of quantum dissipative $XX$ models: Wannier-Stark localization in the fragmented operator space [49.1574468325115]
振動と非振動崩壊を分離する臨界散逸強度において例外的な点が見つかる。
また、演算子部分空間全体の単一減衰モードにつながる異なるタイプの散逸についても記述する。
論文 参考訳（メタデータ） (2024-05-27T16:11:39Z) - Tensor cumulants for statistical inference on invariant distributions [49.80012009682584]
我々は,PCAが信号の大きさの臨界値で計算的に困難になることを示す。
我々は、与えられた次数の不変量に対して明示的でほぼ直交的な基底を与える新しい対象の集合を定義する。
また、異なるアンサンブルを区別する新しい問題も分析できます。
論文 参考訳（メタデータ） (2024-04-29T14:33:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。