論文の概要: Power-Law Correlations Without Apparent Temperature-Tuned Criticality in Fixed-Tree Hierarchical Languages

• arxiv url: http://arxiv.org/abs/2610.24334v1
• Date: Sat, 17 Oct 2026 00:01:21 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 11:43:46.73338
• Title: Power-Law Correlations Without Apparent Temperature-Tuned Criticality in Fixed-Tree Hierarchical Languages
• Title（参考訳）: 固定軌道階層型言語における温度調整臨界点のないパワー-ロー相関
• Abstract要約: 本研究では, 温度サンプリングの制御された類似性について検討し, そこでは, 信念の伝播により, 厳密な次点条件が計算される。 トークン間の2点相互情報を分離関数として測定する。 温度は相関の大きさと適応指数を変化させるが、アクセス可能なシステムサイズ内では、秩序相の長距離台地特性は見つからない。 木上のイジングモデルへの近似写像は、木の距離における指数減衰が、トークン距離におけるパワー則となることを説明する。
• 参考スコア（独自算出の注目度）: 3.437656066916039
• License:
• Abstract: Sampling temperature can substantially reshape autoregressive generation, but it is unclear when temperature changes in long-range correlations reflect a genuine phase transition rather than a smooth change in statistics. We study this question in a controlled analogue of temperature sampling: a finite-depth probabilistic context-free grammar on a fixed hierarchical tree, where exact next-token conditionals are computed by belief propagation and then rescaled by a softmax temperature before autoregressive sampling. We measure two-point mutual information between tokens as a function of separation. Across the tested temperatures and grammar ensembles, mutual information remains well described by a power-law envelope. Temperature changes the correlation magnitude and fitted exponent, but within the accessible system sizes we find no long-distance plateau characteristic of an ordered phase and no clear crossover to short-range exponential decay. An approximate mapping to an Ising model on a tree explains how exponential decay in tree distance becomes a power law in token distance, allowing power laws to persist without tuning to a special decoding temperature. This controlled baseline clarifies which temperature effects can arise from hierarchical structure alone, before adding training, approximation error, or neural architecture.
• Abstract（参考訳）: サンプリング温度は自己回帰生成を実質的に再形成することができるが、長期相関における温度変化が統計のスムーズな変化よりも真の位相遷移を反映するかどうかは不明である。 本研究では, 有限深度確率的文脈自由文法(有限深度確率的文脈自由文法, 固定階層木, 直交次トーケン条件は, 信念の伝播によって計算され, 自己回帰サンプリングの前にソフトマックス温度で再スケールされる。 トークン間の2点相互情報を分離関数として測定する。 テストされた温度と文法のアンサンブル全体において、相互情報は、パワー・ロー・エンベロープによってよく説明されている。 温度は相関等級と配向指数を変化させるが、アクセス可能なシステムサイズでは、秩序相の長距離プラトー特性は見られず、短距離指数崩壊への明確な交差は見つからない。 木上のイジングモデルへの近似写像は、木間距離における指数減衰がトークン距離におけるパワー則となることを説明し、特別な復号温度に調整することなく、パワー則が持続することを可能にする。 この制御されたベースラインは、トレーニング、近似誤差、またはニューラルアーキテクチャを追加する前に、階層構造だけで温度効果が生じるかを明らかにする。

関連論文リスト

• Conditional Entropy of Heat Diffusion on Temporal Networks [46.780047051996924]
  静的グラフから時間ネットワークへの熱拡散の条件エントロピーを拡張し,その特性について検討する。 この量は時間的単調であり、時間的ネットワーク上の不均一拡散に対する熱力学の第2法則の情報理論的類似性をもたらす。 次に、有限時間時間窓上での拡散を探索する条件付きエントロピーの局所バージョンを導入し、連続時間時間時間ネットワークにおける変化点検出のための情報信号を提供することを示す。
  論文  参考訳（メタデータ） (2026-05-15T10:47:44Z)
• Understanding temperature tuning in energy-based models [5.75145367989177]
  スパースデータからの学習は、モデルが体系的に高エネルギー状態の確率を過大評価する原因となることを示す。 より一般的には、最適なサンプリング温度が、データサイズとシステムの根底にあるエネルギーランドスケープとの相互作用にどのように依存するかを特徴付ける。 これにより,本フレームワークは,真のデータ分布の特性と学習モデルの限界を明らかにする診断ツールとして,高温後の温度調整を行う。
  論文  参考訳（メタデータ） (2025-12-09T22:06:30Z)
• Temperature-induced measurement sensitivity enhancement via imaginary weak values [41.99844472131922]
  初期プローブ状態が混合された場合, 測定感度を高めるために, 弱い測定と後選択の可能性を検討する。 我々は、信号対雑音比と最終プローブ状態の量子フィッシャー情報という、2つの重要な量に焦点を当てる。
  論文  参考訳（メタデータ） (2025-09-04T09:28:44Z)
• Manifold Trajectories in Next-Token Prediction: From Replicator Dynamics to Softmax Equilibrium [0.0]
  大規模言語モデルでの復号化はしばしばスコアリングトークンとソフトマックスによる正規化と表現される。 我々は、このステップの自己完結した幻覚を、確率単純性上の制約付き変分原理として与える。 固定された文脈と温度に対して、次トーケン分布は単純体内部の滑らかな軌道を辿り、ソフトマックス平衡に収束することを示す。
  論文  参考訳（メタデータ） (2025-08-28T20:00:22Z)
• Critical Phase Transition in Large Language Models [0.0]
  大きな言語モデル(LLM)は素晴らしいパフォーマンスを示しています。 それらの振る舞いを理解するためには、LCMが時折質的な変化を示すという事実を考慮する必要がある。 温度パラメータが変化すると, LLM に相転移が生じることが示唆された。
  論文  参考訳（メタデータ） (2024-06-08T03:37:05Z)
• Quantum memory at nonzero temperature in a thermodynamically trivial system [1.0832844764942349]
  非ゼロ温度における熱力学的相転移は, 定値古典的および量子的低密度パリティチェック符号の族によっては存在しないことを示す。 このようなコードのスローギブスサンプリングは、有限深度回路を用いたフォールトトレラントな量子誤り訂正を可能にする。 この戦略は、測定不要な量子エラー補正に適しており、従来の量子エラー補正に代わる望ましい実験的な選択肢を示す可能性がある。
  論文  参考訳（メタデータ） (2024-03-15T18:00:03Z)
• Bayesian inference of composition-dependent phase diagrams [47.79947989845143]
  本研究では,分子動力学(MD),融点シミュレーション,フォノン計算からの熱力学データを合成し,これらのデータを処理し,温度集中相図を生成する手法を開発した。 開発したアルゴリズムは,Ge-SiとK-Naの2つの二元系において,全濃度および温度で試験に成功した。
  論文  参考訳（メタデータ） (2023-09-03T20:57:10Z)
• Uhlmann Fidelity and Fidelity Susceptibility for Integrable Spin Chains at Finite Temperature: Exact Results [68.8204255655161]
  奇数パリティ部分空間の適切な包含は、中間温度範囲における最大忠実度感受性の向上につながることを示す。 正しい低温の挙動は、2つの最も低い多体エネルギー固有状態を含む近似によって捉えられる。
  論文  参考訳（メタデータ） (2021-05-11T14:08:02Z)
• Adiabatic Sensing Technique for Optimal Temperature Estimation using Trapped Ions [64.31011847952006]
  捕捉イオンを用いた最適なフォノン温度推定のための断熱法を提案する。 フォノンの熱分布に関する関連する情報は、スピンの集合的な自由度に伝達することができる。 それぞれの熱状態確率は、各スピン励起構成に近似的にマッピングされることを示す。
  論文  参考訳（メタデータ） (2020-12-16T12:58:08Z)
• Critical Phenomena in Complex Networks: from Scale-free to Random Networks [77.34726150561087]
  一対のノード間のリンクを制御する隠れ変数を持つ構成ネットワークモデルにおける臨界現象について検討する。 平均ノード次数、期待するエッジ数、ランダウとヘルムホルツの自由エネルギーについて、温度とノード数の関数として解析式を求める。
  論文  参考訳（メタデータ） (2020-08-05T18:57:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。