論文の概要: Entropy Collapse: A Universal Failure Mode of Intelligent Systems

• arxiv url: http://arxiv.org/abs/2512.12381v1
• Date: Sat, 13 Dec 2025 16:12:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-16 17:54:56.239518
• Title: Entropy Collapse: A Universal Failure Mode of Intelligent Systems
• Title（参考訳）: Entropy Collapse: インテリジェントシステムの普遍的障害モード
• Authors: Truong Xuan Khanh, Truong Quynh Hoa,
• Abstract要約: 知的システムは,高エントロピー適応型体制から低エントロピー崩壊型体制へ急激な移行を遂げていることを示す。 我々は、臨界しきい値、動的不可逆性、およびアトラクタ構造を解析的に確立する。 このフレームワークは、AIにおけるモデル崩壊、経済学における機関性硬化症、進化における遺伝的ボトルネックといった多様な現象を統一する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Intelligent systems are widely assumed to improve through learning, coordination, and optimization. However, across domains -- from artificial intelligence to economic institutions and biological evolution -- increasing intelligence often precipitates paradoxical degradation: systems become rigid, lose adaptability, and fail unexpectedly. We identify \emph{entropy collapse} as a universal dynamical failure mode arising when feedback amplification outpaces bounded novelty regeneration. Under minimal domain-agnostic assumptions, we show that intelligent systems undergo a sharp transition from high-entropy adaptive regimes to low-entropy collapsed regimes. Collapse is formalized as convergence toward a stable low-entropy manifold, not a zero-entropy state, implying a contraction of effective adaptive dimensionality rather than loss of activity or scale. We analytically establish critical thresholds, dynamical irreversibility, and attractor structure and demonstrate universality across update mechanisms through minimal simulations. This framework unifies diverse phenomena -- model collapse in AI, institutional sclerosis in economics, and genetic bottlenecks in evolution -- as manifestations of the same underlying process. By reframing collapse as a structural cost of intelligence, our results clarify why late-stage interventions systematically fail and motivate entropy-aware design principles for sustaining long-term adaptability in intelligent systems. \noindent\textbf{Keywords:} entropy collapse; intelligent systems; feedback amplification; phase transitions; effective dimensionality; complex systems; model collapse; institutional sclerosis
• Abstract（参考訳）: インテリジェントシステムは、学習、調整、最適化を通じて改善されると広く考えられている。 しかし、人工知能から経済機関、生物進化まで、あらゆる分野において、知能の増大は、しばしばパラドックス的劣化を招き、システムは硬直化し、適応性を失い、予期せず失敗する。 本研究では,フィードバック増幅がバウンド・ノベルティ・リジェネレーションを上回る場合に生じる普遍的動的障害モードとして, 'emph{entropy collapse} を同定する。 最小限のドメインに依存しない仮定の下では、インテリジェントシステムは高エントロピー適応型体制から低エントロピー崩壊型体制へ急激な移行を行うことを示す。 崩壊は、ゼロエントロピー状態ではなく、安定な低エントロピー多様体への収束として形式化され、活性やスケールの損失よりも効果的な適応次元性の収縮を意味する。 我々は,限界しきい値,動的不可逆性,アトラクタ構造を解析的に確立し,最小限のシミュレーションによる更新機構の普遍性を実証する。 この枠組みは、AIにおけるモデル崩壊、経済学における機関性硬化症、進化における遺伝的ボトルネックといった様々な現象を、同じ基盤となるプロセスの現れとして統一する。 インテリジェンスの構造的コストとして崩壊を論じることで,インテリジェンスシステムにおける長期適応性を維持するためのエントロピー対応設計原則を体系的に失敗し,モチベーションを与えている理由を明らかにした。 \noindent\textbf{Keywords:} エントロピー崩壊; インテリジェントシステム; フィードバック増幅; 位相遷移; 有効次元性; 複雑システム; モデル崩壊; 制度性硬化症

関連論文リスト

• Rethinking Entropy Interventions in RLVR: An Entropy Change Perspective [11.65148836911294]
  エントロピー崩壊は政策の多様性の急激な喪失であり、探検と爆発の不均衡から起因し、一般化の欠如につながっている。 最近のエントロピー・インターベンション法は、色覚エントロピーの崩壊を防ぐことを目的としているが、その基盤となるメカニズムは明らかになっていない。 エントロピー変化を考慮した再重み付け方式,すなわち,再重み付け(STEER)によるトークンレベルのエントロピーチェンジEの安定化を提案する。
  論文  参考訳（メタデータ） (2025-10-11T10:17:38Z)
• Neural Thermodynamics: Entropic Forces in Deep and Universal Representation Learning [12.77092262246859]
  本稿では、勾配降下学習ニューラルネットワークの学習力学を理解するための厳密なエントロピー力理論を提案する。 表現学習は特異性と離散時間更新から生じる創発的エントロピー力によって決定的に制御されていることを示す。 これらの力は、連続したパラメータ対称性を体系的に破り、離散的なパラメータを保存し、一連の勾配バランス現象を引き起こす。
  論文  参考訳（メタデータ） (2025-05-18T12:25:42Z)
• Self-Organizing Graph Reasoning Evolves into a Critical State for Continuous Discovery Through Structural-Semantic Dynamics [0.0]
  エージェントグラフ推論システムは,連続的な意味的発見を持続する臨界状態に向かって自然に進化することを示す。 意味的エントロピーが構造的エントロピーよりも支配的な微妙で頑健な体制を同定する。 本研究は,工学的知能システムにおいて,長期的発見と適応のための本質的な能力を持つ実践的戦略を提供する。
  論文  参考訳（メタデータ） (2025-03-24T16:30:37Z)
• Disentangling the Causes of Plasticity Loss in Neural Networks [55.23250269007988]
  可塑性の喪失は複数の独立したメカニズムに分解できることを示す。 種々の非定常学習タスクにおいて, 層正規化と重み劣化の組み合わせは, 可塑性維持に極めて有効であることを示す。
  論文  参考訳（メタデータ） (2024-02-29T00:02:33Z)
• Incorporating Neuro-Inspired Adaptability for Continual Learning in Artificial Intelligence [59.11038175596807]
  継続的な学習は、現実世界に強い適応性を持つ人工知能を強化することを目的としている。 既存の進歩は主に、破滅的な忘れを克服するために記憶安定性を維持することに焦点を当てている。 本稿では,学習の可塑性を改善するため,パラメータ分布の古い記憶を適切に減衰させる汎用的手法を提案する。
  論文  参考訳（メタデータ） (2023-08-29T02:43:58Z)
• Stabilizing Transformer Training by Preventing Attention Entropy Collapse [56.45313891694746]
  本研究は,トランスフォーマーのトレーニングダイナミクスについて,注目層の進化について検討する。 我々は、$sigma$Reparamが注意層におけるエントロピー崩壊を防ぎ、より安定したトレーニングを促進することを示す。 画像分類、画像自己教師型学習、機械翻訳、音声認識、言語モデリングタスクについて、$sigma$Reparamで実験を行った。
  論文  参考訳（メタデータ） (2023-03-11T03:30:47Z)
• Dynamics with autoregressive neural quantum states: application to critical quench dynamics [41.94295877935867]
  本稿では、量子系の長時間のダイナミクスを安定的に捉えるための代替の汎用スキームを提案する。 二次元量子イジングモデルにおけるキブル・ズレーク機構の解明により,時間依存性のクエンチ力学にこのスキームを適用した。
  論文  参考訳（メタデータ） (2022-09-07T15:50:00Z)
• Sensing quantum chaos through the non-unitary geometric phase [62.997667081978825]
  量子カオスを検知するデコヒーレント機構を提案する。 多体量子系のカオス的性質は、それが結合したプローブの長時間の力学においてシステムが生成する意味を研究することによって知覚される。
  論文  参考訳（メタデータ） (2021-04-13T17:24:08Z)
• Action Redundancy in Reinforcement Learning [54.291331971813364]
  遷移エントロピーはモデル依存遷移エントロピーと作用冗長性という2つの用語で記述できることを示す。 その結果,行動冗長性は強化学習の根本的な問題であることが示唆された。
  論文  参考訳（メタデータ） (2021-02-22T19:47:26Z)
• Entanglement revivals as a probe of scrambling in finite quantum systems [0.0]
  可積分系の場合, 一定長さの間隔の絡み合いの深さは, 全系の大きさの電力法則として崩壊することを示す。 可積分系では、一定長さの間隔の絡み合いのディップの高さは、総系の大きさのパワー則として崩壊するが、積分性を破壊すると、はるかに高速な崩壊が観測され、強い揺らぎが引き起こされる。
  論文  参考訳（メタデータ） (2020-04-18T21:30:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。