論文の概要: Similarity as Thermodynamic Work: Between Depth and Diversity -- from Information Distance to Ugly Duckling
- arxiv url: http://arxiv.org/abs/2509.16236v1
- Date: Tue, 16 Sep 2025 09:47:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-23 18:58:15.688082
- Title: Similarity as Thermodynamic Work: Between Depth and Diversity -- from Information Distance to Ugly Duckling
- Title(参考訳): 熱力学的作業と類似性:深さと多様性-情報距離からユグリーダックリングまで
- Authors: Kentaro Imafuku,
- Abstract要約: 類似性の定義は情報科学における根本的な課題である。
本稿では,プログラム長をエネルギーとして扱う統計力学フレームワークを提案する。
我々は、正規の普遍機械と効果的な縮退比を導入し、コアの多様性から冗長性を取り除き、枠組みを洗練する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Defining similarity is a fundamental challenge in information science. Watanabe's Ugly Duckling Theorem highlights diversity, while algorithmic information theory emphasizes depth through Information Distance. We propose a statistical-mechanical framework that treats program length as energy, with a temperature parameter unifying these two aspects: in the low-temperature limit, similarity approaches Information Distance; in the high-temperature limit, it recovers the indiscriminability of the Ugly Duckling theorem; and at the critical point, it coincides with the Solomonoff prior. We refine the statistical-mechanical framework by introducing regular universal machines and effective degeneracy ratios, allowing us to separate redundant from core diversity. This refinement yields new tools for analyzing similarity and opens perspectives for information distance, model selection, and non-equilibrium extensions.
- Abstract(参考訳): 類似性の定義は情報科学における根本的な課題である。
渡辺のUgly Duckling Theoremは多様性を強調し、アルゴリズム情報理論は情報距離による深度を強調している。
本稿では,プログラム長をエネルギーとして扱う統計力学の枠組みを提案する。温度パラメータは,低温限界では類似性が情報距離に近づき,高温限界ではUgly Duckling定理の不特定性を回復し,臨界点ではSolomonoffと一致する。
我々は、正規の普遍機械と効果的な縮退比を導入することで、統計力学の枠組みを洗練し、コアの多様性から冗長性を切り離すことができる。
この改良により、類似性を解析し、情報距離、モデル選択、非平衡拡張に対する視点を開放する新しいツールが得られる。
関連論文リスト
- A Unifying Information-theoretic Perspective on Evaluating Generative Models [5.524685807042777]
最近のいくつかのアプローチでは、分類領域から借用された「精度」と「リコール」を利用して、出力の忠実度(リアリズム)と出力の多様性(実データ変動の表現)を個別に定量化している。
我々は、kNN密度推定のアプローチを用いて、kth-nearest-neighbors(kNN)ベースのメトリクスのクラスを情報理論レンズの下に統一する。
高精度クロスエントロピー(PCE)、リコールクロスエントロピー(RCE)、リコールエントロピー(RE)からなる3次元計量を提案する。
論文 参考訳(メタデータ) (2024-12-18T21:17:02Z) - Statistical Mechanics of Dynamical System Identification [2.8820361301109365]
我々はスパース方程式探索アルゴリズムを解析するための統計力学手法を開発した。
与えられたモデルの雑音を推定する閉ループ推定法を提案する。
このスパース方程式発見の観点は万能であり、他の様々な方程式発見アルゴリズムに適応することができる。
論文 参考訳(メタデータ) (2024-03-04T04:32:28Z) - On the Joint Interaction of Models, Data, and Features [82.60073661644435]
本稿では,データとモデル間の相互作用を実験的に解析する新しいツールであるインタラクションテンソルを紹介する。
これらの観測に基づいて,特徴学習のための概念的枠組みを提案する。
この枠組みの下では、一つの仮説に対する期待された精度と一対の仮説に対する合意はどちらも閉形式で導出することができる。
論文 参考訳(メタデータ) (2023-06-07T21:35:26Z) - End-To-End Latent Variational Diffusion Models for Inverse Problems in
High Energy Physics [61.44793171735013]
本稿では,最先端生成技術アプローチの潜時学習とエンドツーエンドの変分フレームワークを組み合わせた,新しい統合アーキテクチャ,潜時変分モデルを提案する。
我々の統一的アプローチは、非最新技術ベースラインの20倍以上の真理への分布自由距離を達成する。
論文 参考訳(メタデータ) (2023-05-17T17:43:10Z) - Complementarity between decoherence and information retrieval from the environment [0.0]
我々は、リコイルレス極限における開力学のモデルに依存しない、ハイブリッド量子自明な解を導出する。
我々は、デコヒーレンスを規定するよく知られた熱ドブログリエ波長とは異なる、識別可能性長と呼ばれる新しい長さスケールの存在を明らかにした。
論文 参考訳(メタデータ) (2023-04-24T16:07:00Z) - Variational Inference with Holder Bounds [68.8008396694788]
熱力学的変動目標(TVO)の慎重に分析する。
熱力学曲線の病理幾何学がTVOにどのように悪影響を及ぼすかを明らかにする。
これは、ホルダー境界と呼ばれ、熱力学曲線を平坦化し、正確な辺辺対の1ステップ近似を達成することを約束する新しいVI目標を動機付けている。
論文 参考訳(メタデータ) (2021-11-04T15:35:47Z) - BayesIMP: Uncertainty Quantification for Causal Data Fusion [52.184885680729224]
本研究では,複数の因果グラフに関連するデータセットを組み合わせ,対象変数の平均処理効果を推定する因果データ融合問題について検討する。
本稿では、確率積分とカーネル平均埋め込みのアイデアを組み合わせて、再生されたカーネルヒルベルト空間における干渉分布を表現するフレームワークを提案する。
論文 参考訳(メタデータ) (2021-06-07T10:14:18Z) - Fundamental Limits and Tradeoffs in Invariant Representation Learning [99.2368462915979]
多くの機械学習アプリケーションは、2つの競合する目標を達成する表現を学習する。
ミニマックスゲーム理論の定式化は、精度と不変性の基本的なトレードオフを表す。
分類と回帰の双方において,この一般的かつ重要な問題を情報論的に解析する。
論文 参考訳(メタデータ) (2020-12-19T15:24:04Z) - Bayesian Sparse Factor Analysis with Kernelized Observations [67.60224656603823]
多視点問題は潜在変数モデルに直面することができる。
高次元問題と非線形問題は伝統的にカーネルメソッドによって扱われる。
両アプローチを単一モデルにマージすることを提案する。
論文 参考訳(メタデータ) (2020-06-01T14:25:38Z) - On Geometry of Information Flow for Causal Inference [0.0]
本稿では, グラガー・コーサリティに関するノーベル賞受賞作品を含む情報の流れを考察する。
我々の主な貢献は、伝達エントロピーによって示される因果推論として情報フローの幾何学的解釈を可能にする分析ツールを開発することである。
論文 参考訳(メタデータ) (2020-02-06T02:46:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。