論文の概要: Programs as Singularities
- arxiv url: http://arxiv.org/abs/2504.08075v1
- Date: Thu, 10 Apr 2025 19:04:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-14 14:17:31.620744
- Title: Programs as Singularities
- Title(参考訳): 特異性としてのプログラム
- Authors: Daniel Murfet, Will Troiani,
- Abstract要約: 我々はチューリングマシンの構造と実解析関数の特異点の構造との対応性を開発する。
以上の結果から,オッカムのカミソリと帰納的推論における単純さの意味について,より微妙な理解が示唆された。
- 参考スコア(独自算出の注目度): 0.6906005491572401
- License:
- Abstract: We develop a correspondence between the structure of Turing machines and the structure of singularities of real analytic functions, based on connecting the Ehrhard-Regnier derivative from linear logic with the role of geometry in Watanabe's singular learning theory. The correspondence works by embedding ordinary (discrete) Turing machine codes into a family of noisy codes which form a smooth parameter space. On this parameter space we consider a potential function which has Turing machines as critical points. By relating the Taylor series expansion of this potential at such a critical point to combinatorics of error syndromes, we relate the local geometry to internal structure of the Turing machine. The potential in question is the negative log-likelihood for a statistical model, so that the structure of the Turing machine and its associated singularity is further related to Bayesian inference. Two algorithms that produce the same predictive function can nonetheless correspond to singularities with different geometries, which implies that the Bayesian posterior can discriminate between distinct algorithmic implementations, contrary to a purely functional view of inference. In the context of singular learning theory our results point to a more nuanced understanding of Occam's razor and the meaning of simplicity in inductive inference.
- Abstract(参考訳): 我々は、線形論理からエルハルト・リーガー微分と、渡辺の特異学習理論における幾何学的役割を結びつけることによって、チューリングマシンの構造と実解析関数の特異点の構造の対応性を開発する。
この対応は、通常の(離散的な)チューリング機械符号を滑らかなパラメータ空間を形成するノイズの多い符号の族に埋め込むことで機能する。
このパラメータ空間上では、チューリングマシンを臨界点とするポテンシャル函数を考える。
このような臨界点におけるテイラー級数展開とエラーシンドロームの組合せを関連付けることにより、局所幾何学とチューリングマシンの内部構造を関連付ける。
疑問視される可能性は統計モデルに対する負の対数類似性であり、チューリングマシンの構造とその関連する特異性はベイズ予想にさらに関係している。
同じ予測関数を生成する2つのアルゴリズムは、異なる測地を持つ特異点に対応することができるが、これはベイジアン後部が推論の純粋に機能的なビューとは対照的に、異なるアルゴリズムの実装を区別できることを意味する。
特異学習理論の文脈において、我々の結果はオッカムの剃刀のより微妙な理解と帰納的推論における単純さの意味を示している。
関連論文リスト
- On the Representational Capacity of Neural Language Models with Chain-of-Thought Reasoning [87.73401758641089]
CoT推論による現代言語モデル(LM)の性能向上
LMは弦上の分布の族を確率的チューリングマシンと同一に表現できることを示す。
論文 参考訳(メタデータ) (2024-06-20T10:59:02Z) - Approximation of relation functions and attention mechanisms [2.5322020135765464]
ニューラルネットワーク特徴写像の内部積は、入力間の関係をモデル化する方法として現れる。
本研究では,ニューラルネットワークの内部積の近似特性について検討する。
論文 参考訳(メタデータ) (2024-02-13T23:53:47Z) - Nonparametric Partial Disentanglement via Mechanism Sparsity: Sparse
Actions, Interventions and Sparse Temporal Dependencies [58.179981892921056]
この研究は、メカニズムのスパーシティ正則化(英語版)と呼ばれる、アンタングルメントの新たな原理を導入する。
本稿では,潜在要因を同時に学習することで,絡み合いを誘発する表現学習手法を提案する。
学習した因果グラフをスパースに規則化することにより、潜伏因子を復元できることを示す。
論文 参考訳(メタデータ) (2024-01-10T02:38:21Z) - Going Beyond Neural Network Feature Similarity: The Network Feature
Complexity and Its Interpretation Using Category Theory [64.06519549649495]
機能的に等価な機能と呼ぶものの定義を提供します。
これらの特徴は特定の変換の下で等価な出力を生成する。
反復的特徴マージ(Iterative Feature Merging)というアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-10-10T16:27:12Z) - Probabilistic unifying relations for modelling epistemic and aleatoric uncertainty: semantics and automated reasoning with theorem proving [0.3441021278275805]
確率的プログラミングは、一般的なコンピュータプログラミング、統計的推論、形式的意味論を組み合わせたものである。
ProbURelは、Hehnerの予測確率的プログラミングに基づいているが、彼の作品が広く採用されるにはいくつかの障害がある。
コントリビューションには、Unified Theories of Programming(UTP)を使用した関係の形式化や、ブラケット外の確率などが含まれています。
ロボットのローカライゼーションの問題,機械学習の分類,確率ループの終了など,6つの事例で研究成果を実演する。
論文 参考訳(メタデータ) (2023-03-16T23:36:57Z) - Reinforcement Learning from Partial Observation: Linear Function Approximation with Provable Sample Efficiency [111.83670279016599]
部分観察決定過程(POMDP)の無限観測および状態空間を用いた強化学習について検討した。
線形構造をもつPOMDPのクラスに対する部分可観測性と関数近似の最初の試みを行う。
論文 参考訳(メタデータ) (2022-04-20T21:15:38Z) - Statistically Meaningful Approximation: a Case Study on Approximating
Turing Machines with Transformers [50.85524803885483]
本研究は,統計的学習性を示すために近似ネットワークを必要とする統計有意(SM)近似の形式的定義を提案する。
回路とチューリングマシンの2つの機能クラスに対するSM近似について検討する。
論文 参考訳(メタデータ) (2021-07-28T04:28:55Z) - A supervised learning algorithm for interacting topological insulators
based on local curvature [6.281776745576886]
本稿では,高対称性点における曲率関数のみを入力データとして利用する教師付き機械学習手法を提案する。
相互作用しないデータでトレーニングされた人工ニューラルネットワークは、相互作用するケースのすべての位相位相を正確に予測できることを示す。
興味深いことに、この手法はユビキタスな相互作用によって引き起こされるトポロジカル量子多臨界性を明らかにする。
論文 参考訳(メタデータ) (2021-04-22T18:00:00Z) - Adding machine learning within Hamiltonians: Renormalization group
transformations, symmetry breaking and restoration [0.0]
我々は、位相分類のために設計されたニューラルネットワークの予測関数を、系のハミルトニアン内の外部磁場に結合した共役変数として含む。
結果は, 対称性を破り, 復元することで, 秩序相転移を誘導できることを示す。
機械学習と物理をブリッジする上で,この手法がいかに重要なステップを提供するかを論じる。
論文 参考訳(メタデータ) (2020-09-30T18:44:18Z) - The role of feature space in atomistic learning [62.997667081978825]
物理的にインスパイアされた記述子は、原子論シミュレーションへの機械学習技術の応用において重要な役割を果たしている。
異なる記述子のセットを比較するためのフレームワークを導入し、メトリクスとカーネルを使ってそれらを変換するさまざまな方法を紹介します。
原子密度のn-体相関から構築した表現を比較し,低次特徴の利用に伴う情報損失を定量的に評価した。
論文 参考訳(メタデータ) (2020-09-06T14:12:09Z) - Geometric Formulation for Discrete Points and its Applications [0.0]
離散点上の幾何学の新しい定式化を導入する。
これは普遍微分計算に基づいており、関数の代数による離散集合の幾何学的記述を与える。
論文 参考訳(メタデータ) (2020-02-07T01:12:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。