論文の概要: Statistical learning theory and Occam's razor: Regularization
- arxiv url: http://arxiv.org/abs/2608.04049v1
- Date: Tue, 04 Aug 2026 09:17:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 14:48:43.454883
- Title: Statistical learning theory and Occam's razor: Regularization
- Title(参考訳): 統計的学習理論とオッカムのカミソリ--正規化
- Authors: Tom F. Sterkenburg,
- Abstract要約: オッカムのカミソリは、帰納的推論において単純さを優先するように指示しており、科学哲学と機械学習の両方において多くの精査を集めている。
理論的な信頼性と「何を見ればいいのか」の保証から利益を得るには、適当に単純さを優先しなければならないと私は主張する。
これは真理の正当性であり、純粋に実践的な原則に陥ることもなく、本質が単純であるという存在論的前提にも当てはまらない。
- 参考スコア(独自算出の注目度): 0.913755431537592
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The principle of Occam's razor, which instructs us to prefer simplicity in inductive inference, has attracted much scrutiny both in the philosophy of science and in machine learning. In either field, however, a justification for the principle has been elusive. In this paper, building on an earlier "core argument," I spell out a justification from statistical learning theory for the procedure of regularization: for trading off fit for simplicity. The means-ends argument is that in order to profit from theoretical reliability and "what-you-see-is-what-you-get" guarantees, one must implement a certain preference for simplicity over fit. This is a genuine methodological justification, which neither collapses to a purely pragmatic principle that we prefer simplicity for its own sake, nor to an ontological assumption that the truth is simple.
- Abstract(参考訳): オッカムのカミソリの原理は、帰納的推論において単純さを優先させるものであり、科学哲学と機械学習の両方において多くの精査を集めている。
しかし、どちらの分野でも、この原理の正当化はあり得ない。
本稿では,従来の「中核論」に基づいて,正規化の手順に対する統計的学習理論の正当性について述べる。
平均的な議論は、理論的な信頼性と「何を求めているのか」の保証から利益を得るには、適合よりも単純さを優先しなければならないというものである。
これは真理の正当性であり、純粋に実践的な原則に陥ることもなく、本質が単純であるという存在論的前提にも当てはまらない。
関連論文リスト
- Benign interpolation and Occam's razor [0.688204255655161]
最新のディープラーニング手法は、トレーニングデータを完璧に適合させたとしても、うまく一般化できることを示す。
この新しいシンプルさへのアピールは説明的ギャップを生み出すと我々は主張する。
一般化への証明可能な接続を欠いたのは、かつての作業を行う「単純さ」(simplicity) という名前であり、実体的で議論の余地のない仮定を、よく知られた方法論の原則の適用のように見せかける。
論文 参考訳(メタデータ) (2026-08-04T09:34:47Z) - Thinking to Recall: How Reasoning Unlocks Parametric Knowledge in LLMs [45.274171760492685]
提案手法は,モデルのパラメトリック知識リコールの能力境界を大幅に拡張する。
我々は,幻覚のない事実文を含む推論軌道を優先することで,モデル精度を直接的に向上できることを示す。
論文 参考訳(メタデータ) (2026-03-10T16:59:20Z) - Newton to Einstein: Axiom-Based Discovery via Game Design [55.30047000068118]
本稿では,ルール進化システムとして科学調査を再放送するゲームデザインフレームワークを提案する。
固定された仮定内で動作する従来のMLアプローチとは異なり、本手法は新たな理論構造の発見を可能にする。
論文 参考訳(メタデータ) (2025-09-05T18:59:18Z) - Reasoning is about giving reasons [55.56111618153049]
高い精度の3つの一般的な推論データセットにおいて、自然言語の引数の論理構造を同定し、抽出できることが示される。
我々のアプローチは、自然言語の引数の論理構造に依存するあらゆる推論形式をサポートする。
論文 参考訳(メタデータ) (2025-08-20T07:26:53Z) - Advancing Abductive Reasoning in Knowledge Graphs through Complex Logical Hypothesis Generation [43.26412690886471]
本稿では,知識グラフを用いた帰納的論理的推論への最初のステップとして,複雑な論理的仮説生成の課題を紹介する。
教師付き学習された生成モデルは、参照仮説に構造的に近い論理仮説を生成することができる。
本稿では, 知識グラフによる強化学習(Reinforcement Learning from Knowledge Graph, RLF-KG)手法を提案する。
論文 参考訳(メタデータ) (2023-12-25T08:06:20Z) - Statistical learning theory and Occam's razor: The core argument [1.6317061277457001]
本稿では,統計的学習理論から得られる単純さの核となる議論を精査する。
これは、経験的リスク最小化の方法に関する理論の中心的な学習保証に基づいて構築されている。
論文 参考訳(メタデータ) (2023-12-21T13:40:31Z) - A Simple Generative Model of Logical Reasoning and Statistical Learning [0.6853165736531939]
統計的学習と論理的推論は、AIの2つの主要な分野であり、人間のようなマシンインテリジェンスに統一されることが期待されている。
本稿では、論理的推論と統計的学習の単純なベイズモデルを提案する。
我々は、形式論理におけるその満足度の観点から、データがどのように象徴的知識を引き起こすかをモデル化する。
論文 参考訳(メタデータ) (2023-05-18T16:34:51Z) - Logical Satisfiability of Counterfactuals for Faithful Explanations in
NLI [60.142926537264714]
本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。
これは、説明に表される論理述語に基づいて、反実仮説を生成する。
そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
論文 参考訳(メタデータ) (2022-05-25T03:40:59Z) - Logical Neural Networks [51.46602187496816]
ニューラルネットワーク(学習)と記号論理(知識と推論)の両方の重要な特性をシームレスに提供する新しいフレームワークを提案する。
すべてのニューロンは、重み付けされた実数値論理における公式の構成要素としての意味を持ち、非常に解釈不能な非絡み合い表現をもたらす。
推論は事前に定義されたターゲット変数ではなく、オムニであり、論理的推論に対応する。
論文 参考訳(メタデータ) (2020-06-23T16:55:45Z) - A (Simplified) Supreme Being Necessarily Exists, says the Computer:
Computationally Explored Variants of G\"odel's Ontological Argument [0.0]
いくつかの議論前提は修正され、他のものは取り下げられ、モダル崩壊は回避され、既に弱いモダル論理 K と T で妥当性が示される。
本稿は, 量子化された非古典論理に対する現代的な知識表現と推論技術が, 新たな知識を他の分野にもたらす方法を説明する。
論文 参考訳(メタデータ) (2020-01-14T10:26:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。