論文の概要: When Is Inductive Inference Possible?

• arxiv url: http://arxiv.org/abs/2312.00170v2
• Date: Wed, 25 Sep 2024 19:38:47 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-09 09:27:53.302106
• Title: When Is Inductive Inference Possible?
• Title（参考訳）: 帰納的推論はいつ可能か?
• Authors: Zhou Lu,
• Abstract要約: オンライン学習理論への新たなリンクを確立することにより,帰納的推論の厳密な特徴付けを行う。 帰納的推論が可能であることは、仮説クラスがオンライン学習可能なクラスの可算和である場合に限る。 私たちの主要な技術ツールは、新しい一様でないオンライン学習フレームワークです。
• 参考スコア（独自算出の注目度）: 3.4991031406102238
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Can a physicist make only a finite number of errors in the eternal quest to uncover the law of nature? This millennium-old philosophical problem, known as inductive inference, lies at the heart of epistemology. Despite its significance to understanding human reasoning, a rigorous justification of inductive inference has remained elusive. At a high level, inductive inference asks whether one can make at most finite errors amidst an infinite sequence of observations, when deducing the correct hypothesis from a given hypothesis class. Historically, the only theoretical guarantee has been that if the hypothesis class is countable, inductive inference is possible, as exemplified by Solomonoff induction for learning Turing machines. In this paper, we provide a tight characterization of inductive inference by establishing a novel link to online learning theory. As our main result, we prove that inductive inference is possible if and only if the hypothesis class is a countable union of online learnable classes, potentially with an uncountable size, no matter the observations are adaptively chosen or iid sampled. Moreover, the same condition is also sufficient and necessary in the agnostic setting, where any hypothesis class meeting this criterion enjoys an $\tilde{O}(\sqrt{T})$ regret bound for any time step $T$, while others require an arbitrarily slow rate of regret. Our main technical tool is a novel non-uniform online learning framework, which may be of independent interest.
• Abstract（参考訳）: 物理学者は、自然の法則を明らかにするための永遠の探求において、限られた数の誤りしか作れないだろうか? この千年紀の哲学的問題は、帰納的推論(inductive inference)として知られ、認識論の中心にある。 人間の推論を理解することの重要性にもかかわらず、帰納的推論の厳密な正当化はいまだ解明されていない。 高いレベルでは、帰納的推論(inductive inference)は、与えられた仮説クラスから正しい仮説を導出する際に、無限の観測列の中で少なくとも有限の誤りを犯すことができるかどうかを問う。 歴史的に、唯一の理論的保証は、仮説クラスが可算であれば、チューリング機械を学習するためにソロモノフ帰納法によって例示されるように、帰納的推論が可能であることである。 本稿では,オンライン学習理論の新たなリンクを確立することにより,帰納的推論の厳密な評価を行う。 本結果から, 帰納的推論が可能であること, 仮説クラスがオンライン学習可能クラスの可算和であり, 潜在的に可算な大きさの場合に限り, 観察が適応的に選択されたり, サンプリングされたりしても, 帰納的推論が可能であることを証明した。 さらに、この条件を満たす任意の仮説クラスが$\tilde{O}(\sqrt{T})$ regret bound for any time step $T$を楽しんでいる一方で、他は任意に遅い後悔の速度を必要とする。 私たちの主要な技術ツールは、新しい一様でないオンライン学習フレームワークです。

関連論文リスト

• Computable learning of natural hypothesis classes [0.0]
  最近、PACが学習可能であるが、計算可能でない仮説クラスが与えられた。 計算可能性理論のon-a-cone 機械を用いて、仮説クラスが計算可能リスト化可能であるような軽微な仮定の下では、学習可能な自然仮説クラスは計算可能リスト化可能であることを証明する。
  論文  参考訳（メタデータ） (2024-07-23T17:26:38Z)
• Machine learning and information theory concepts towards an AI Mathematician [77.63761356203105]
  人工知能の現在の最先端技術は、特に言語習得の点で印象的だが、数学的推論の点ではあまり重要ではない。 このエッセイは、現在のディープラーニングが主にシステム1の能力で成功するという考えに基づいている。 興味深い数学的ステートメントを構成するものについて質問するために、情報理論的な姿勢を取る。
  論文  参考訳（メタデータ） (2024-03-07T15:12:06Z)
• Betting on what is neither verifiable nor falsifiable [18.688474183114085]
  我々は,このようなイベントを選択肢を通じて賭けるアプローチを提案し,また,「検証・ファルシフィケーションゲーム」の結果に賭ける手法を提案する。 したがって、我々の研究は、論理的不確実性に対するガラブラント帰納法(英語版)の既存の枠組みの代替として機能し、数学の哲学における構成主義(英語版)として知られるスタンスに関連している。
  論文  参考訳（メタデータ） (2024-01-29T17:30:34Z)
• Phenomenal Yet Puzzling: Testing Inductive Reasoning Capabilities of Language Models with Hypothesis Refinement [92.61557711360652]
  言語モデル(LM)は、しばしば帰納的推論に不足する。 我々は,反復的仮説修正を通じて,LMの帰納的推論能力を体系的に研究する。 本研究は, LMの誘導的推論過程と人間とのいくつかの相違点を明らかにし, 誘導的推論タスクにおけるLMの使用の可能性と限界に光を当てる。
  論文  参考訳（メタデータ） (2023-10-12T17:51:10Z)
• Learnability with PAC Semantics for Multi-agent Beliefs [38.88111785113001]
  推論と帰納の緊張は、おそらく哲学、認知、人工知能といった分野において最も根本的な問題である。 Valiant氏は、学習の課題は推論と統合されるべきである、と認識した。 古典的な包含よりも弱いが、クエリに応答する強力なモデル理論のフレームワークを可能にする。
  論文  参考訳（メタデータ） (2023-06-08T18:22:46Z)
• A Measure-Theoretic Axiomatisation of Causality [55.6970314129444]
  我々は、コルモゴロフの確率の測度理論的公理化を因果関係の公理化への出発点とすることを好んで論じる。 提案するフレームワークは測度理論に厳格に根ざしているが,既存のフレームワークの長期的制限にも光を当てている。
  論文  参考訳（メタデータ） (2023-05-19T13:15:48Z)
• A Note on Bell's Theorem Logical Consistency [0.0]
  偽定性はベルの定理を下敷きにするはずである。 反事実的確定性は不必要かつ矛盾した仮定であることを示す。
  論文  参考訳（メタデータ） (2020-12-16T22:14:06Z)
• A Weaker Faithfulness Assumption based on Triple Interactions [89.59955143854556]
  より弱い仮定として, 2$-adjacency faithfulness を提案します。 より弱い仮定の下で適用可能な因果発見のための音方向規則を提案する。
  論文  参考訳（メタデータ） (2020-10-27T13:04:08Z)
• Inferences and Modal Vocabulary [8.475081627511166]
  単調でない推論には様々な種類があり、例えば帰納的推論がある。 物質的推論は、物質的不整合性の原理に基づいて良い推論を表現する。 概念的関係を表現するための意味のモーダル解釈を提案する。
  論文  参考訳（メタデータ） (2020-07-06T01:04:06Z)
• Logical Neural Networks [51.46602187496816]
  ニューラルネットワーク(学習)と記号論理(知識と推論)の両方の重要な特性をシームレスに提供する新しいフレームワークを提案する。 すべてのニューロンは、重み付けされた実数値論理における公式の構成要素としての意味を持ち、非常に解釈不能な非絡み合い表現をもたらす。 推論は事前に定義されたターゲット変数ではなく、オムニであり、論理的推論に対応する。
  論文  参考訳（メタデータ） (2020-06-23T16:55:45Z)
• L2R2: Leveraging Ranking for Abductive Reasoning [65.40375542988416]
  学習システムの帰納的推論能力を評価するために,帰納的自然言語推論タスク(alpha$NLI)を提案する。 新たな$L2R2$アプローチは、Learning-to-rankフレームワークの下で提案されている。 ARTデータセットの実験は、公開リーダボードの最先端に到達します。
  論文  参考訳（メタデータ） (2020-05-22T15:01:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。