論文の概要: The unstable formula theorem revisited via algorithms
- arxiv url: http://arxiv.org/abs/2212.05050v3
- Date: Wed, 02 Jul 2025 22:11:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-04 15:37:12.282122
- Title: The unstable formula theorem revisited via algorithms
- Title(参考訳): アルゴリズムによる不安定な公式定理の再検討
- Authors: Maryanthe Malliaris, Shay Moran,
- Abstract要約: 既存の学習モデルのギャップに対応するために,確率的最終補正(PEC)と呼ばれる新しい統計学習モデルを導入する。
このモデルの観点からLittlestone(stable)クラスを特徴付けます。
頻繁な定義の観点からリトルストーンクラスの特徴づけを得るため、多くの既存近似アルゴリズムに共通する点を強調する同値定理を構築した。
- 参考スコア(独自算出の注目度): 18.557423328068122
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper is about the surprising interaction of a foundational result from model theory, about stability of theories, with algorithmic stability in learning. First, in response to gaps in existing learning models, we introduce a new statistical learning model, called ``Probably Eventually Correct'' or PEC. We characterize Littlestone (stable) classes in terms of this model. As a corollary, Littlestone classes have frequent short definitions in a natural statistical sense. In order to obtain a characterization of Littlestone classes in terms of frequent definitions, we build an equivalence theorem highlighting what is common to many existing approximation algorithms, and to the new PEC. This is guided by an analogy to definability of types in model theory, but has its own character. Drawing on these theorems and on other recent work, we present a complete algorithmic analogue of Shelah's celebrated Unstable Formula Theorem, with algorithmic properties taking the place of the infinite.
- Abstract(参考訳): 本稿では,理論の安定性と学習におけるアルゴリズム的安定性に関するモデル理論の基本的な結果の驚くべき相互作用について述べる。
まず,既存の学習モデルのギャップに対応するために,'Probably Ultimate Correct'(PEC)と呼ばれる新しい統計学習モデルを導入する。
このモデルの観点からLittlestone(stable)クラスを特徴付けます。
結論として、リトルストーン類は自然統計学的な意味でしばしば短い定義を持つ。
頻繁な定義の観点からLittlestone クラスの特徴づけを得るため、多くの既存近似アルゴリズムと新しい PEC に共通点を示す同値定理を構築した。
これはモデル理論における型の定義可能性の類似によって導かれるが、独自の性質を持つ。
これらの定理と他の最近の研究に基づいて、シェラの有名な不安定なフォーミュラ定理の完全なアルゴリズム的類似を示し、アルゴリズム的性質は無限の代わりとなる。
関連論文リスト
- A Mean-Field Theory of $Θ$-Expectations [2.1756081703276]
我々はそのような非線形モデルのための新しい計算のクラスを開発する。
Theta-Expectation は部分付加性の公理と一致することが示されている。
論文 参考訳(メタデータ) (2025-07-30T11:08:56Z) - A Theory of $θ$-Expectations [2.1756081703276]
我々は、ドライバーがポイントワイズ幾何学である微分方程式のクラスのためのフレームワークを開発する。
システムのトラクタビリティは、世界的なユニークかつグローバルな存在を前提としている。
ドライバー関数に対するリプシッツ最大値写像。
論文 参考訳(メタデータ) (2025-07-27T16:56:01Z) - Notes on solvable models of many-body quantum chaos [15.617052284991203]
ブラウン・サハデフ・イェ・キタエフモデルに関連する多くの身体カオスモデルのクラスについて検討する。
創発対称性は量子力学を古典的過程にマッピングする。
論文 参考訳(メタデータ) (2024-08-20T18:24:52Z) - A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。
本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
論文 参考訳(メタデータ) (2024-05-24T21:09:19Z) - Understanding the differences in Foundation Models: Attention, State Space Models, and Recurrent Neural Networks [50.29356570858905]
本稿では,これらすべてのアーキテクチャの共通表現に関する原則的な調査を可能にする動的システムフレームワーク(DSF)について紹介する。
ソフトマックスアテンションと他のモデルクラスとの原理的比較を行い、ソフトマックスアテンションを近似できる理論条件について議論する。
このことは、DSFが将来のより効率的でスケーラブルな基盤モデルの体系的な開発を導く可能性を示している。
論文 参考訳(メタデータ) (2024-05-24T17:19:57Z) - Geometric Neural Diffusion Processes [55.891428654434634]
拡散モデルの枠組みを拡張して、無限次元モデリングに一連の幾何学的先行を組み込む。
これらの条件で、生成関数モデルが同じ対称性を持つことを示す。
論文 参考訳(メタデータ) (2023-07-11T16:51:38Z) - Learning with Explanation Constraints [91.23736536228485]
我々は、説明がモデルの学習をどのように改善するかを分析するための学習理論フレームワークを提供する。
我々は,多数の合成および実世界の実験に対して,我々のアプローチの利点を実証する。
論文 参考訳(メタデータ) (2023-03-25T15:06:47Z) - Distributed Bayesian Learning of Dynamic States [65.7870637855531]
提案アルゴリズムは有限状態隠れマルコフモデルに対する分散ベイズフィルタタスクである。
逐次状態推定や、動的環境下でのソーシャルネットワーク上での意見形成のモデル化に使用できる。
論文 参考訳(メタデータ) (2022-12-05T19:40:17Z) - Oracle Inequalities for Model Selection in Offline Reinforcement
Learning [105.74139523696284]
本稿では,値関数近似を用いたオフラインRLにおけるモデル選択の問題について検討する。
対数係数まで最小値の速度-最適不等式を実現するオフラインRLの最初のモデル選択アルゴリズムを提案する。
そこで本研究では,優れたモデルクラスを確実に選択できることを示す数値シミュレーションを行った。
論文 参考訳(メタデータ) (2022-11-03T17:32:34Z) - Realizable Learning is All You Need [21.34668631009594]
実現可能かつ不可知的な学習可能性の同値性は、学習理論における基本的な現象である。
実現可能かつ不可知な学習可能性の同値性を説明する最初のモデルに依存しないフレームワークを提示する。
論文 参考訳(メタデータ) (2021-11-08T19:00:00Z) - Estimation of Bivariate Structural Causal Models by Variational Gaussian
Process Regression Under Likelihoods Parametrised by Normalising Flows [74.85071867225533]
因果機構は構造因果モデルによって記述できる。
最先端の人工知能の大きな欠点の1つは、説明責任の欠如である。
論文 参考訳(メタデータ) (2021-09-06T14:52:58Z) - Agnostic Online Learning and Excellent Sets [18.557423328068122]
モデル理論の意味で、$epsilon$-excellent set が任意の $epsilon frac12$ in $k$-edge 安定グラフに対して存在することを示す。
また、この設定に適した動的Sauer-Shelah-Perles lemmaのバージョンも提供します。
論文 参考訳(メタデータ) (2021-08-12T07:33:33Z) - Proof of the Contiguity Conjecture and Lognormal Limit for the Symmetric
Perceptron [21.356438315715888]
我々は、ニューラルネットワークの単純なモデルである対称バイナリパーセプトロンモデルを検討する。
このモデルのためのいくつかの予想を確立する。
この証明手法は,小さなグラフ条件付け手法の密な反部分に依存する。
論文 参考訳(メタデータ) (2021-02-25T18:39:08Z) - Why Adversarial Interaction Creates Non-Homogeneous Patterns: A
Pseudo-Reaction-Diffusion Model for Turing Instability [10.933825676518195]
交叉相互作用を持つニューロン系のチューリング様パターンを観察する。
本稿では,これらの現象を過小評価するメカニズムを説明するための擬似反応拡散モデルを提案する。
論文 参考訳(メタデータ) (2020-10-01T16:09:22Z) - Control as Hybrid Inference [62.997667081978825]
本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。
連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
論文 参考訳(メタデータ) (2020-07-11T19:44:09Z) - Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。
テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。
以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
論文 参考訳(メタデータ) (2020-06-22T21:12:31Z) - Learning CHARME models with neural networks [1.5362025549031046]
我々はCHARME(Conditional Heteroscedastic Autoregressive Mixture of Experts)と呼ばれるモデルを考える。
そこで本研究では,NNに基づく自己回帰関数の学習理論を開発した。
論文 参考訳(メタデータ) (2020-02-08T21:51:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。