論文の概要: The Implications of the No-Free-Lunch Theorems for Meta-induction
- arxiv url: http://arxiv.org/abs/2103.11956v1
- Date: Mon, 22 Mar 2021 15:53:00 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-23 14:22:43.660819
- Title: The Implications of the No-Free-Lunch Theorems for Meta-induction
- Title（参考訳）: メタインダクションにおけるノーランチ理論の意義
- Authors: David H. Wolpert
- Abstract要約: no-free-lunch theorems (NFL) は (meta) 誘導の問題に大きく影響する。
代わりに誘導アルゴリズムの一般化誤差間の統計的相関を懸念する無料のランチの豊富なセットがあります。
シュルツが提唱する先行は、ビットパターンよりもビット周波数に一様であり、統計物理学における何千もの実験によって矛盾している。
- 参考スコア（独自算出の注目度）: 1.4431534196506413
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The important recent book by G. Schurz appreciates that the no-free-lunch
theorems (NFL) have major implications for the problem of (meta) induction.
Here I review the NFL theorems, emphasizing that they do not only concern the
case where there is a uniform prior -- they prove that there are ``as many
priors'' (loosely speaking) for which any induction algorithm $A$
out-generalizes some induction algorithm $B$ as vice-versa. Importantly though,
in addition to the NFL theorems, there are many \textit{free lunch} theorems.
In particular, the NFL theorems can only be used to compare the
\textit{marginal} expected performance of an induction algorithm $A$ with the
marginal expected performance of an induction algorithm $B$. There is a rich
set of free lunches which instead concern the statistical correlations among
the generalization errors of induction algorithms. As I describe, the
meta-induction algorithms that Schurz advocate as a ``solution to Hume's
problem'' are just an example of such a free lunch based on correlations among
the generalization errors of induction algorithms. I end by pointing out that
the prior that Schurz advocates, which is uniform over bit frequencies rather
than bit patterns, is contradicted by thousands of experiments in statistical
physics and by the great success of the maximum entropy procedure in inductive
inference.
- Abstract（参考訳）: G. Schurz による最近の重要な本は、無自由ランチ定理 (NFL) が(メタ)帰納問題に大きな影響を及ぼすと評価している。
ここでは、nflの定理を見直し、一様事前がある場合だけでなく、任意の帰納的アルゴリズム$a$がいくつかの帰納的アルゴリズムを逆数としてb$で一般化する`'as many priors' (loosely speak) が存在することを証明していると強調する。
しかし、NFLの定理に加えて、多くの「textit{free lunch} theorems」が存在する。
特に、nflの定理は、誘導アルゴリズム $a$ の \textit{marginal} 期待性能と誘導アルゴリズム $b$ の限界期待性能を比較するためにのみ用いられる。
その代わりに、誘導アルゴリズムの一般化誤差間の統計的相関を懸念する、豊富な無料ランチがある。
私が説明したように、シュルツが「ヒューム問題の解法」と提唱するメタ推論アルゴリズムは、帰納的アルゴリズムの一般化誤差間の相関に基づくそのような自由ランチの例にすぎない。
シュルツが提唱する先行は、ビットパターンよりもビット周波数に一様であり、統計物理学における数千の実験と、帰納的推論における最大エントロピー手順の大きな成功によって矛盾していることを指摘した。
関連論文リスト
- A simple and improved algorithm for noisy, convex, zeroth-order optimisation [59.51990161522328]
我々は、$f(hat x)$ ができるだけ小さいような点 $hat xin barmathcal X$ を返すアルゴリズムを構築している。
この方法は、$f(hat x) - min_xin barmathcal X f(x)$ が、多対数項まで$d2/sqrtn$ より小さい順序であることを証明する。
論文 参考訳（メタデータ） (2024-06-26T18:19:10Z) - Variance-Dependent Regret Bounds for Non-stationary Linear Bandits [52.872628573907434]
報酬分布の分散と$B_K$の分散を利用するアルゴリズムを提案する。
Restarted Weighted$textOFUL+$とRestarted$textSAVE+$の2つの新しいアルゴリズムを紹介します。
特に、V_K$が$K$よりはるかに小さい場合、我々のアルゴリズムは、異なる設定下での非定常線形バンドレットの最先端結果よりも優れている。
論文 参考訳（メタデータ） (2024-03-15T23:36:55Z) - FRRI: a novel algorithm for fuzzy-rough rule induction [0.8575004906002217]
ファジィラフルール誘導(FRRI)と呼ばれる新しいルール誘導アルゴリズムを導入する。
アルゴリズムの背景と動作を説明します。
私たちのアルゴリズムは、小さなルールセットを作成しながら、より正確であることに気付きました。
論文 参考訳（メタデータ） (2024-03-07T12:34:03Z) - A Unifying Framework for Differentially Private Sums under Continual
Observation [20.432568247732206]
本研究では,連続観測下での差分プライベート崩壊和の維持問題について検討する。
十分に滑らかな角関数に対して,この問題に対する統一的枠組みと効率的なアルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-07-18T05:04:11Z) - Pseudonorm Approachability and Applications to Regret Minimization [73.54127663296906]
我々は、高次元 $ell_infty$-approachability 問題を、低次元の擬ノルムアプローチ可能性問題に変換する。
我々は、$ell$や他のノルムに対するアプローチ可能性に関する以前の研究に類似した疑似ノルムアプローチ可能性のアルゴリズム理論を開発する。
論文 参考訳（メタデータ） (2023-02-03T03:19:14Z) - The Adversary Bound Revisited: From Optimal Query Algorithms to Optimal
Control [0.0]
このノートは"One-Way Ticket to Las Vegas and the Quantum Adversary"という論文を補完している。
私は、Barnum-Saks-Szegedyと同じ視点で、逆境界-普遍アルゴリズムの双対性を異なる形で開発する。
論文 参考訳（メタデータ） (2022-11-29T15:25:45Z) - Gaussian Process Bandit Optimization with Few Batches [49.896920704012395]
有限腕バンディットアルゴリズムにインスパイアされたバッチアルゴリズムを導入する。
O(log T)$ batches in time horizon $T$.sqrtTgamma_T)$ using $O(log T)$ batches in time horizon。
さらに,アルゴリズムの修正版を提案し,バッチ数によって後悔がどう影響するかを特徴付ける。
論文 参考訳（メタデータ） (2021-10-15T00:54:04Z) - Minimax Optimization with Smooth Algorithmic Adversaries [59.47122537182611]
対戦相手が展開するスムーズなアルゴリズムに対して,Min-playerの新しいアルゴリズムを提案する。
本アルゴリズムは,制限周期のない単調進行を保証し,適切な勾配上昇数を求める。
論文 参考訳（メタデータ） (2021-06-02T22:03:36Z) - Quantum algorithms for spectral sums [50.045011844765185]
正半定値行列(PSD)のスペクトル和を推定するための新しい量子アルゴリズムを提案する。
本稿では, スペクトルグラフ理論における3つの問題に対して, アルゴリズムと手法が適用可能であることを示す。
論文 参考訳（メタデータ） (2020-11-12T16:29:45Z) - What is important about the No Free Lunch theorems? [0.5874142059884521]
ノー・フリー・ランチの定理は、誘導問題に対する一様分布の下では、すべての誘導アルゴリズムが等しく作用することを証明している。
定理の重要性は、それらを用いて非一様分布を含むシナリオを分析することによって生じる。
また、教師付き学習の間に「辞書」を動機付け、ブラックボックス最適化を改善する。
論文 参考訳（メタデータ） (2020-07-21T16:42:36Z) - A New Minimax Theorem for Randomized Algorithms [1.2284934135116514]
新しいタイプのミニマックス定理を導入し、全てのバイアスレベルに一度に作用するハード分布の$mu$を提供する。
ランダム化クエリの複雑性,ランダム化通信の複雑性,近似度数,近似対数に対して有効であることを示す。
また、Impagliazzoのハードコアの改良版も証明した。
論文 参考訳（メタデータ） (2020-02-25T11:46:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。