Fugu-MT 論文翻訳(概要): Undecidability of Underfitting in Learning Algorithms

論文の概要: Undecidability of Underfitting in Learning Algorithms

arxiv url: http://arxiv.org/abs/2102.02850v1
Date: Thu, 4 Feb 2021 19:35:05 GMT
ステータス: 処理完了
システム内更新日: 2021-02-08 17:13:43.561958
Title: Undecidability of Underfitting in Learning Algorithms
Title（参考訳）: 学習アルゴリズムにおけるアンダーフィッティングの不確定性
Authors: Sonia Sehra, David Flores, George D. Montanez
Abstract要約: 符号化可能な学習アルゴリズムが、たとえ無制限のトレーニング時間が与えられたとしても、データセットに相応しいかどうかを決定することは、決定不可能であることを示す。本稿では,この結果の重要性と,学習アルゴリズムが適合する情報理論および確率論的戦略を含む今後の研究への可能性について論じる。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by-sa/4.0/
Abstract: Using recent machine learning results that present an information-theoretic perspective on underfitting and overfitting, we prove that deciding whether an encodable learning algorithm will always underfit a dataset, even if given unlimited training time, is undecidable. We discuss the importance of this result and potential topics for further research, including information-theoretic and probabilistic strategies for bounding learning algorithm fit.
Abstract（参考訳）: 近年の機械学習の結果から,エンコード可能な学習アルゴリズムがデータセットに常に不適合であるかどうかを判断することは,無制限のトレーニング時間が与えられたとしても決定不可能であることを示す。境界学習アルゴリズム適合のための情報理論および確率的戦略を含む、この結果の重要性とさらなる研究のための潜在的なトピックについて議論する。

関連論文リスト

A Unified Framework for Neural Computation and Learning Over Time [56.44910327178975]
Hamiltonian Learningはニューラルネットワークを"時間とともに"学習するための新しい統合フレームワーク i)外部ソフトウェアソルバを必要とせずに統合できる、(ii)フィードフォワードおよびリカレントネットワークにおける勾配に基づく学習の概念を一般化する、(iii)新しい視点で開放する、という微分方程式に基づいている。
論文参考訳（メタデータ） (2024-09-18T14:57:13Z)
Structured Prediction in Online Learning [66.36004256710824]
オンライン学習環境における構造化予測のための理論的・アルゴリズム的枠組みについて検討する。このアルゴリズムは教師付き学習環境からの最適アルゴリズムの一般化であることを示す。本稿では,非定常データ分布,特に逆データを含む2番目のアルゴリズムについて考察する。
論文参考訳（メタデータ） (2024-06-18T07:45:02Z)
Gauge-optimal approximate learning for small data classification problems [0.0]
小さなデータ学習問題は、応答変数の観測量が限られたことと大きな特徴空間次元との相違によって特徴づけられる。本稿では,Gauge-Optimal Approximate Learning (GOAL)アルゴリズムを提案する。 GOALは、合成データと、気候科学やバイオインフォマティクスといった現実世界の応用に挑戦する、最先端の機械学習(ML)ツールと比較されている。
論文参考訳（メタデータ） (2023-10-29T16:46:05Z)
Advancing continual lifelong learning in neural information retrieval: definition, dataset, framework, and empirical evaluation [3.2340528215722553]
連続的なニューラル情報検索の系統的なタスク定式化を示す。包括的連続神経情報検索フレームワークを提案する。経験的評価は,提案フレームワークが神経情報検索における破滅的な忘れ込みを効果的に防止できることを示唆している。
論文参考訳（メタデータ） (2023-08-16T14:01:25Z)
Provably Efficient Representation Learning with Tractable Planning in Low-Rank POMDP [81.00800920928621]
部分的に観測可能なマルコフ決定過程(POMDP)における表現学習の研究まず,不確実性(OFU)に直面した最大推定(MLE)と楽観性を組み合わせた復調性POMDPのアルゴリズムを提案する。次に、このアルゴリズムをより広範な$gamma$-observable POMDPのクラスで機能させる方法を示す。
論文参考訳（メタデータ） (2023-06-21T16:04:03Z)
Latent Properties of Lifelong Learning Systems [59.50307752165016]
本稿では,生涯学習アルゴリズムの潜伏特性を推定するために,アルゴリズムに依存しないサロゲート・モデリング手法を提案する。合成データを用いた実験により,これらの特性を推定するためのアプローチを検証する。
論文参考訳（メタデータ） (2022-07-28T20:58:13Z)
Sample-Efficient Reinforcement Learning in the Presence of Exogenous Information [77.19830787312743]
実世界の強化学習アプリケーションでは、学習者の観察空間は、その課題に関する関連情報と無関係情報の両方でユビキタスに高次元である。本稿では,強化学習のための新しい問題設定法であるExogenous Decision Process (ExoMDP)を導入する。内因性成分の大きさのサンプル複雑度で準最適ポリシーを学習するアルゴリズムであるExoRLを提案する。
論文参考訳（メタデータ） (2022-06-09T05:19:32Z)
Information-theoretic generalization bounds for black-box learning algorithms [46.44597430985965]
我々は,学習アルゴリズムの出力ではなく,予測に含まれる情報に基づいて,教師付き学習アルゴリズムに対する情報理論の一般化境界を導出する。本研究では,ディープラーニングの実践シナリオにおいて,提案した境界が一般化ギャップに密接に従っていることを示す。
論文参考訳（メタデータ） (2021-10-04T17:28:41Z)
Low-Regret Active learning [64.36270166907788]
トレーニングに最も有用なラベル付きデータポイントを識別するオンライン学習アルゴリズムを開発した。私たちの仕事の中心は、予測可能な(簡単な)インスタンスの低い後悔を達成するために調整された睡眠専門家のための効率的なアルゴリズムです。
論文参考訳（メタデータ） (2021-04-06T22:53:45Z)
An Information-Theoretic Perspective on Overfitting and Underfitting [0.0]
本稿では,機械学習における過度な適合と不適合を理解するための情報理論フレームワークを提案する。任意の分類アルゴリズムがデータセットを過度に適合させるかどうかを判断する際の形式的不確定性を証明する。
論文参考訳（メタデータ） (2020-10-12T23:24:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。