論文の概要: Statistical Foundation Behind Machine Learning and Its Impact on
Computer Vision
- arxiv url: http://arxiv.org/abs/2209.02691v1
- Date: Tue, 6 Sep 2022 17:59:04 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-07 14:25:55.216492
- Title: Statistical Foundation Behind Machine Learning and Its Impact on
Computer Vision
- Title(参考訳): 機械学習にまつわる統計的基礎とコンピュータビジョンへの影響
- Authors: Lei Zhang and Heung-Yeung Shum
- Abstract要約: 本稿では、統計的学習における一様収束の原理を再考し、機械学習の基礎としてどのように機能するかを論じ、現在のディープラーニングアルゴリズムが解決している本質的な問題をよりよく理解しようと試みる。
コンピュータビジョンを機械学習の例として用いた議論は、近年の大規模データを活用して、表現学習に事前学習を行うことによる研究の傾向が、現実的に抽出可能な経験的損失と最終的に望まれるが、予測される損失との差を減らしていることを示している。
- 参考スコア(独自算出の注目度): 8.974457198386414
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper revisits the principle of uniform convergence in statistical
learning, discusses how it acts as the foundation behind machine learning, and
attempts to gain a better understanding of the essential problem that current
deep learning algorithms are solving. Using computer vision as an example
domain in machine learning, the discussion shows that recent research trends in
leveraging increasingly large-scale data to perform pre-training for
representation learning are largely to reduce the discrepancy between a
practically tractable empirical loss and its ultimately desired but intractable
expected loss. Furthermore, this paper suggests a few future research
directions, predicts the continued increase of data, and argues that more
fundamental research is needed on robustness, interpretability, and reasoning
capabilities of machine learning by incorporating structure and knowledge.
- Abstract(参考訳): 本稿では、統計的学習における一様収束の原理を再検討し、機械学習の基盤としてどのように機能するかを説明し、現在のディープラーニングアルゴリズムが解決している本質的な問題の理解を深めようとする。
コンピュータビジョンを機械学習の例として用いた議論は、近年の大規模データを活用して、表現学習に事前学習を行うことによる研究の傾向が、現実的に抽出可能な経験的損失と最終的に望まれるが、予測される損失との差を減らしていることを示している。
さらに,本論文では,データの継続的な増加を予測し,構造と知識を取り入れた機械学習の堅牢性,解釈可能性,推論能力について,より基本的な研究が必要であることを論じる。
関連論文リスト
- Reproducibility and Geometric Intrinsic Dimensionality: An Investigation on Graph Neural Network Research [0.0]
これらの努力に基づいて構築することは、マシンラーニングにおけるもうひとつの重要な課題、すなわち次元の呪いに向かっています。
本研究は,機械学習モデルが学習対象のデータセットの拡張次元にどのような影響を受けているのかを,本質的な次元の密接な関連概念を用いて検討する。
論文 参考訳(メタデータ) (2024-03-13T11:44:30Z) - Disentangling the Causes of Plasticity Loss in Neural Networks [55.23250269007988]
可塑性の喪失は複数の独立したメカニズムに分解できることを示す。
種々の非定常学習タスクにおいて, 層正規化と重み劣化の組み合わせは, 可塑性維持に極めて有効であることを示す。
論文 参考訳(メタデータ) (2024-02-29T00:02:33Z) - Improving Prediction Performance and Model Interpretability through
Attention Mechanisms from Basic and Applied Research Perspectives [3.553493344868414]
この論文は著者の論文の要約に基づいている。
ディープラーニングモデルは、従来の機械学習モデルよりも予測性能がはるかに高い。
特定の予測プロセスの解釈や説明は依然として困難である。
論文 参考訳(メタデータ) (2023-03-24T16:24:08Z) - Impact Learning: A Learning Method from Features Impact and Competition [1.3569491184708429]
本稿では,インパクト学習と呼ばれる新しい機械学習アルゴリズムを提案する。
インパクト学習は教師付き学習アルゴリズムであり、分類問題と回帰問題の両方に統合することができる。
自然増進の本質的な速度によるハイライトの影響によって調製される。
論文 参考訳(メタデータ) (2022-11-04T04:56:35Z) - Deep Learning to See: Towards New Foundations of Computer Vision [88.69805848302266]
この本はコンピュータビジョンの分野における科学的進歩を批判している。
情報に基づく自然法則の枠組みにおける視覚の研究を提案する。
論文 参考訳(メタデータ) (2022-06-30T15:20:36Z) - Causal Reasoning Meets Visual Representation Learning: A Prospective
Study [117.08431221482638]
解釈可能性の欠如、堅牢性、分布外一般化が、既存の視覚モデルの課題となっている。
人間レベルのエージェントの強い推論能力にインスパイアされた近年では、因果推論パラダイムの開発に多大な努力が注がれている。
本稿では,この新興分野を包括的に概観し,注目し,議論を奨励し,新たな因果推論手法の開発の急激さを先導することを目的とする。
論文 参考訳(メタデータ) (2022-04-26T02:22:28Z) - Evaluation Methods and Measures for Causal Learning Algorithms [33.07234268724662]
我々は2つの基本的な因果推論タスクと因果認識機械学習タスクに焦点を当てる。
この調査は、公開可能なベンチマークの開発と、観察データによる因果学習評価のためのコンセンサス標準の策定の緊急性に先んじることを目指している。
論文 参考訳(メタデータ) (2022-02-07T00:24:34Z) - Nonparametric Estimation of Heterogeneous Treatment Effects: From Theory
to Learning Algorithms [91.3755431537592]
プラグイン推定と擬似出力回帰に依存する4つの幅広いメタ学習戦略を解析する。
この理論的推論を用いて、アルゴリズム設計の原則を導出し、分析を実践に翻訳する方法について強調する。
論文 参考訳(メタデータ) (2021-01-26T17:11:40Z) - Knowledge as Invariance -- History and Perspectives of
Knowledge-augmented Machine Learning [69.99522650448213]
機械学習の研究は転換点にある。
研究の関心は、高度にパラメータ化されたモデルのパフォーマンス向上から、非常に具体的なタスクへとシフトしている。
このホワイトペーパーは、機械学習研究におけるこの新興分野の紹介と議論を提供する。
論文 参考訳(メタデータ) (2020-12-21T15:07:19Z) - Vulnerability Under Adversarial Machine Learning: Bias or Variance? [77.30759061082085]
本研究では,機械学習が訓練された深層ニューラルネットワークのバイアスと分散に与える影響について検討する。
我々の分析は、ディープニューラルネットワークが対向的摂動下で性能が劣っている理由に光を当てている。
本稿では,計算処理の複雑さをよく知られた機械学習手法よりも低く抑えた,新しい逆機械学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-08-01T00:58:54Z) - Causality Learning: A New Perspective for Interpretable Machine Learning [15.556963808865918]
解釈可能な機械学習は、現在、研究コミュニティで主要なトピックです。
本稿では,基礎的背景と重要な概念を用いた因果解析の概要を述べるとともに,直近の因果解析における因果解析手法を要約する。
論文 参考訳(メタデータ) (2020-06-27T13:01:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。