論文の概要: Applications of Statistical Field Theory in Deep Learning
- arxiv url: http://arxiv.org/abs/2502.18553v2
- Date: Fri, 28 Feb 2025 07:45:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-03 13:44:25.667244
- Title: Applications of Statistical Field Theory in Deep Learning
- Title（参考訳）: 深層学習における統計場理論の応用
- Authors: Zohar Ringel, Noa Rubin, Edo Mor, Moritz Helias, Inbar Seroussi,
- Abstract要約: ディープラーニングアルゴリズムは、これらのアルゴリズムの複雑さのため、過去10年間に驚くべき進歩を遂げてきたが、ディープラーニングの科学は、まだ初期段階にある。
実験駆動の分野であるため、物理学のパラダイムの中でディープラーニングの理論を求めることは自然である。
深層学習は主に関数の学習と関数上の分布に関するものであるので、統計場理論は形式主義の明らかな選択である。
- 参考スコア（独自算出の注目度）: 3.794839127656261
- License:
- Abstract: Deep learning algorithms have made incredible strides in the past decade yet due to the complexity of these algorithms, the science of deep learning remains in its early stages. Being an experimentally driven field, it is natural to seek a theory of deep learning within the physics paradigm. As deep learning is largely about learning functions and distributions over functions, statistical field theory, a rich and versatile toolbox for tackling complex distributions over functions (fields) is an obvious choice of formalism. Research efforts carried out in the past few years have demonstrated the ability of field theory to provide useful insights on generalization, implicit bias, and feature learning effects. Here we provide a pedagogical review of this emerging line of research.
- Abstract（参考訳）: ディープラーニングアルゴリズムは、これらのアルゴリズムの複雑さのため、過去10年間に驚くべき進歩を遂げてきたが、ディープラーニングの科学は、まだ初期段階にある。
実験駆動の分野であるため、物理学のパラダイムの中でディープラーニングの理論を求めることは自然である。
深層学習は、関数上の関数と分布の学習を主眼としているため、統計場理論は、関数(フィールド)上の複素分布を扱うリッチで汎用的なツールボックスは、明らかに形式主義の選択である。
過去数年間に行われた研究は、一般化、暗黙の偏見、特徴学習効果に関する有用な洞察を提供するための場の理論の能力を実証してきた。
ここでは、この新たな研究の行方について、教育学的に考察する。
関連論文リスト
- Towards a Categorical Foundation of Deep Learning: A Survey [0.0]
この論文は、機械学習を分類的に研究しようとする最近の研究をカバーしている。
数学と科学の言語フランスとして働く カテゴリー理論は 機械学習の分野に 統一的な構造を与えるかもしれない
論文 参考訳（メタデータ） (2024-10-07T13:11:16Z) - Information-Theoretic Foundations for Machine Learning [20.617552198581024]
本稿では,洞窟外に存在する問題に答えようとする理論的枠組みを提案する。
我々はベイズ統計とシャノンの情報理論に根ざしたフレームワークを提供し、機械学習における多くの現象の分析を統一するのに十分一般的なものである。
我々は、不特定アルゴリズムの性能を特徴付けるセクションを締めくくる。
論文 参考訳（メタデータ） (2024-07-17T03:18:40Z) - Position: Topological Deep Learning is the New Frontier for Relational Learning [51.05869778335334]
トポロジカルディープラーニング(TDL)は、トポロジカルな特徴を用いてディープラーニングモデルを理解し設計する、急速に進化する分野である。
本稿では,TDLがリレーショナル学習の新たなフロンティアであることを示す。
論文 参考訳（メタデータ） (2024-02-14T00:35:10Z) - Deep Learning in Deterministic Computational Mechanics [0.0]
本稿では,計算力学の応用よりも深層学習に焦点をあてる。
主な聴衆は、この分野に参入しようとしている研究者や、計算力学の深層学習の概観を得ようとする研究者である。
論文 参考訳（メタデータ） (2023-09-27T05:57:19Z) - A Comprehensive Survey of Continual Learning: Theory, Method and
Application [64.23253420555989]
本稿では,基礎的設定,理論的基礎,代表的方法,実践的応用を橋渡しする継続的学習に関する包括的調査を行う。
連続学習の一般的な目的は、資源効率の文脈において、適切な安定性と塑性のトレードオフと適切なタスク内/タスク内一般化性を保証することであると要約する。
論文 参考訳（メタデータ） (2023-01-31T11:34:56Z) - A Survey of Deep Learning for Mathematical Reasoning [71.88150173381153]
我々は過去10年間の数学的推論とディープラーニングの交差点における重要なタスク、データセット、方法についてレビューする。
大規模ニューラルネットワークモデルの最近の進歩は、新しいベンチマークと、数学的推論にディープラーニングを使用する機会を開放している。
論文 参考訳（メタデータ） (2022-12-20T18:46:16Z) - Deep Active Learning by Leveraging Training Dynamics [57.95155565319465]
本稿では,学習力学を最大化するためにサンプルを選択する理論駆動型深層能動学習法(Dynamical)を提案する。
動的学習は、他のベースラインを一貫して上回るだけでなく、大規模なディープラーニングモデルでもうまくスケール可能であることを示す。
論文 参考訳（メタデータ） (2021-10-16T16:51:05Z) - Ten Quick Tips for Deep Learning in Biology [116.78436313026478]
機械学習は、データのパターンを認識し、予測モデリングに使用するアルゴリズムの開発と応用に関係している。
ディープラーニングは、独自の機械学習のサブフィールドになっている。
生物学的研究の文脈において、ディープラーニングは高次元の生物学的データから新しい洞察を導き出すためにますます使われてきた。
論文 参考訳（メタデータ） (2021-05-29T21:02:44Z) - Deep Learning for Road Traffic Forecasting: Does it Make a Difference? [6.220008946076208]
本稿では,このITS研究領域におけるDeep Learningの活用に言及した技術の現状を批判的に分析することに焦点を当てる。
後続の批判分析は、交通予測のためのディープラーニングの問題について、質問を定式化し、必要な議論を引き起こす。
論文 参考訳（メタデータ） (2020-12-02T15:56:11Z) - Deep Learning is Singular, and That's Good [31.985399645173022]
特異モデルにおいて、パラメータの最適集合は特異点を持つ解析集合を形成し、古典的な統計的推論は適用できない。
これは、ニューラルネットワークが特異であり、ヘッセンの行列式やラプラス近似を用いた場合の「分割」が適切でないため、ディープラーニングにとって重要である。
深層学習の根本的な問題に対処する可能性にもかかわらず、特異学習理論は深層学習理論の発達過程にほとんど浸透しなかったようである。
論文 参考訳（メタデータ） (2020-10-22T09:33:59Z) - Provably Efficient Exploration for Reinforcement Learning Using
Unsupervised Learning [96.78504087416654]
強化学習(RL)問題における効率的な探索に教師なし学習を用い,本パラダイムが有効であるかどうかを考察する。
本稿では,教師なし学習アルゴリズムと非線形表RLアルゴリズムという,2つのコンポーネント上に構築された汎用的なアルゴリズムフレームワークを提案する。
論文 参考訳（メタデータ） (2020-03-15T19:23:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。