論文の概要: From Approximation to Emergence: A Theory of Deep Learning

• arxiv url: http://arxiv.org/abs/2607.01311v1
• Date: Wed, 01 Jul 2026 17:26:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-03 19:45:08.541197
• Title: From Approximation to Emergence: A Theory of Deep Learning
• Title（参考訳）: 近似から創発へ:深層学習の理論
• Authors: Zhilin Zhao,
• Abstract要約: 近似から創発へ(英: Approximation to Emergence)は、現代のディープラーニング理論の統一的で証明指向の論証である。 研究者、大学院生、数学的に訓練された実践者向けに書かれたもので、深層学習理論の厳密な地図を提供する。
• 参考スコア（独自算出の注目度）: 5.863264019032883
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep learning has outgrown any single mathematical explanation. From Approximation to Emergence develops a unified, proof-oriented account of modern deep learning theory, tracing a path from the classical foundations of approximation, optimization, and generalization to the contemporary mechanisms of overparameterization, robustness, generative modeling, transformers, in-context learning, scaling laws, interpretability, alignment, and emergence. Rather than presenting isolated results, the book organizes a broad literature into a coherent research narrative: each theory is examined through the object it controls, the assumptions that make it valid, and the phenomena it leaves unexplained. Written for researchers, graduate students, and mathematically trained practitioners, this monograph offers a rigorous map of deep learning theory as it stands today: powerful, incomplete, and increasingly centered on the question of how learned mechanisms arise from scale, data, architecture, and training.
• Abstract（参考訳）: 深層学習は、いかなる数学的説明よりも優れている。 Approximation から Emergence まで、現代のディープラーニング理論の統一的で証明指向の説明を開発し、近似、最適化、一般化の古典的な基礎から、過度パラメータ化、堅牢性、生成モデリング、変換器、文脈内学習、スケーリング法則、解釈可能性、アライメント、出現といった現代のメカニズムへの道を辿る。 独立した結果を提示するのではなく、本書は幅広い文献をコヒーレントな研究物語にまとめている。 研究者、大学院生、数学的に訓練された実践者のために書かれたこのモノグラフは、現在あるように、深層学習理論の厳密な地図を提供する。

関連論文リスト

• There Will Be a Scientific Theory of Deep Learning [62.690977616250954]
  我々は、深層学習の科学的理論が出現しつつあることを主張する。 我々は、そのような理論を導く5つの成長する仕事の体を同定する。 我々は、新しい理論は学習過程の力学と考えるのが一番良いと論じる。
  論文  参考訳（メタデータ） (2026-04-23T13:58:12Z)
• Tutorial on the Probabilistic Unification of Estimation Theory, Machine Learning, and Generative AI [0.0]
  本調査では,古典的推定理論,統計的推論,現代の機械学習を結合した統一的な数学的枠組みを提案する。 本稿では,最大推定,ベイズ推定,注意機構などの手法が不確実性にどう対処するかを示す。 理論的な合成と、機械学習の進化する風景をナビゲートする学生や研究者のための実践的なガイドとして機能する。
  論文  参考訳（メタデータ） (2025-08-21T16:57:33Z)
• Sheaf theory: from deep geometry to deep learning [0.3749861135832073]
  本稿では,深層学習,データサイエンス,計算機科学におけるせん断理論の適用について概説する。 理論研究者と実践者の両方が共有する層理論の直観と動機について述べる。 そこで本研究では,任意の有限集合上でのせん断コホモロジーを計算するための新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-02-21T14:00:25Z)
• Learning Discrete Concepts in Latent Hierarchical Models [73.01229236386148]
  自然の高次元データから学習する概念は、ヒューマンアライメントと解釈可能な機械学習モデルの構築の可能性を秘めている。 我々は概念を階層的因果モデルを通して関連付けられた離散潜在因果変数として定式化する。 我々は、理論的な主張を合成データ実験で裏付ける。
  論文  参考訳（メタデータ） (2024-06-01T18:01:03Z)
• Neural Causal Abstractions [63.21695740637627]
  我々は、変数とそのドメインをクラスタリングすることで、因果抽象化の新しいファミリーを開発する。 本稿では,ニューラルネットワークモデルを用いて,そのような抽象化が現実的に学習可能であることを示す。 本実験は、画像データを含む高次元設定に因果推論をスケールする方法を記述し、その理論を支持する。
  論文  参考訳（メタデータ） (2024-01-05T02:00:27Z)
• Envisioning Future Deep Learning Theories: Some Basic Concepts and Characteristics [30.365274034429508]
  将来的な深層学習理論は,3つの特徴を継承すべきである,と我々は主張する。 階層構造型ネットワークアーキテクチャ, 勾配法を用いてテキストに最適化されたパラメータ, テキスト圧縮的に進化するデータからの情報。 我々はこれらの特徴をTextitneurashedと呼ばれるグラフィカルモデルに統合し、ディープラーニングにおける一般的な経験的パターンを効果的に説明する。
  論文  参考訳（メタデータ） (2021-12-17T19:51:26Z)
• Recent advances in deep learning theory [104.01582662336256]
  本稿では,近年のディープラーニング理論の進歩をレビューし,整理する。 文献は,(1)深層学習の一般化可能性を分析する複雑性とキャパシティに基づくアプローチ,(2)勾配降下とその変種をモデル化するための微分方程式とその力学系,(3)動的システムの軌道を駆動する損失景観の幾何学的構造,(5)ネットワークアーキテクチャにおけるいくつかの特別な構造の理論的基礎,の6つのグループに分類される。
  論文  参考訳（メタデータ） (2020-12-20T14:16:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。