論文の概要: Statistical Properties of Training & Generalization
- arxiv url: http://arxiv.org/abs/2606.20299v1
- Date: Thu, 18 Jun 2026 14:35:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-19 18:23:39.91903
- Title: Statistical Properties of Training & Generalization
- Title(参考訳): 研修・一般化の統計的特性
- Authors: Itay Lavie, Noam Levi, Yonatan Kahn,
- Abstract要約: 物理インフォームドの観点から,ディープラーニングの重要な特徴とサプライズについて検討する。
我々は、ニューラルネットワークのスケーリング法則の現象を概観し、物理問題に機械学習を適用する際に生じる制約や帰納バイアスとそれらの相互作用について議論する。
- 参考スコア(独自算出の注目度): 3.3135760457470718
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning has managed to evade numerous intuitions from classical statistics to achieve unprecedented performance on a number of real-world tasks. In this article, we investigate the key features and surprises of deep learning from a physics-informed perspective, taking care to point out and justify where possible the many choices inherent in constructing a deep learning model. In particular, we review the phenomenon of neural scaling laws and discuss their interplay with the constraints and inductive biases which may be present when applying machine learning to problems in physics.
- Abstract(参考訳): ディープラーニングは、多くの実世界のタスクにおいて前例のないパフォーマンスを達成するために、古典的な統計学からの多くの直観を避けることに成功した。
本稿では,物理インフォームドの観点からの深層学習の重要な特徴とサプライズを考察し,深層学習モデル構築に固有の多くの選択肢がどこにあるのかを指摘し,正当化する。
特に、ニューラルスケーリング法則の現象を概観し、物理問題に機械学習を適用する際に生じる制約や帰納バイアスとの相互作用について議論する。
関連論文リスト
- Can Data-Driven Dynamics Reveal Hidden Physics? There Is A Need for Interpretable Neural Operators [10.591168773809635]
1)グリッドで学習する空間ドメインモデルと,(2)関数ベースで学習する機能ドメインモデルである。
具体的には、ニューラルネットワークの予測過程を説明し、ニューラルネットワークがデータから隠れた物理的パターンを学習できることを示す。
次に、単純な双空間マルチスケールモデルがSOTAの性能を達成できることを示し、二重空間マルチ比スケールモデルが複雑な物理を学ぶ大きな可能性を秘めていると信じている。
論文 参考訳(メタデータ) (2025-10-03T02:50:21Z) - Double descent in quantum kernel methods [2.4704291770020617]
量子的特徴空間における線形回帰モデルが二重降下挙動を示すことを解析的に実証した。
また,二重降下の特徴である試験誤差ピークの存在も確認した。
論文 参考訳(メタデータ) (2025-01-17T09:49:46Z) - Deep Learning Through A Telescoping Lens: A Simple Model Provides Empirical Insights On Grokking, Gradient Boosting & Beyond [61.18736646013446]
その驚くべき振る舞いをより深く理解するために、トレーニングされたニューラルネットワークの単純かつ正確なモデルの有用性について検討する。
3つのケーススタディで、様々な顕著な現象に関する新しい経験的洞察を導き出すためにどのように適用できるかを説明します。
論文 参考訳(メタデータ) (2024-10-31T22:54:34Z) - ShadowNet for Data-Centric Quantum System Learning [188.683909185536]
本稿では,ニューラルネットワークプロトコルと古典的シャドウの強みを組み合わせたデータ中心学習パラダイムを提案する。
ニューラルネットワークの一般化力に基づいて、このパラダイムはオフラインでトレーニングされ、これまで目に見えないシステムを予測できる。
量子状態トモグラフィーおよび直接忠実度推定タスクにおいて、我々のパラダイムのインスタンス化を示し、60量子ビットまでの数値解析を行う。
論文 参考訳(メタデータ) (2023-08-22T09:11:53Z) - Brain-inspired Computational Intelligence via Predictive Coding [73.42407863671565]
予測符号化(PC)は、機械学習コミュニティにとって潜在的に価値のある、有望な特性を示している。
PCライクなアルゴリズムは、機械学習とAIの複数のサブフィールドに存在し始めている。
論文 参考訳(メタデータ) (2023-08-15T16:37:16Z) - Exponential separations between classical and quantum learners [2.209921757303168]
我々は,定義の微妙な違いが,学習者が満足して解決すべき要件や課題を著しく異なるものにする可能性について論じる。
本稿では,データ生成関数の同定に古典的困難を主眼として,2つの新たな学習分離を提案する。
論文 参考訳(メタデータ) (2023-06-28T08:55:56Z) - Privacy-preserving machine learning with tensor networks [37.01494003138908]
テンソルネットワークアーキテクチャは、特にプライバシー保護機械学習に期待できる特性を持つことを示す。
まず、フィードフォワードニューラルネットワークに存在する新たなプライバシ脆弱性を説明し、それを合成および実世界のデータセットで説明する。
このような条件がテンソルネットワークアーキテクチャによって満たされていることを厳密に証明する。
論文 参考訳(メタデータ) (2022-02-24T19:04:35Z) - Quantum Continual Learning Overcoming Catastrophic Forgetting [1.1344265020822928]
破滅的な忘れは、機械学習モデルが、新しいタスクの学習プロセスの後に、以前に学習されたタスクの知識を忘れる可能性が高いという事実を物語っている。
ニューラルネットワークに基づく古典的な学習モデルと同様に、量子学習システムは、様々なアプリケーションシーンから出現する分類タスクにおいて、そのような忘れられる問題に悩まされている。
論文 参考訳(メタデータ) (2021-08-05T18:00:03Z) - Plausible Counterfactuals: Auditing Deep Learning Classifiers with
Realistic Adversarial Examples [84.8370546614042]
ディープラーニングモデルのブラックボックスの性質は、彼らがデータから何を学ぶかについて、未回答の疑問を提起している。
GAN(Generative Adversarial Network)とマルチオブジェクトは、監査されたモデルに妥当な攻撃を与えるために使用される。
その実用性は人間の顔の分類タスクの中で示され、提案されたフレームワークの潜在的可能性を明らかにしている。
論文 参考訳(メタデータ) (2020-03-25T11:08:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。