論文の概要: Generalization in Learning: Eyring Formula and Predator-prey Model
- arxiv url: http://arxiv.org/abs/2610.35965v1
- Date: Sun, 25 Oct 2026 14:22:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.375213
- Title: Generalization in Learning: Eyring Formula and Predator-prey Model
- Title(参考訳): 学習の一般化:フォーミュラとプレデター・プレイモデル
- Abstract要約: 本研究では,プレデター・プリーモデルを用いて機械学習の一般化について検討する。
雑音データから未知の関数を一定の次数で復元する特別な例として、プレデター・プリーモデルの方が勾配降下法よりも近似性が高い。
- 参考スコア(独自算出の注目度): 42.18510447563619
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work, generalization in machine learning is investigated using a predator-prey model. We overview biological and chemical interpretation of the stochastic gradient Langevin dynamics and generative adversarial network. For a particular example of recovering an unknown function by a polynomial of fixed degree from a set of noisy data, the predator-prey model provides better approximation compared to the gradient descent method. Further, thermodynamical arguments, in particular Eyring formula, are used to explain grokking (delayed generalization) phenomenon in machine learning.
- Abstract(参考訳): 本研究では,プレデター・プリーモデルを用いて機械学習の一般化について検討する。
本稿では,確率勾配ランゲヴィンダイナミクスと生成対向ネットワークの生物学的,化学的解釈を概説する。
雑音データの集合から一定の次数多項式で未知の関数を復元する特別な例として、プレデター・プリーモデルは勾配降下法よりも近似性が高い。
さらに、熱力学の議論、特にアイリングの公式は、機械学習におけるグルーキング(遅延一般化)現象を説明するために用いられる。
関連論文リスト
- Inferring genotype-phenotype maps using attention models [0.21990652930491852]
遺伝子型から表現型を予測することは遺伝学における中心的な課題である。
機械学習の最近の進歩、特に注意に基づくモデルは、有望な代替手段を提供する。
ここでは、注意に基づくモデルを定量的遺伝学に適用する。
論文 参考訳(メタデータ) (2025-04-14T16:32:17Z) - One-for-More: Continual Diffusion Model for Anomaly Detection [63.50488826645681]
異常検出法は拡散モデルを用いて任意の異常画像が与えられたときの正常サンプルの生成または再構成を行う。
われわれは,拡散モデルが「重度忠実幻覚」と「破滅的な忘れ」に悩まされていることを発見した。
本研究では,安定な連続学習を実現するために勾配予測を用いた連続拡散モデルを提案する。
論文 参考訳(メタデータ) (2025-02-27T07:47:27Z) - Scaling and renormalization in high-dimensional regression [72.59731158970894]
リッジ回帰に関する最近の結果について統一的な視点を提示する。
我々は、物理とディープラーニングの背景を持つ読者を対象に、ランダム行列理論と自由確率の基本的なツールを使用する。
我々の結果は拡張され、初期のスケーリング法則のモデルについて統一的な視点を提供する。
論文 参考訳(メタデータ) (2024-05-01T15:59:00Z) - Supercharging Graph Transformers with Advective Diffusion [28.40109111316014]
本稿では,この課題に対処するために,物理に着想を得たグラフトランスモデルであるAdvDIFFormerを提案する。
本稿では,AdvDIFFormerが位相シフトによる一般化誤差を制御できることを示す。
経験的に、このモデルは情報ネットワーク、分子スクリーニング、タンパク質相互作用の様々な予測タスクにおいて優位性を示す。
論文 参考訳(メタデータ) (2023-10-10T08:40:47Z) - On the Generalization and Adaption Performance of Causal Models [99.64022680811281]
異なる因果発見は、データ生成プロセスを一連のモジュールに分解するために提案されている。
このようなモジュラニューラル因果モデルの一般化と適応性能について検討する。
我々の分析では、モジュラーニューラル因果モデルが、低データレギュレーションにおけるゼロおよび少数ショットの適応において、他のモデルよりも優れていることを示している。
論文 参考訳(メタデータ) (2022-06-09T17:12:32Z) - Goal-directed Generation of Discrete Structures with Conditional
Generative Models [85.51463588099556]
本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。
提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
論文 参考訳(メタデータ) (2020-10-05T20:03:13Z) - Generalisation error in learning with random features and the hidden
manifold model [23.71637173968353]
合成データセットの一般線形回帰と分類について検討した。
我々は,高次元構造を考察し,統計物理学からのレプリカ法を用いる。
閾値をピークとしたロジスティック回帰のためのいわゆる二重降下挙動を得る方法を示す。
隠れ多様体モデルにより生成されたデータにおいて相関関係が果たす役割について論じる。
論文 参考訳(メタデータ) (2020-02-21T14:49:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。