論文の概要: Analog Physical Systems Can Exhibit Double Descent

• arxiv url: http://arxiv.org/abs/2511.17825v1
• Date: Fri, 21 Nov 2025 22:38:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-25 18:34:24.454397
• Title: Analog Physical Systems Can Exhibit Double Descent
• Title（参考訳）: アナログ物理系は二重明滅を抑えることができる
• Authors: Sam Dillavou, Jason W Rocks, Jacob F Wycoff, Andrea J Liu, Douglas J Durian,
• Abstract要約: 二重降下は、ネットワークがトレーニングデータの量に対して成長するにつれて過度な適合を避けることであり、代わりに目に見えないデータのパフォーマンスを改善する。 標準的なトレーニングでは二重降下は得られないが、この固有の欠陥に対応する修正されたプロトコルが成功する。 我々の研究結果は、アナログ物理系が適切に訓練されていれば、デジタルAIの成功の根底にある行動を示すことができることを示している。
• 参考スコア（独自算出の注目度）: 0.32622301272834514
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: An important component of the success of large AI models is double descent, in which networks avoid overfitting as they grow relative to the amount of training data, instead improving their performance on unseen data. Here we demonstrate double descent in a decentralized analog network of self-adjusting resistive elements. This system trains itself and performs tasks without a digital processor, offering potential gains in energy efficiency and speed -- but must endure component non-idealities. We find that standard training fails to yield double descent, but a modified protocol that accommodates this inherent imperfection succeeds. Our findings show that analog physical systems, if appropriately trained, can exhibit behaviors underlying the success of digital AI. Further, they suggest that biological systems might similarly benefit from over-parameterization.
• Abstract（参考訳）: 大きなAIモデルの成功の重要な要素は二重降下であり、ネットワークはトレーニングデータの量に対して成長するにつれて過度な適合を避ける。 ここでは、自己調整抵抗要素の分散アナログネットワークにおいて二重降下を示す。 このシステムは自らを訓練し、デジタルプロセッサなしでタスクを実行し、エネルギー効率と速度の潜在的な向上を提供するが、コンポーネントの非理想性に耐えなければならない。 標準的なトレーニングでは二重降下は得られないが、この固有の欠陥に対応する修正されたプロトコルが成功する。 我々の研究結果は、アナログ物理系が適切に訓練されていれば、デジタルAIの成功の根底にある行動を示すことができることを示している。 さらに、生体系も同様に過度なパラメータ化の恩恵を受ける可能性があることを示唆している。

関連論文リスト

• Incorporating Coupling Knowledge into Echo State Networks for Learning Spatiotemporally Chaotic Dynamics [0.9831489366502302]
  物理誘導型クラスタリングエコー状態ネットワークを導入し、エコー状態ネットワークの効率をベースモデルとして活用する。 ESNモデルへの結合知識の活用は,学習条件や目標システム条件の変動に対して頑健性を高めることができることを数値的に示す。
  論文  参考訳（メタデータ） (2025-04-02T09:19:33Z)
• Transferable Post-training via Inverse Value Learning [83.75002867411263]
  別個のニューラルネットワーク(すなわち値ネットワーク)を用いた後学習におけるロジットレベルのモデリング変更を提案する。 このネットワークをデモを使って小さなベースモデルでトレーニングした後、推論中に他のトレーニング済みモデルとシームレスに統合することができる。 得られた値ネットワークは、パラメータサイズの異なる事前学習されたモデル間で広い転送性を有することを示す。
  論文  参考訳（メタデータ） (2024-10-28T13:48:43Z)
• Multivariate Physics-Informed Convolutional Autoencoder for Anomaly Detection in Power Distribution Systems with High Penetration of DERs [0.0]
  本稿では,物理インフォームド・コンボリューション・オートエンコーダ(PIConvAE)モデルを提案する。 提案モデルの性能評価は,カリフォルニア州リバーサイドのIEEE 123バスシステムと実世界の給電システムを用いて行った。
  論文  参考訳（メタデータ） (2024-06-05T04:28:57Z)
• Analyzing and Improving the Training Dynamics of Diffusion Models [36.37845647984578]
  一般的なADM拡散モデルアーキテクチャにおいて、不均一かつ非効率なトレーニングの原因をいくつか特定し、修正する。 この哲学の体系的な応用は、観測されたドリフトと不均衡を排除し、同じ計算複雑性でネットワークをかなり良くする。
  論文  参考訳（メタデータ） (2023-12-05T11:55:47Z)
• Robust Learning with Progressive Data Expansion Against Spurious Correlation [65.83104529677234]
  本研究では,2層非線形畳み込みニューラルネットワークの学習過程について検討した。 分析の結果,不均衡なデータ群と学習容易なスプリアス特徴が学習過程におけるスプリアス特徴の優位性に繋がる可能性が示唆された。 本稿では,PDEと呼ばれる新たなトレーニングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-06-08T05:44:06Z)
• Dual adaptive training of photonic neural networks [30.86507809437016]
  フォトニックニューラルネットワーク(PNN)は、低レイテンシ、高エネルギー効率、高並列性を特徴とする電子の代わりに光子を用いて計算する。 既存のトレーニングアプローチでは、大規模PNNにおける体系的エラーの広範な蓄積には対処できない。 そこで本研究では,PNNモデルが実質的な系統的誤りに適応できるように,DAT(Dual Adaptive Training)を提案する。
  論文  参考訳（メタデータ） (2022-12-09T05:03:45Z)
• Improving GANs with A Dynamic Discriminator [106.54552336711997]
  我々は、オンザフライで調整可能な判別器は、そのような時間変化に適応できると論じる。 総合的な実証研究により、提案したトレーニング戦略がDynamicDと呼ばれ、追加のコストやトレーニング目標を発生させることなく、合成性能を向上させることが確認された。
  論文  参考訳（メタデータ） (2022-09-20T17:57:33Z)
• Distributed Adversarial Training to Robustify Deep Neural Networks at Scale [100.19539096465101]
  現在のディープニューラルネットワーク(DNN)は、入力に対する敵の摂動が分類を変更したり操作したりする敵の攻撃に対して脆弱である。 このような攻撃を防御するために、敵の訓練(AT)として知られる効果的なアプローチが、堅牢な訓練を緩和するために示されている。 複数のマシンにまたがって実装された大規模バッチ対逆トレーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-06-13T15:39:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。