論文の概要: Extrapolating from Regularised Solutions for Solving Ill-Conditioned Linear Systems in Machine Learning

• arxiv url: http://arxiv.org/abs/2606.30328v1
• Date: Mon, 29 Jun 2026 14:10:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:16.259646
• Title: Extrapolating from Regularised Solutions for Solving Ill-Conditioned Linear Systems in Machine Learning
• Title（参考訳）: 機械学習におけるIll-Conditioned Linear Systemの解法
• Abstract要約: autonuggetは、線形システムの自動かつ安定した数値解のためのPythonパッケージである。 JAXを使った自動分化と完全に互換性がある。
• 参考スコア（独自算出の注目度）: 5.468674927807954
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Rapid prototyping of algorithms is a critical step in modern machine learning. Most algorithms exploit linear algebra, creating a need for lightweight numerical routines which -- while potentially sub-optimal for the task at hand -- can be rapidly implemented. For the numerical solution of ill-conditioned linear systems of equations, the standard solution for prototyping is Tikhonov-regularised inversion using a nugget. However, selection of the size of nugget is often difficult, and the use of data-adaptive procedures precludes automatic differentiation, introducing instabilities into end-to-end training. Further, while data-adaptive procedures perform multiple linear solves to select the size of nugget, only the result of one such solve is returned, which we argue is wasteful. This paper aims to circumvent the above difficulties, presenting autonugget; a Python package for automatic and stable numerical solution of linear systems suitable for rapid prototyping, and fully compatible with automatic differentiation using JAX. autonugget combines multiple linear solves using Richardson extrapolation to determine the solution of the ill-conditioned system, improving in accuracy over approximations based on a single nugget.
• Abstract（参考訳）: アルゴリズムの迅速なプロトタイピングは、現代の機械学習における重要なステップである。 ほとんどのアルゴリズムは線形代数を利用しており、手元にあるタスクに対して潜在的に最適化されるが、高速に実装できる軽量な数値ルーチンの必要性を生み出している。 方程式の不条件線型系の数値解に対して、プロトタイピングの標準的な解は、ナゲットを用いたチホノフ正規化逆変換である。 しかし、ナゲットのサイズの選択は難しいことが多く、データ適応手法を使用することは、エンドツーエンドのトレーニングに不安定を導入し、自動的な差別化を妨げている。 さらに,データ適応処理では,nuggetのサイズを選択するために複数の線形解が実行されるが,そのような解の1つの結果のみが返されるため,無駄である。 本稿では, 高速プロトタイピングに適した線形システムの, 自動かつ安定な数値解のためのPythonパッケージであるautonuggetを, JAXを用いた自動微分と完全互換にすることで, 上記の困難を回避することを目的とする。 オートナゲットは、リチャードソン外挿法を用いて、不条件系の解を決定する複数の線形解を結合し、単一のナゲットに基づく近似よりも精度が向上する。

関連論文リスト

• Residual-Informed Learning of Solutions to Algebraic Loops [2.153071884007078]
  フィードフォワードニューラルネットワークは、損失関数における代数ループの残差(エラー)を用いて訓練される。 このトレーニング戦略は曖昧な解の問題も解決し、サロゲートが一貫した解に収束することを可能にする。
  論文  参考訳（メタデータ） (2025-10-10T12:16:47Z)
• Stabilizing Linear Passive-Aggressive Online Learning with Weighted Reservoir Sampling [46.01254613933967]
  オンライン学習手法は、高次元ストリーミングデータ、アウトオブコア処理、その他のスループットに敏感なアプリケーションに依然として有効である。 このようなアルゴリズムの多くは、その収束の鍵として個々のエラーへの高速な適応に依存している。 このようなアルゴリズムは理論上の後悔は少ないが、現実の展開では個々の外れ値に敏感であり、アルゴリズムが過度に修正される可能性がある。
  論文  参考訳（メタデータ） (2024-10-31T03:35:48Z)
• Learning to Relax: Setting Solver Parameters Across a Sequence of Linear System Instances [42.16343861129583]
  オンライン学習アルゴリズムでは、シーケンス長が増加するにつれて、全体のコストが最高の$omega$に近づくように、一連のインスタンスに対してパラメータを選択できることが示される。 我々の研究は、高精度線形システム解法の最初の学習理論処理と、データ駆動型科学計算のエンドツーエンド保証を提供する。
  論文  参考訳（メタデータ） (2023-10-03T17:51:42Z)
• Constrained Optimization via Exact Augmented Lagrangian and Randomized Iterative Sketching [55.28394191394675]
  等式制約付き非線形非IBS最適化問題に対する適応的不正確なニュートン法を開発した。 ベンチマーク非線形問題,LVMのデータによる制約付きロジスティック回帰,PDE制約問題において,本手法の優れた性能を示す。
  論文  参考訳（メタデータ） (2023-05-28T06:33:37Z)
• OKRidge: Scalable Optimal k-Sparse Ridge Regression [21.17964202317435]
  スパースリッジ回帰のための高速アルゴリズムOKRidgeを提案する。 また,ビームサーチを利用した解法を温める方法を提案する。
  論文  参考訳（メタデータ） (2023-04-13T17:34:44Z)
• An Accelerated Doubly Stochastic Gradient Method with Faster Explicit Model Identification [97.28167655721766]
  本稿では、分散正規化損失最小化問題に対する2倍加速勾配降下法(ADSGD)を提案する。 まず、ADSGDが線形収束率を達成でき、全体的な計算複雑性を低減できることを示す。
  論文  参考訳（メタデータ） (2022-08-11T22:27:22Z)
• AI-enhanced iterative solvers for accelerating the solution of large scale parametrized linear systems of equations [0.0]
  本稿では、最新のMLツールを活用し、線形方程式系の反復解法をカスタマイズする。 その結果,従来の反復解法よりも優れていることが示された。
  論文  参考訳（メタデータ） (2022-07-06T09:47:14Z)
• Fast Feature Selection with Fairness Constraints [49.142308856826396]
  モデル構築における最適特徴の選択に関する基礎的問題について検討する。 この問題は、greedyアルゴリズムの変種を使用しても、大規模なデータセットで計算的に困難である。 適応クエリモデルは,最近提案された非モジュラー関数に対する直交整合探索のより高速なパラダイムに拡張する。 提案アルゴリズムは、適応型クエリモデルにおいて指数関数的に高速な並列実行を実現する。
  論文  参考訳（メタデータ） (2022-02-28T12:26:47Z)
• COSMIC: fast closed-form identification from large-scale data for LTV systems [4.10464681051471]
  データから離散時間線形時変系を同定するための閉形式法を提案する。 我々は、最適性を保証するアルゴリズムを開発し、軌跡ごとに考慮されるインスタントの数を線形に増加させる複雑性を持つ。 本アルゴリズムは,彗星インターセプタミッション用の低忠実度および機能工学シミュレーションの両方に適用した。
  論文  参考訳（メタデータ） (2021-12-08T16:07:59Z)
• Non-intrusive surrogate modeling for parametrized time-dependent PDEs using convolutional autoencoders [0.0]
  パラメータ化時間依存PDEによる複雑系の予測モデリングのための機械学習に基づく非侵襲的代理モデリング手法を提案する。 我々は、畳み込みオートエンコーダをフィードフォワードニューラルネットワークと組み合わせて、問題のパラメトリック空間から解空間への低コストで正確なマッピングを確立する。
  論文  参考訳（メタデータ） (2021-01-14T11:34:58Z)
• StarNet: Gradient-free Training of Deep Generative Models using Determined System of Linear Equations [47.72653430712088]
  本稿では,線形方程式の解法に基づく深層生成モデルの学習手法を提案する。 StarNetと呼ばれるこのアプローチを使用するネットワークには、以下の望ましい特性があります。
  論文  参考訳（メタデータ） (2021-01-03T08:06:42Z)
• Online Model Selection for Reinforcement Learning with Function Approximation [50.008542459050155]
  我々は、$tildeO(L5/6 T2/3)$ regretで最適な複雑性に適応するメタアルゴリズムを提案する。 また、メタアルゴリズムは、インスタンス依存の後悔境界を著しく改善することを示す。
  論文  参考訳（メタデータ） (2020-11-19T10:00:54Z)
• Combining Deep Learning and Optimization for Security-Constrained Optimal Power Flow [94.24763814458686]
  セキュリティに制約のある最適電力フロー(SCOPF)は、電力システムの基本である。 SCOPF問題におけるAPRのモデル化は、複雑な大規模混合整数プログラムをもたらす。 本稿では,ディープラーニングとロバスト最適化を組み合わせた新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-07-14T12:38:21Z)
• An Online Method for A Class of Distributionally Robust Optimization with Non-Convex Objectives [54.29001037565384]
  本稿では,オンライン分散ロバスト最適化(DRO)のクラスを解決するための実用的なオンライン手法を提案する。 本研究は,ネットワークの堅牢性向上のための機械学習における重要な応用を実証する。
  論文  参考訳（メタデータ） (2020-06-17T20:19:25Z)
• Symbolic Regression using Mixed-Integer Nonlinear Optimization [9.638685454900047]
  シンボリック回帰(SR)問題は、機械学習において難しい問題である。 混合整数非線形最適化と明示列挙法を組み合わせたハイブリッドアルゴリズムを提案する。 我々のアルゴリズムは、いくつかの合成データセットに対して、最先端のSRソフトウェアと最近の物理学に触発されたAI Feynmanという手法で競合していることを示す。
  論文  参考訳（メタデータ） (2020-06-11T20:53:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。