論文の概要: How AI settled the complexity of the oldest SGD algorithm
- arxiv url: http://arxiv.org/abs/2606.29593v1
- Date: Sun, 28 Jun 2026 20:27:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.977765
- Title: How AI settled the complexity of the oldest SGD algorithm
- Title(参考訳): AIはどのようにして古いSGDアルゴリズムの複雑さを解決したか
- Abstract要約: 1937年、Stefan Kaczmarzは線形方程式のシステムを解くための単純なアルゴリズムを提案した。
ChatGPTやGeminiといった現代のAIモデルは、Kaczmarzアルゴリズムの最悪の複雑さを発見するために協力している。
- 参考スコア(独自算出の注目度): 4.3761172849639705
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In 1937, Stefan Kaczmarz proposed a simple algorithm for solving systems of linear equations. This algorithm turned out to be the earliest known example of stochastic gradient descent, a ubiquitous computing paradigm that drives the training of modern AI models such as ChatGPT and Gemini. Now, those AI models have joined forces to discover the worst-case complexity of the Kaczmarz algorithm. This paper tells the story of how it happened.
- Abstract(参考訳): 1937年、Stefan Kaczmarzは線形方程式のシステムを解くための単純なアルゴリズムを提案した。
このアルゴリズムは、ChatGPTやGeminiといった現代のAIモデルのトレーニングを駆動するユビキタスコンピューティングパラダイムである確率勾配降下の最も初期の例であることが判明した。
そして今、これらのAIモデルは、Kaczmarzアルゴリズムの最悪のケースの複雑さを発見するために協力している。
この論文はそれがどうなったのかを物語っている。
関連論文リスト
- Decision Making under Imperfect Recall: Algorithms and Benchmarks [77.12503122836422]
本稿では,不完全-再コール決定問題に対する最初のベンチマークスイートを紹介する。
私たちのベンチマークでは、AIシステムのプライバシに関するものなど、さまざまな問題タイプを捉えています。
このような問題における一階最適戦略を見つけるために,異なるアルゴリズムの性能を評価する。
論文 参考訳(メタデータ) (2026-02-16T23:19:01Z) - Discovering Expert-Level Nash Equilibrium Algorithms with Large Language Models [8.041049362762593]
LegoNEは、アルゴリズム設計の創造的なプロセスと形式解析の厳密なプロセスとを融合させるフレームワークである。
最先端の大規模言語モデルであるLegoNEを使用することで、数時間以内に2人のプレイヤーによるゲームの最先端のアルゴリズムが再発見された。
この研究は、理論科学のための新しい人間と機械の協調パラダイムを実証する。
論文 参考訳(メタデータ) (2025-08-16T02:18:43Z) - Discovering Algorithms with Computational Language Processing [0.7062238472483737]
本稿では,トークンとして表現された操作列を概念化し,アルゴリズム発見を自動化するフレームワークを提案する。
これらの計算トークンは文法を用いてチェーン化され、より洗練された手続きの形成を可能にする。
我々のアンサンブルであるモンテカルロ木探索(MCTS)は、強化学習(RL)によって導かれ、トークン連鎖を探索し、新しいトークンの作成を促進する。
論文 参考訳(メタデータ) (2025-07-03T21:45:17Z) - Replicable Learning of Large-Margin Halfspaces [46.91303295440005]
我々は,大マージンハーフスペースを学習する問題に対して,効率的なアルゴリズムを提供する。
Impagliazzo, Lei, Pitassi, Sorrellによるアルゴリズム [STOC 2022] の改良を行った。
論文 参考訳(メタデータ) (2024-02-21T15:06:51Z) - Dual Algorithmic Reasoning [9.701208207491879]
本稿では,基礎となるアルゴリズム問題の双対性を利用してアルゴリズムを学習することを提案する。
アルゴリズム学習における最適化問題の2つの定義を同時に学習することで、より良い学習が可能になることを実証する。
次に、難易度の高い脳血管分類タスクにデプロイすることで、二元アルゴリズム推論の現実的な実用性を検証する。
論文 参考訳(メタデータ) (2023-02-09T08:46:23Z) - Towards algorithm-free physical equilibrium model of computing [0.0]
新しい計算モデルが提案され、アルゴリズムの逐次パラダイムを物理プロセスの固有の並列性に置き換える。
平衡状態が所望の解に対応する物理系を構築し、解を探すためにそれらを進化させる。
モデルの主な要件は特定され、潜在的な実装のために量子回路が提案される。
論文 参考訳(メタデータ) (2021-11-30T09:48:39Z) - Structure learning in polynomial time: Greedy algorithms, Bregman
information, and exponential families [12.936601424755944]
DAGを学習するための一般的なグリーディスコアに基づくアルゴリズムについて検討する。
DAGモデルを学習するための最近のアルゴリズム時間アルゴリズムが,このアルゴリズムの特別な例であることを示す。
この観測は、ブレグマン発散と指数族との双対性に基づく新しいスコア関数と最適条件を示唆する。
論文 参考訳(メタデータ) (2021-10-10T06:37:51Z) - Evolving Reinforcement Learning Algorithms [186.62294652057062]
メタラーニング強化学習アルゴリズムの手法を提案する。
学習アルゴリズムはドメインに依存しないため、トレーニング中に見えない新しい環境に一般化することができる。
従来の制御タスク、gridworld型タスク、atariゲームよりも優れた一般化性能を得る2つの学習アルゴリズムに注目した。
論文 参考訳(メタデータ) (2021-01-08T18:55:07Z) - Towards Optimally Efficient Tree Search with Deep Learning [76.64632985696237]
本稿では,線形モデルから信号整数を推定する古典整数最小二乗問題について検討する。
問題はNPハードであり、信号処理、バイオインフォマティクス、通信、機械学習といった様々な応用でしばしば発生する。
本稿では, 深いニューラルネットワークを用いて, 単純化されたメモリバウンドA*アルゴリズムの最適推定を推定し, HATSアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-01-07T08:00:02Z) - Single-Timescale Stochastic Nonconvex-Concave Optimization for Smooth
Nonlinear TD Learning [145.54544979467872]
本稿では,各ステップごとに1つのデータポイントしか必要としない2つの単一スケールシングルループアルゴリズムを提案する。
本研究の結果は, 同時一次および二重側収束の形で表される。
論文 参考訳(メタデータ) (2020-08-23T20:36:49Z) - The data-driven physical-based equations discovery using evolutionary
approach [77.34726150561087]
与えられた観測データから数学的方程式を発見するアルゴリズムについて述べる。
このアルゴリズムは遺伝的プログラミングとスパース回帰を組み合わせたものである。
解析方程式の発見や偏微分方程式(PDE)の発見にも用いられる。
論文 参考訳(メタデータ) (2020-04-03T17:21:57Z) - Learning Gaussian Graphical Models via Multiplicative Weights [54.252053139374205]
乗算重み更新法に基づいて,Klivans と Meka のアルゴリズムを適用した。
アルゴリズムは、文献の他のものと質的に類似したサンプル複雑性境界を楽しみます。
ランタイムが低い$O(mp2)$で、$m$サンプルと$p$ノードの場合には、簡単にオンライン形式で実装できる。
論文 参考訳(メタデータ) (2020-02-20T10:50:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。