論文の概要: Geometric--Nongeometric Optimizer Calculus: A Modular Language for Reachable Gradient Methods

• arxiv url: http://arxiv.org/abs/2607.07206v1
• Date: Wed, 08 Jul 2026 09:40:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-09 22:50:30.346141
• Title: Geometric--Nongeometric Optimizer Calculus: A Modular Language for Reachable Gradient Methods
• Title（参考訳）: Geometric-Nongeometric Optimizer Calculus:Reachable Gradient Methodsのためのモジュール言語
• Abstract要約: 到達可能な勾配法を監査するためのモジュラー言語である幾何-ナンジ幾何学計算を導入する。 主な形式的結果は方向表現性定理(英語版)であり、臨界点から離れ、正定幾何は厳密な降下方向を正確に表す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Adaptive optimizers mix several mechanisms: a metric or preconditioner maps gradients to descent directions, while estimation, memory, step-size control, constraints, stochasticity, target modification, and discretization determine which directions are available and how they are used. We introduce geometric--nongeometric optimizer calculus, a modular language for auditing reachable gradient methods under explicit oracle, budget, state, and rule constraints. The geometric module is a positive cometric family that maps covectors to parameter-space directions; the nongeometric modules are information, memory, control, operator, noise, target, and discretization mechanisms. The main formal result is a direction-expressivity theorem: away from critical points, full positive-definite geometry expresses exactly the strict descent directions. We then define restricted direction residuals for admissible metric families, prove exact expressivity conditions for diagonal and block geometries, and separate this direction-level diagnostic from condition-number geometric complexity. The resulting design problem is a Pareto optimization over module budgets, not a single universal optimizer ordering. We also lift pointwise residuals to a trajectory-level residual complexity that couples direction mismatch with the variation of the explaining geometry. We include diagnostic prototypes only as evidence for the language: a high-information full-metric probe solves deterministic quadratic benchmarks to numerical precision, while a practical Muon-style PyTorch candidate gives small-scale evidence that matrix-operator updates can be audited by the calculus. The paper is a theory and benchmark-language manuscript; it does not claim large-scale optimizer state-of-the-art performance.
• Abstract（参考訳）: メトリックまたはプレコンディショナーは勾配を降下方向にマッピングする一方で、推定、メモリ、ステップサイズ制御、制約、確率性、目標修正、離散化はどの方向が利用可能か、どのように使用されるかを決定する。 本稿では,拡張可能な勾配法を明示的なオラクル,予算,状態,規則制約の下で監査するモジュール言語である幾何ノアンジェロメトリ・オプティマイザ計算を導入する。 幾何学モジュールはコベクターをパラメータ空間方向へマッピングする正の彗星ファミリーであり、非幾何学モジュールは情報、メモリ、制御、演算子、ノイズ、ターゲット、離散化機構である。 主な形式的結果は方向表現性定理(英語版)であり、臨界点から離れ、正定幾何は厳密な降下方向を正確に表す。 次に、許容距離族に対する制限方向残差を定義し、対角およびブロック幾何学の正確な表現条件を証明し、この方向レベル診断を条件数幾何学的複雑性から分離する。 結果として生じる設計問題は、モジュール予算に対するPareto最適化であり、単一のユニバーサルオプティマイザ順序ではない。 また,方向ミスマッチを説明幾何学の変分と組み合わせた軌道レベルの残差複雑性に対して,ポイントワイズ残差を引き上げる。 高情報フルメトリックプローブは決定論的2次ベンチマークを数値精度に解き、実用的なMuonスタイルのPyTorch候補は行列演算更新を計算によって監査できるという小さな証拠を与える。 論文は理論とベンチマーク言語による写本であり、大規模オプティマイザの最先端性能は主張していない。

関連論文リスト

• Learning Bidirectional Causal Interactions with Heteroscedastic Neural Networks [1.0356094515229846]
  本稿では,ヘテロセダスティックなニューラル同時方程式推定器であるSEM-DNNを提案する。 外部機器を使わずに相互構造相互作用を学習する。 シーレアルスキャナーデータへの応用は、同時期の価格-セールフィードバックを研究する方法を示している。
  論文  参考訳（メタデータ） (2026-07-24T13:53:58Z)
• Restricted Dynamic Geometric Complexity: Certificates for Structured Preconditioning [0.0]
  本稿では、このベンチマークを現在の表記法で記録し、制限された幾何学的複雑さを発達させる。 主な証明された結果は単調性および部分多様体距離原理、線形不等式実現可能性問題としての対角およびブロック到達性である。 このリポジトリには、対角的な表現ギャップをチェックするおもちゃと合成マトリックス、原始/双対証明書をブロックするクロネッカースペクトル幅、小さな二次インスタンス上のヘッセン相対クロネッカー候補証明書を含む。
  論文  参考訳（メタデータ） (2026-07-08T09:36:45Z)
• Optimization Geometrodynamics: A Framework for Dynamic Geometric Optimization [0.0]
  コンベックスに基づく最適化のためのベンチマーク言語であるOptimization Geometroを導入する。 最適化の難易度を低減するのに必要な最小の幾何コストである幾何複雑性を導入する。
  論文  参考訳（メタデータ） (2026-07-07T18:42:00Z)
• Generalized nonparametric regression in reproducing kernel Hilbert spaces: Consistency and rates of convergence [0.0]
  我々は再生空間におけるM-levの包括的理論を開発する。 ソボ空間に対しては、混合滑らか性関数を持つ滑らか性空間に接続する新たなレートを得る。
  論文  参考訳（メタデータ） (2026-06-22T08:12:31Z)
• Hybrid Uncertainty Sensitivity Analysis Based on the HSIC for High-Dimensional Responses with Aleatory--Epistemic Separation [4.666836674804876]
  ハイブリッド不確実性下での感度解析のための新しい二重空間テンソル生成RKHSフレームワークを提案する。 結果として得られる次元感受性指標は、全ての出力次元にわたる不確実性帰属構造を保存する。 改良された多出力石上関数と空力場問題に関する数値的研究により,提案フレームワークの精度,拡張性,実用性を示す。
  論文  参考訳（メタデータ） (2026-06-12T02:58:28Z)
• Fitting Unknown Number of Hyperplanes with Manifold Optimization [57.48093263119306]
  未知数の線形平面をデータに適合させることは、機械学習の根本的な課題である。 既存のアプローチはしばしば最適な最適化に苦しむか、幾何的整合性に欠ける。
  論文  参考訳（メタデータ） (2026-05-27T14:02:20Z)
• Neural Bayesian Sequential Routing [0.0]
  textbfNeural Bayesian Sequential Routing (NBSR)は、ニューラルネットワークを階層指向非巡回グラフ(DAG)上のアクティブエビデンス蓄積としてモデル化するフレームワークである。 NBSRは、透過的なルーティングトレース、経路依存のエビデンス属性、不確実性を認識した決定制御、リソース-レーショナル推論を提供しながら、競合的な予測性能を達成する。 全体として、NBSRは、解釈可能、モジュール化、リソース限定のエージェントAIのための数学的基盤のフレームワークを提供する。
  論文  参考訳（メタデータ） (2026-05-22T22:45:56Z)
• Differentiable SpaTiaL: Symbolic Learning and Reasoning with Geometric Temporal Logic for Manipulation Tasks [10.590774471054255]
  乱雑な環境で複雑な操作を行うには、幾何学的および時間的制約を満たす必要がある。 多角形集合上でスムーズで自己階数互換な幾何的プリミティブを直接構成する、完全にテンソル化されたツールボックスである微分可能なSpaTiaLを提案する。 鍵空間述語を微分可能緩和することにより、高レベルな仕様から低レベルな幾何学的構成へのエンドツーエンドの異なる意味的マッピングを可能にする。
  論文  参考訳（メタデータ） (2026-04-03T02:13:47Z)
• Deterministic Zeroth-Order Mirror Descent via Vector Fields with A Posteriori Certification [45.85698554568285]
  我々は、勾配を一般的なベクトル場に置き換えることで、決定論的ゼロ階ミラー降下フレームワークを開発する。 我々の分析は、最終段階の不等式評価のための評価テンプレートを提供する。 これらの結果は、ブレグマンのアイデンティティ、決定論的証明、およびゼロ階ミラー降下におけるロバストな円錐幾何学を隠蔽した幾何学的リンクを明らかにする。
  論文  参考訳（メタデータ） (2026-01-31T10:05:05Z)
• Learning Geometry: A Framework for Building Adaptive Manifold Models through Metric Optimization [8.201374511929538]
  本稿では,従来のパラメータ最適化を超越した機械学習のパラダイムを提案する。 既定位相を持つ多様体上の計量テンソル場を最適化することにより、モデル空間の幾何学的構造を動的に形成する。 この研究は、その幾何学とトポロジーを自律的に進化させることができる完全にダイナミックな「メタ・ラーナー」を構築するための確固たる基礎を築いた。
  論文  参考訳（メタデータ） (2025-10-30T01:53:32Z)
• Revisiting Zeroth-Order Optimization: Minimum-Variance Two-Point Estimators and Directionally Aligned Perturbations [57.179679246370114]
  乱摂動の分布は, 摂動段差がゼロになる傾向にあるため, 推定子の分散を最小限に抑える。 以上の結果から, 一定の長さを維持するのではなく, 真の勾配に方向を合わせることが可能であることが示唆された。
  論文  参考訳（メタデータ） (2025-10-22T19:06:39Z)
• Drift No More? Context Equilibria in Multi-Turn LLM Interactions [58.69551510148673]
  コンテキストドリフト(Contexts drift)とは、ターン間のゴール一貫性のある振る舞いからモデルが出力する出力の段階的なばらつきである。 シングルターンエラーとは異なり、ドリフトは時間的に展開し、静的な評価指標では捉えにくい。 マルチターンドリフトは、避けられない崩壊というよりも、制御可能な平衡現象として理解できることを示す。
  論文  参考訳（メタデータ） (2025-10-09T04:48:49Z)
• Pure Exploration via Frank-Wolfe Self-Play [9.025261095806309]
  我々は、有限個の代替案から正しい仮説を効果的に同定することを目的として、構造化された多腕包帯の純粋な探索について研究する。 我々の分析は連続時間ステア(英語版)を通し、減衰するリャプノフ函数との微分包含は、失効する双対性ギャップと最適値への収束を示唆する。
  論文  参考訳（メタデータ） (2025-09-24T08:55:21Z)
• Topolow: Force-Directed Euclidean Embedding of Dissimilarity Data with Robustness Against Non-Metricity and Sparsity [0.8287206589886881]
  Topolowは、そのような埋め込み問題に対する物理学に着想を得た、勾配のない最適化フレームワークである。 トポローは入力の相似性を計量として必要とせず、非計量測度を有効ユークリッド空間に埋め込む堅牢な解となる。 本稿では, 抗原マッピングにおけるTopolowとして最初に導入されたアルゴリズムを定式化した(Arhami and Rohani, 2025)。
  論文  参考訳（メタデータ） (2025-08-03T12:19:17Z)
• Fully Geometric Multi-Hop Reasoning on Knowledge Graphs with Transitive Relations [50.05281461410368]
  マルチホップ推論のための幾何学的埋め込み手法GeometrEを紹介する。 論理演算を学習する必要はなく、完全に幾何学的解釈可能である。 実験の結果,GeometrEは標準ベンチマークデータセットの最先端手法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2025-05-18T11:17:50Z)
• Warped geometric information on the optimisation of Euclidean functions [43.43598316339732]
  我々は、潜在的に高次元ユークリッド空間で定義される実数値函数の最適化を考える。 函数の最適度は、曲がった計量を持つ多様体に沿う。 提案アルゴリズムは測地学の3次近似を用いており、標準ユークリッド勾配法よりも優れている傾向にある。
  論文  参考訳（メタデータ） (2023-08-16T12:08:50Z)
• Provable Guarantees for Generative Behavior Cloning: Bridging Low-Level Stability and High-Level Behavior [51.60683890503293]
  生成モデルを用いた複雑な専門家による実演の行動クローニングに関する理論的枠組みを提案する。 任意の専門的軌跡の時間ごとのステップ分布に一致するトラジェクトリを生成することができることを示す。
  論文  参考訳（メタデータ） (2023-07-27T04:27:26Z)
• Understanding Augmentation-based Self-Supervised Representation Learning via RKHS Approximation and Regression [53.15502562048627]
  最近の研究は、自己教師付き学習とグラフラプラシアン作用素のトップ固有空間の近似との関係を構築している。 この研究は、増強に基づく事前訓練の統計的分析に発展する。
  論文  参考訳（メタデータ） (2023-06-01T15:18:55Z)
• Hybrid Predictive Coding: Inferring, Fast and Slow [62.997667081978825]
  本稿では,反復型と償却型の両方を原則的に組み合わせたハイブリッド予測符号化ネットワークを提案する。 我々は,本モデルが本質的に不確実性に敏感であり,最小計算費用を用いて正確な信念を得るためにバランスを適応的にバランスさせることを実証した。
  論文  参考訳（メタデータ） (2022-04-05T12:52:45Z)
• Neuro-Symbolic Entropy Regularization [78.16196949641079]
  構造化予測では、目的は構造化されたオブジェクトをエンコードする多くの出力変数を共同で予測することである。 エントロピー正則化(Entropy regularization)という1つのアプローチは、決定境界が低確率領域にあるべきであることを示唆している。 我々は、モデルが有効対象を確実に予測することを奨励する損失、ニューロシンボリックエントロピー正規化を提案する。
  論文  参考訳（メタデータ） (2022-01-25T06:23:10Z)
• Geometry-aware Bayesian Optimization in Robotics using Riemannian Mat\'ern Kernels [64.62221198500467]
  ベイズ最適化のための幾何対応カーネルの実装方法を示す。 この技術は、ロボット工学における制御パラメータチューニング、パラメトリックポリシー適応、構造設計に利用できる。
  論文  参考訳（メタデータ） (2021-11-02T09:47:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。