論文の概要: Continuous Optimization for p-adic Models

• arxiv url: http://arxiv.org/abs/2609.25501v1
• Date: Mon, 21 Sep 2026 23:58:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-23 18:04:04.148028
• Title: Continuous Optimization for p-adic Models
• Title（参考訳）: p進モデルの連続最適化
• Abstract要約: 本稿では,$p$-adicパラメータを持つ機械学習モデルに対して,ネイティブな連続勾配降下法を提案する。 近似は線形モデルを効率的に学習できることが示される。 また、運動量やアダム変量、線形回帰、二進符号化階層の分類も示す。
• 参考スコア（独自算出の注目度）: 8.110726016037493
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We present the first method for native, continuous gradient descent for machine learning models with $p$-adic parameters. Existing native optimizers are discrete, mostly combinatorial searches, as the $p$-adic numbers $\mathbb{Q}_p$ are totally disconnected, with standard losses that are flat away from their minima. To enable continuous optimization, we propose working with $\mathbb{Q}_p$ via its Berkovich affine line: a canonical, path-connected expansion of $\mathbb{Q}_p$ that preserves its isometries and uniquely extends its analytic maps. This hull is a metric tree with interpretable points and local derivatives, which we show enables effective optimizers and backpropagation. We formulate gradient descent and show that its approximations efficiently learn linear models with coefficients in $\mathbb{Q}_p$ to do modular arithmetic, an XOR-like task not expressible by linear models in $\mathbb{R}$. We also demonstrate momentum and Adam variants, linear regression, and classification on binary-encoded hierarchies (Quillian semantic networks), addressing open problems posed by Martins (2025). Library at https://github.com/google-deepmind/padic-ml
• Abstract（参考訳）: 本稿では,$p$-adicパラメータを持つ機械学習モデルに対して,ネイティブな連続勾配降下法を提案する。 既存のネイティブオプティマイザは離散的であり、主に組合せ探索であり、$p$-進数 $\mathbb{Q}_p$ は完全に切断され、通常の損失はミニマから離れている。 連続的な最適化を実現するため、ベルコヴィチ・アフィン線による $\mathbb{Q}_p$ の作業を提案する: $\mathbb{Q}_p$ の標準的、経路連結な拡張で、その等長写像を保存し、その解析写像を一意に拡張する。 この船体は解釈可能な点と局所微分を持つ計量木であり、効率的な最適化とバックプロパゲーションを可能にすることを示す。 我々は勾配勾配を定式化し、その近似が$\mathbb{Q}_p$の係数で線型モデルを効率よく学習してモジュラー算術を行うことを示す。 また、モーメントとアダム変量、線形回帰、二進符号化階層(キリアン意味ネットワーク)の分類を示し、Martins (2025) が提起した開問題に対処する。 Library at https://github.com/google-deepmind/padic-ml

関連論文リスト

• Q-Learning with Stable Infinite-Dimensional Linear Function Approximation [10.189658648290257]
  安定な無限次元線形関数近似フレームワークを開発した。 凍結事前学習ネットワーク下での線形密度近似と出力層ニューラルウェイトトレーニングによるQラーニングによるフレームワークについて説明する。
  論文  参考訳（メタデータ） (2026-08-23T22:40:11Z)
• Replica Symmetry Breaking and Algorithmic Thresholds in Empirical Risk Minimization under Multi-Index Model [12.775038922010452]
  現代の機械学習モデルは、高次元の非次元経験的リスク関数を最適化することによって最適化される。 簡単な教師付き学習環境の中で,経験的リスク景観の正確な画像を作成する。 近似的インクリメンタルメッセージパッシング(ImAMP)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2026-06-26T19:57:08Z)
• Can Neural Networks Achieve Optimal Computational-statistical Tradeoff? An Analysis on Single-Index Model [53.6316818897326]
  本稿では,2層ニューラルネットワークを時間内にトレーニングするための勾配に基づくアルゴリズムを提案する。 このアルゴリズムは未知の信号$star$と強く一致したスパース表現を学習することを示す。 私たちは、$star$が$k$-sparse for $k = o(sqrtd)$という設定にアプローチを拡張します。
  論文  参考訳（メタデータ） (2026-06-13T09:34:39Z)
• $p$-Adic Polynomial Regression as Alternative to Neural Network for Approximating $p$-Adic Functions of Many Variables [55.2480439325792]
  任意の精度で連続関数を近似できる回帰モデルを構築している。 提案モデルは、ニューラルネットワークアーキテクチャに基づく$p$-adicモデルの簡単な代替と見なすことができる。
  論文  参考訳（メタデータ） (2025-03-30T15:42:08Z)
• Learning sum of diverse features: computational hardness and efficient gradient-based training for ridge combinations [40.77319247558742]
  目的関数 $f_*:mathbbRdtomathbbR$ を加法構造で学習する際の計算複雑性について検討する。 2層ニューラルネットワークの勾配学習により,$f_*$の大規模なサブセットを効率的に学習できることを実証した。
  論文  参考訳（メタデータ） (2024-06-17T17:59:17Z)
• From CNNs to Shift-Invariant Twin Models Based on Complex Wavelets [7.812210699650151]
  我々は第1層の組み合わせを "real-valued convolutions + max pooling" に置き換える。 我々は、CModとRMaxが、畳み込みカーネルが帯域通過で向き付けられたときに、同等の出力を生成すると主張している。 提案手法は,ImageNetとCIFAR-10の分類タスクにおいて,優れた精度を実現する。
  論文  参考訳（メタデータ） (2022-12-01T09:42:55Z)
• High-dimensional Asymptotics of Feature Learning: How One Gradient Step Improves the Representation [89.21686761957383]
  2層ネットワークにおける第1層パラメータ $boldsymbolW$ の勾配降下ステップについて検討した。 我々の結果は、一つのステップでもランダムな特徴に対してかなりの優位性が得られることを示した。
  論文  参考訳（メタデータ） (2022-05-03T12:09:59Z)
• Minimax Optimal Quantization of Linear Models: Information-Theoretic Limits and Efficient Algorithms [59.724977092582535]
  測定から学習した線形モデルの定量化の問題を考える。 この設定の下では、ミニマックスリスクに対する情報理論の下限を導出する。 本稿では,2層ReLUニューラルネットワークに対して,提案手法と上界を拡張可能であることを示す。
  論文  参考訳（メタデータ） (2022-02-23T02:39:04Z)
• Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via GDPA Linearization [59.87663954467815]
  アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。 本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。 実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
  論文  参考訳（メタデータ） (2021-09-10T07:01:15Z)
• Multiscale regression on unknown manifolds [13.752772802705978]
  マルチスケールで$mathcalM$に低次元座標を構築し、ローカルフィッティングによるマルチスケール回帰を行います。 本手法の一般化誤差を,事前のリッチクラス上で高い確率で有限サンプル境界を証明することによって解析する。 私たちのアルゴリズムは、サンプルサイズの準線形複雑性を持ち、定数は$D$で、指数は$d$です。
  論文  参考訳（メタデータ） (2021-01-13T15:14:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。