論文の概要: Chebyshev Manifold Adaptation

• arxiv url: http://arxiv.org/abs/2607.17377v1
• Date: Sun, 19 Jul 2026 18:36:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-21 18:48:37.453418
• Title: Chebyshev Manifold Adaptation
• Title（参考訳）: チェビシェフマニフォールド適応
• Abstract要約: 本稿ではChebyMA(Chebyshev Manifold Adaptation)と呼ばれる新しいパラメータ効率適応法を提案する。 我々は,1次元ChebyMAがフロベニウスノルムの再構成誤差の収束を保証することを証明し,近似表現性定理を確立する。 Computer Vision データセット (CIFAR-10, CIFAR-100)citeCI および Natural Language Processing (AG News, SST-2) データセットの実験結果から、ChebyMA が常に優れたパラメータ精度を達成していることが示された。
• 参考スコア（独自算出の注目度）: 2.3304389517825808
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The paper presents a new parameter-efficient adaptation method called ChebyMA (Chebyshev Manifold Adaptation). ChebyMA adopts weight matrices through a multi-surface superposition of Chebyshev polynomial bases evaluated on learnable coordinates and combined via trainable coefficient matrices, replacing standard linear projections with highly expressive continuous function approximation. Theoretically, we establish an Approximation Expressivity Theorem, proving from the perspective of function approximation theory that single-manifold ChebyMA guarantees convergence in Frobenius norm error of reconstruction. Besides, drawing on Kolmogorov $n$-width intuition, we demonstrate the expressive advantages of multi-manifold superposition ($S > 1$) in decoupling high-dimensional complex features. Experimental results on Computer Vision CIFAR datasets(CIFAR-10, CIFAR-100)\cite{CIFAR} and Natural Language Processing (AG News, SST-2) datasets demonstrate that ChebyMA consistently achieves a superior parameter-accuracy Pareto front compared to standard full-parameter fine-tuning, LoRA\cite{LoRA}, TLoRA\cite{TLoRA}, and StelLA\cite{StelLA}. ChebyMA significantly outperforms other tested methods in tested datasets, validating its solid theoretical foundation for generality with purely vectorized computations.
• Abstract（参考訳）: 本稿では,ChebyMA (Chebyshev Manifold Adaptation) と呼ばれる新しいパラメータ効率適応法を提案する。 ChebyMAは、学習可能な座標に基づいて評価されたチェビシェフ多項式基底の多面的重ね合わせにより重み行列を採用し、訓練可能な係数行列によって結合し、標準線型射影を高表現性連続関数近似に置き換える。 理論的には、単多様体のチェビーマがフロベニウスノルムの再構成誤差の収束を保証するという関数近似理論の観点から、近似表現論を確立する。 さらに、Kolmogorov $n$-width 直観に基づいて、高次元複素特徴の分離における多次元重ね合わせ(S > 1$)の表現的優位性を示す。 Computer Vision CIFAR データセット (CIFAR-10, CIFAR-100)\cite{CIFAR} と Natural Language Processing (AG News, SST-2) データセットの実験的結果は、ChebyMA が標準のフルパラメータ細調整、LoRA\cite{LoRA}、TLoRA\cite{TLoRA}、StelLA\cite{StelLA} よりも優れたパラメータ精度の Pareto フロントを一貫して達成していることを示している。 ChebyMAは、テストデータセットにおける他のテスト手法よりも大幅に優れており、純粋にベクトル化された計算で一般性に関するしっかりとした理論的基礎を検証している。

関連論文リスト

• Shape Operator PCA: Curvature-Aware Projections for Geometric Machine Learning [52.452902154360565]
  SHOPCA (Shape Operator-based principal Component Analysis) は、教師なしメトリック学習と次元減少のための新しい手法である。 我々は、50以上の実世界のベンチマークデータセット上でSHOPCAを評価する。
  論文  参考訳（メタデータ） (2026-08-15T16:37:47Z)
• BOOOM: Loss-Function-Agnostic Black-Box Optimization over Orthonormal Manifolds for Machine Learning and Statistical Inference [0.0]
  我々は体系的な調査を行う。 対価のセット 直交円柱-直交円柱-直交円柱をaを通して脱出する。 データデータに適用されたノベル。 問題だ 対角最適化の枠組みを示す。 強力で低ランクな分解、独立的な分解分析。 環境下でのグローバルな収束です
  論文  参考訳（メタデータ） (2026-04-23T19:32:27Z)
• Gaussian-Mixture-Model Q-Functions for Policy Iteration in Reinforcement Learning [7.056697401102689]
  本稿では, ガウス混合モデル(GMM)のQ-関数損失の直接サロゲートとして, 関数近似を新たに導入する。 これらのパラメトリックモデルはGMM-QFと呼ばれ、相当な表現能力を持っている。 それらは、幅広い種類の函数に対する普遍近似である。
  論文  参考訳（メタデータ） (2025-12-21T15:00:32Z)
• DyKAF: Dynamical Kronecker Approximation of the Fisher Information Matrix for Gradient Preconditioning [47.17050585542348]
  DyKAF (Dynamic Kronalecker Approximation of the Fisher Matrix) を導入した。 実験の結果,DyKAFは様々な評価指標で既存の近似よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2025-11-09T17:48:26Z)
• Stochastic Primal-Dual Double Block-Coordinate for Two-way Partial AUC Maximization [45.99743804547533]
  2方向部分AUCAUCは、不均衡なデータを持つバイナリ分類における重要な性能指標である。 TPAUC最適化のための既存のアルゴリズムは未探索のままである。 TPAUC最適化のための2つの革新的な二重座標ブロック座標アルゴリズムを導入する。
  論文  参考訳（メタデータ） (2025-05-28T03:55:05Z)
• Regularized Projection Matrix Approximation with Applications to Community Detection [1.3761665705201904]
  本稿では,アフィニティ行列からクラスタ情報を復元するための正規化プロジェクション行列近似フレームワークを提案する。 3つの異なるペナルティ関数について検討し, それぞれが有界, 正, スパースシナリオに対応するように調整した。 合成および実世界の両方のデータセットで行った数値実験により、我々の正規化射影行列近似アプローチはクラスタリング性能において最先端の手法を著しく上回っていることが明らかとなった。
  論文  参考訳（メタデータ） (2024-05-26T15:18:22Z)
• Convex Parameter Estimation of Perturbed Multivariate Generalized Gaussian Distributions [18.95928707619676]
  本稿では,MGGDパラメータの確立された特性を持つ凸定式化を提案する。 提案するフレームワークは, 精度行列, 平均, 摂動の様々な正規化を組み合わせ, 柔軟である。 実験により, 平均ベクトルパラメータに対して, 同様の性能でより正確な精度と共分散行列推定を行うことができた。
  論文  参考訳（メタデータ） (2023-12-12T18:08:04Z)
• Stochastic Optimization for Non-convex Problem with Inexact Hessian Matrix, Gradient, and Function [99.31457740916815]
  信頼領域(TR)と立方体を用いた適応正則化は、非常に魅力的な理論的性質を持つことが証明されている。 TR法とARC法はヘッセン関数,勾配関数,関数値の非コンパクトな計算を同時に行うことができることを示す。
  論文  参考訳（メタデータ） (2023-10-18T10:29:58Z)
• Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
  本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。 我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。 全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
  論文  参考訳（メタデータ） (2023-06-29T01:20:44Z)
• NAG-GS: Semi-Implicit, Accelerated and Robust Stochastic Optimizer [45.47667026025716]
  2つの重要な要素に依存した、新しく、堅牢で、加速された反復を提案する。 NAG-GSと呼ばれる手法の収束と安定性は、まず広範に研究されている。 我々は、NAG-arityが、重量減衰を伴う運動量SGDや機械学習モデルのトレーニングのためのAdamWといった最先端の手法と競合していることを示す。
  論文  参考訳（メタデータ） (2022-09-29T16:54:53Z)
• Sparse high-dimensional linear regression with a partitioned empirical Bayes ECM algorithm [62.997667081978825]
  疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。 パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。 提案手法はRパッケージプローブに実装されている。
  論文  参考訳（メタデータ） (2022-09-16T19:15:50Z)
• Understanding Implicit Regularization in Over-Parameterized Single Index Model [55.41685740015095]
  我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。 暗黙正則化現象の理論的保証を提供する。
  論文  参考訳（メタデータ） (2020-07-16T13:27:47Z)
• Supervised Learning for Non-Sequential Data: A Canonical Polyadic Decomposition Approach [85.12934750565971]
  特徴相互作用の効率的なモデリングは、非順序的タスクに対する教師あり学習の基盤となる。 この問題を緩和するため、モデルパラメータをテンソルとして暗黙的に表現することが提案されている。 表現性を向上するため,任意の高次元特徴ベクトルに特徴写像を適用できるようにフレームワークを一般化する。
  論文  参考訳（メタデータ） (2020-01-27T22:38:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。