論文の概要: D-SLR: The Disjoint Row-Sparse plus Low-Rank Decomposition

• arxiv url: http://arxiv.org/abs/2610.10636v1
• Date: Wed, 07 Oct 2026 14:07:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:53.588821
• Title: D-SLR: The Disjoint Row-Sparse plus Low-Rank Decomposition
• Title（参考訳）: D-SLR:D-Sparse + Low-Rank 分解
• Abstract要約: Disjoint Row-Sparse と Low-Rank の分解は SVD と完全に一致するか改善する。 仮定のないa-posterioriの下限を各形状の誤差に導出し、各解に他の階数と記憶された行の選択の潜在的な利得に関する計算可能な証明を与える。
• 参考スコア（独自算出の注目度）: 0.7614628596146601
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Compressing a matrix for reconstruction still defaults to the truncated SVD, approximating the data with a single low-rank structure. It is common to reduce the residual further by adding an overlapping row-sparse component, but methods that solve this joint problem often require iterative solvers and tuning of regularization parameters. We propose the Disjoint Row-Sparse plus Low-Rank (D-SLR) decomposition, a closed-form drop-in for the truncated SVD that improves or exactly matches it. D-SLR restricts rows to either being stored verbatim or approximated by the low-rank fit, never both. Under squared error this restriction costs nothing: the joint optimum is attainable disjointly with fewer parameters at every non-trivial rank and stored row count (shape). With zero stored rows D-SLR reduces to the truncated SVD, so it never does worse at equal cost. The algorithm scores the entire error-versus-parameters tradeoff, and the solution is chosen afterwards by a supplied error target or parameter count, or by a selection rule. The grid and solution together cost three SVDs, with no tuning or regularization. We derive an assumption-free, a-posteriori lower bound on the error at every shape, giving each solution a computable certificate on the potential gain of any other choice of rank and stored rows. Experiments on synthetic and real data (LLM embedding tables, network traffic, hyperspectral images) confirm the gains and quantify the certificate.
• Abstract（参考訳）: 再構成のために行列を圧縮することは、未処理のSVDにデフォルトとなり、単一の低ランク構造でデータを近似する。 重なり合う行スパース成分を追加することで残余をさらに削減することが一般的であるが、この結合問題を解決するには反復的な解法と正規化パラメータのチューニングが必要となることが多い。 本稿では,D-SLR(Disjoint Row-Sparse Plus Low-Rank)分解法を提案する。 D-SLRは行を冗長に格納するか、ローランクフィッティングで近似するかに制限する。 共同最適化は、非自明なランクの全てのパラメータと格納された行数(整形)で不整合的に達成できる。 ストアドローをゼロにすると、D-SLRは切り詰められたSVDに還元されるため、同じコストで悪くなることはない。 アルゴリズムはエラー対パラメータのトレードオフ全体をスコアし、その後、供給されたエラーターゲットまたはパラメータカウントまたは選択ルールによって解が選択される。 グリッドとソリューションの組み合わせには3つのSVDが費やされ、チューニングや正規化は行われなかった。 仮定のないa-posterioriの下限を各形状の誤差に導出し、各解に他の階数と記憶された行の選択の潜在的な利得に関する計算可能な証明を与える。 合成および実データ(LLM埋め込みテーブル、ネットワークトラフィック、ハイパースペクトル画像)の実験は、その利得を確認し、証明書を定量化する。

関連論文リスト

• Robust Tensor Completion via Reflective Convolution Nuclear Norm Minimization [7.756743278378846]
  ロバストテンソル完了は、粗大な粗誤差によって破損した部分的な観測から多次元データを復元する。 本稿では、円形シフトを終端非反復反射に置き換える反射畳み込み核ノルム最小化(RCNNM)を提案する。 合成テンソル、BSDS色画像、CAVEマルチスペクトル画像の実験により、RCNNMはその円形リフト画像よりも一貫して改善されていることが示された。
  論文  参考訳（メタデータ） (2026-10-04T05:49:38Z)
• Zero Sum SVD: Balancing Loss Sensitivity for Low Rank LLM Compression [11.908793753919745]
  白色座標における特異成分選択を行うポストトレーニング法であるtextbfZero Sum SVD (textbfZS-SVD) を提案する。 textbfZS-SVDは、累積的な損失変化を0付近に保持する textbfzero sum ルールで、モデル全体のコンポーネントをプルーする。 実験では、様々なベンチマークと圧縮比で一貫した利得を示している。
  論文  参考訳（メタデータ） (2026-02-02T21:51:01Z)
• Concatenated Matrix SVD: Compression Bounds, Incremental Approximation, and Error-Constrained Clustering [0.0]
  予測された共同SVD圧縮誤差がユーザ指定しきい値以下である場合にのみ、行列をマージする3つのクラスタリングアルゴリズムを提案する。 アルゴリズムは、スピード、証明可能な精度、スケーラビリティのトレードオフにまたがっており、明示的なエラー制御を備えた圧縮対応クラスタリングを可能にしている。
  論文  参考訳（メタデータ） (2026-01-12T18:15:53Z)
• The Hidden Cost of Approximation in Online Mirror Descent [56.99972253009168]
  オンラインミラー降下(OMD)は、最適化、機械学習、シーケンシャルな意思決定において多くのアルゴリズムの基盤となる基本的なアルゴリズムパラダイムである。 本研究では,不正確なOMDに関する系統的研究を開始し,正規化器の滑らかさと近似誤差に対する頑健さとの複雑な関係を明らかにする。
  論文  参考訳（メタデータ） (2025-11-27T10:09:07Z)
• COSPADI: Compressing LLMs via Calibration-Guided Sparse Dictionary Learning [5.595343998068235]
  CoSpaDiは、低ランクの分解をより柔軟な構造化されたスパース分解に置き換える、トレーニング不要の圧縮フレームワークである。 複数のLlamaモデルとQwenモデルにまたがるCoSpaDiを,20～50%の圧縮比で層間および群間設定で評価した。
  論文  参考訳（メタデータ） (2025-09-26T08:55:09Z)
• Regularizing Subspace Redundancy of Low-Rank Adaptation [54.473090597164834]
  本稿では、マッピング部分空間間の冗長性を明示的にモデル化し、低ランク適応のサブスペース冗長性を適応的に正規化する手法であるReSoRAを提案する。 提案手法は、視覚言語検索や標準的な視覚分類ベンチマークにおいて、様々なバックボーンやデータセットにまたがる既存のPETL手法を一貫して促進する。 トレーニングの監督として、ReSoRAは追加の推論コストなしで、プラグイン・アンド・プレイ方式で既存のアプローチにシームレスに統合することができる。
  論文  参考訳（メタデータ） (2025-07-28T11:52:56Z)
• FedSVD: Adaptive Orthogonalization for Private Federated Learning with LoRA [68.44043212834204]
  Low-Rank Adaptation (LoRA) は、学習における言語モデルの効率的な微調整に広く用いられている。 Low-Rank Adaptation (LoRA) は、学習における言語モデルの効率的な微調整に広く用いられている。
  論文  参考訳（メタデータ） (2025-05-19T07:32:56Z)
• Solving weakly supervised regression problem using low-rank manifold regularization [77.34726150561087]
  我々は弱い教師付き回帰問題を解く。 weakly"の下では、いくつかのトレーニングポイントではラベルが知られ、未知のものもあれば、無作為なノイズの存在やリソースの欠如などの理由によって不確かであることが分かっています。 数値的な節ではモンテカルロモデルを用いて提案手法を人工と実のデータセットに適用した。
  論文  参考訳（メタデータ） (2021-04-13T23:21:01Z)
• Square Root Bundle Adjustment for Large-Scale Reconstruction [56.44094187152862]
  QR分解によるランドマーク変数のnullspace marginalizationに依存するバンドル調整問題の新たな定式化を提案する。 平方根束調整と呼ばれる私たちのアプローチは、一般的に使用されるSchur補完トリックと代数的に等価です。 BALデータセットを用いた実世界での実験では、提案されたソルバが単一の精度でも平均的等しく正確なソリューションで達成できることを示す。
  論文  参考訳（メタデータ） (2021-03-02T16:26:20Z)
• A Regression Tsetlin Machine with Integer Weighted Clauses for Compact Pattern Representation [9.432068833600884]
  Regression Tsetlin Machine (RTM) は、最先端の非線形回帰モデルに干渉する解釈可能性の欠如に対処する。 整数重み付き節を導入し,計算コストをN倍に削減し,解釈可能性を高める。 6つの人工データセットを用いて整数重み付きRTMのポテンシャルを評価する。
  論文  参考訳（メタデータ） (2020-02-04T12:06:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。