論文の概要: Making Tensor Decoupling More Robust and Less Parametric

• arxiv url: http://arxiv.org/abs/2610.16937v1
• Date: Mon, 12 Oct 2026 15:15:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-18 04:04:47.517798
• Title: Making Tensor Decoupling More Robust and Less Parametric
• Title（参考訳）: テンソルデカップリングのロバスト化とパラメトリック化の削減
• Abstract要約: デカップリングアルゴリズムは多変量関数のコンパクト表現を復元する。 最近の方法には2つの制限がある。 我々はアルゴリズムの効率的なオープンソースJAX実装をリリースする。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Tensor decoupling algorithms recover compact representations of multivariate functions by combining linear factor matrices with univariate internal nonlinearities. We identify two limitations of recent methods. First, their performance is not invariant to mismatched output or gradient magnitudes, and second, their spline internals require manual tuning of their degrees of freedom. We propose two lightweight fixes. The first is a preprocessing step that rescales the input Jacobian tensor, removing both the bias towards larger magnitude outputs and the ill-conditioning of certain factor updates caused by such a mismatch. The second replaces B-spline internals by penalized splines coupled with generalized cross-validation, making the method less dependent on the user selecting the right number of control points. Finally, we release an efficient open-source JAX implementation of our algorithm.
• Abstract（参考訳）: テンソルデカップリングアルゴリズムは、線形係数行列と単変量内部の非線形性を組み合わせた多変量関数のコンパクト表現を復元する。 最近の方法には2つの制限がある。 第一に、それらの性能はミスマッチした出力や勾配等級に不変ではなく、第二に、スプライン内部はそれらの自由度を手動で調整する必要がある。 我々は2つの軽量な修正を提案する。 1つ目は、入力のジャコビアンテンソルを再スケールする前処理ステップで、より大きな出力に対するバイアスと、そのようなミスマッチによって生じる特定の要因の更新の不調和の両方を取り除く。 2つ目は、一般のクロスバリデーションと組み合わされたペナル化スプラインによってB-スプライン内部を置換し、制御ポイントの正しい数を選択するユーザに依存しないようにする。 最後に、我々のアルゴリズムの効率的なオープンソースJAX実装をリリースする。

関連論文リスト

• Closed-Form Spectral Regularization for Multi-Task Model Merging [96.82449201305234]
  モデルマージは、個別に調整された複数の専門家をトレーニングデータなしで単一のマルチタスクモデルに結合する。 State-of-the-art merging method formulate merging as a layer-wise interference problem。 本稿では,逐次降下の勾配-流路に一致するソフト指数フィルタを組み合わせた閉形式手法SWUDIを提案する。
  論文  参考訳（メタデータ） (2026-06-05T14:00:47Z)
• Variance-Dependent Regret Bounds for Linear Bandits and Reinforcement Learning: Adaptivity and Computational Efficiency [90.40062452292091]
  本稿では,不整合雑音を持つ線形帯域に対する計算効率のよい最初のアルゴリズムを提案する。 我々のアルゴリズムは未知のノイズの分散に適応し、$tildeO(d sqrtsum_k = 1K sigma_k2 + d)$ regretを達成する。 また、強化学習において、線形混合マルコフ決定過程(MDP)に対する分散適応アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-02-21T00:17:24Z)
• Softmax-free Linear Transformers [90.83157268265654]
  視覚変換器(ViT)は、視覚知覚タスクの最先端を推し進めている。 既存の手法は理論的に欠陥があるか、視覚認識に経験的に効果がないかのいずれかである。 我々はSoftmax-Free Transformers (SOFT) のファミリーを提案する。
  論文  参考訳（メタデータ） (2022-07-05T03:08:27Z)
• Tensor Network Kalman Filtering for Large-Scale LS-SVMs [17.36231167296782]
  最小二乗支援ベクトルマシンは非線形回帰と分類に使用される。 テンソルネットワークとカルマンフィルタに基づくフレームワークは、要求されるメモリと計算の複雑さを軽減する。 その結果,提案手法は高い性能を達成でき,代替手法が計算能力に欠ける場合には特に有用であることがわかった。
  論文  参考訳（メタデータ） (2021-10-26T08:54:03Z)
• Orthogonal Jacobian Regularization for Unsupervised Disentanglement in Image Generation [64.92152574895111]
  直交ジャコビアン正規化法(OroJaR)を提案する。 提案手法は, 絡み合った, 制御可能な画像生成に有効であり, 最先端の手法に対して好適に機能する。
  論文  参考訳（メタデータ） (2021-08-17T15:01:46Z)
• Hybrid Trilinear and Bilinear Programming for Aligning Partially Overlapping Point Sets [85.71360365315128]
  多くの応用において、部分重なり合う点集合が対応するRPMアルゴリズムに不変であるようなアルゴリズムが必要である。 まず、目的が立方体有界関数であることを示し、次に、三線型および双線型単相変換の凸エンベロープを用いて、その下界を導出する。 次に、変換変数上の分岐のみを効率よく実行するブランチ・アンド・バウンド(BnB)アルゴリズムを開発する。
  論文  参考訳（メタデータ） (2021-01-19T04:24:23Z)
• Scaling the Convex Barrier with Sparse Dual Algorithms [141.4085318878354]
  本稿では,ニューラルネットワークバウンダリングのための2つの新しい2重アルゴリズムを提案する。 どちらの方法も新しい緩和の強さを回復する: 厳密さと線形分離オラクル。 実行時間のほんの一部で、既製のソルバよりも優れた境界を得ることができます。
  論文  参考訳（メタデータ） (2021-01-14T19:45:17Z)
• Lipschitz and Comparator-Norm Adaptivity in Online Learning [19.553882766422173]
  予測も勾配も制約しない環境で,オンライン凸最適化について検討する。 まず、ヒント付き簡易設定のためのパラメータフリーかつスケールフリーなアルゴリズムを開発する。
  論文  参考訳（メタデータ） (2020-02-27T16:42:41Z)
• Convergence to Second-Order Stationarity for Non-negative Matrix Factorization: Provably and Concurrently [18.89597524771988]
  非負行列分解(NMF)は、機械学習における多くの応用において、基本的な非修飾最適化問題である。 本稿では,サドル点を同時にかつ確実に回避する乗法的重み更新型力学(Seung algorithm)を定義する。 重要な利点は、並列コンピューティング環境で並列実装を使用することである。
  論文  参考訳（メタデータ） (2020-02-26T06:40:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。