論文の概要: Data Reconstruction: Identifiability and Optimization with Sample Splitting
- arxiv url: http://arxiv.org/abs/2602.08723v1
- Date: Mon, 09 Feb 2026 14:33:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-10 20:26:25.291863
- Title: Data Reconstruction: Identifiability and Optimization with Sample Splitting
- Title(参考訳): データ再構成: サンプル分割による識別可能性と最適化
- Authors: Yujie Shen, Zihan Wang, Jian Qian, Qi Lei,
- Abstract要約: KKT条件からのトレーニングデータ再構成は、経験的成功を示している。
結果のKKT方程式が、いつユニークな解を持つのか、また、特定可能な状態であっても、最適化によってどのように確実に解を回復するかは定かではない。
- 参考スコア(独自算出の注目度): 28.085421010299758
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Training data reconstruction from KKT conditions has shown striking empirical success, yet it remains unclear when the resulting KKT equations have unique solutions and, even in identifiable regimes, how to reliably recover solutions by optimization. This work hereby focuses on these two complementary questions: identifiability and optimization. On the identifiability side, we discuss the sufficient conditions for KKT system of two-layer networks with polynomial activations to uniquely determine the training data, providing a theoretical explanation of when and why reconstruction is possible. On the optimization side, we introduce sample splitting, a curvature-aware refinement step applicable to general reconstruction objectives (not limited to KKT-based formulations): it creates additional descent directions to escape poor stationary points and refine solutions. Experiments demonstrate that augmenting several existing reconstruction methods with sample splitting consistently improves reconstruction performance.
- Abstract(参考訳): KKT条件からのトレーニングデータ再構成は、実験的な成功を示しているが、結果のKKT方程式が、いつユニークな解を持つのか、また、特定可能な状態であっても、最適化によってどのように確実に解を回復するかは、まだ不明である。
この作業は、識別可能性と最適化という2つの相補的な疑問に焦点を当てる。
識別可能性に関しては,多項式アクティベーションを持つ2層ネットワークのKKTシステムにおいて,トレーニングデータを一意に決定するための十分な条件について論じる。
最適化の面では、一般的な再構成目的(KKTベースの定式化に限らず)に適用可能な曲率を考慮した改良ステップであるサンプル分割を導入する。
サンプル分割による既存再建手法の強化は, 常に再建性能を向上することを示す実験結果が得られた。
関連論文リスト
- CoT Referring: Improving Referring Expression Tasks with Grounded Reasoning [67.18702329644526]
CoT Referringは、構造化されたチェーン・オブ・シークレット・トレーニングデータ構造を通じて、モデル推論をモダリティにわたって強化する。
トレーニングデータを再構築して、新たな出力フォームを実行し、既存のデータセットに新たなアノテーションを提供します。
また、検出とセグメント化機能を統合MLLMフレームワークに統合し、新しい適応重み付き損失で学習して性能を最適化する。
論文 参考訳(メタデータ) (2025-10-03T08:50:21Z) - Flow-Matching Guided Deep Unfolding for Hyperspectral Image Reconstruction [53.26903617819014]
Flow-Matching-Guided Unfolding Network (FMU)は、最初にフローマッチングをHSI再構成に統合する。
学習力学をさらに強化するために,平均速度損失を導入する。
シミュレーションと実データの両方の実験により、FMUは復元品質において既存のアプローチよりも大幅に優れていることが示された。
論文 参考訳(メタデータ) (2025-10-02T11:32:00Z) - How Far Are We from Generating Missing Modalities with Foundation Models? [49.425856207329524]
欠落したモダリティの再構築に適したエージェントフレームワークを提案する。
本手法は, 画像再構成に要するFIDを少なくとも14%, MERを少なくとも10%削減する。
論文 参考訳(メタデータ) (2025-06-04T03:22:44Z) - Constrained Bayesian Optimization Under Partial Observations: Balanced
Improvements and Provable Convergence [6.461785985849886]
我々は、制約付きベイズ最適化の枠組みの下で、高価なPOCOPの効率的かつ証明可能な手法を設計する。
本稿では,最適化時の平衡探索を取り入れた取得関数の設計を改良した。
部分的に観測可能な制約に対する代理モデルとして異なる確率を埋め込んだガウス過程を提案する。
論文 参考訳(メタデータ) (2023-12-06T01:00:07Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Benign Overfitting in Linear Classifiers and Leaky ReLU Networks from
KKT Conditions for Margin Maximization [59.038366742773164]
ロジスティック損失の勾配流によって訓練された線形および漏洩ReLUは、KKT条件を満たすための暗黙の偏りを持つ。
本研究では、線形分類器や2層リークReLUネットワークにおいて、これらの条件の満足度が良性オーバーフィットを意味するような設定を多数確立する。
論文 参考訳(メタデータ) (2023-03-02T18:24:26Z) - Backpropagation of Unrolled Solvers with Folded Optimization [55.04219793298687]
ディープネットワークにおけるコンポーネントとしての制約付き最適化モデルの統合は、多くの専門的な学習タスクに有望な進歩をもたらした。
1つの典型的な戦略はアルゴリズムのアンローリングであり、これは反復解法の操作による自動微分に依存している。
本稿では,非ロール最適化の後方通過に関する理論的知見を提供し,効率よく解けるバックプロパゲーション解析モデルを生成するシステムに繋がる。
論文 参考訳(メタデータ) (2023-01-28T01:50:42Z) - Causal Structural Learning from Time Series: A Convex Optimization
Approach [12.4517307615083]
構造学習は、観測データから有向非巡回グラフ(DAG)を学習することを目的としている。
最近のDAG学習は、非常に非適応的な構造学習問題である。
近年開発されたモノトーン変分法(VI)を用いた因果学習のためのデータアプローチを提案する。
論文 参考訳(メタデータ) (2023-01-26T16:39:58Z) - Rethinking the optimization process for self-supervised model-driven MRI
reconstruction [16.5013498806588]
K2Calibrateは、自己教師付きモデル駆動MR再構成最適化のためのK空間適応戦略である。
統計的に依存したノイズによるネットワークの復元劣化を低減することができる。
5つの最先端の手法よりも優れた結果が得られる。
論文 参考訳(メタデータ) (2022-03-18T03:41:36Z) - Self-Supervised Learning for MRI Reconstruction with a Parallel Network
Training Framework [24.46388892324129]
提案手法は柔軟であり,既存のディープラーニング手法にも適用可能である。
本手法の有効性を、オープン脳MRIデータセットを用いて評価する。
論文 参考訳(メタデータ) (2021-09-26T06:09:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。