論文の概要: Self-sufficient Independent Component Analysis via KL Minimizing Flows

• arxiv url: http://arxiv.org/abs/2512.00665v1
• Date: Sat, 29 Nov 2025 23:10:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-02 19:46:34.349254
• Title: Self-sufficient Independent Component Analysis via KL Minimizing Flows
• Title（参考訳）: KL最小化流れによる自己充足独立成分分析
• Authors: Song Liu,
• Abstract要約: 非線形独立成分分析(ICA)を用いたデータからの非絡み合い信号の学習問題について検討する。 自己教師型学習の進歩に動機付けられ,我々は自給自足のシグナルを学習することを提案する。 回復した信号は、他の信号に頼らずに、残りのすべてのコンポーネントから、自身の欠落した値を再構築できるはずである。
• 参考スコア（独自算出の注目度）: 6.053644321347651
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study the problem of learning disentangled signals from data using non-linear Independent Component Analysis (ICA). Motivated by advances in self-supervised learning, we propose to learn self-sufficient signals: A recovered signal should be able to reconstruct a missing value of its own from all remaining components without relying on any other signals. We formulate this problem as the minimization of a conditional KL divergence. Compared to traditional maximum likelihood estimation, our algorithm is prior-free and likelihood-free, meaning that we do not need to impose any prior on the original signals or any observational model, which often restricts the model's flexibility. To tackle the KL divergence minimization problem, we propose a sequential algorithm that reduces the KL divergence and learns an optimal de-mixing flow model at each iteration. This approach completely avoids the unstable adversarial training, a common issue in minimizing the KL divergence. Experiments on toy and real-world datasets show the effectiveness of our method.
• Abstract（参考訳）: 非線形独立成分分析(ICA)を用いてデータから非絡み合った信号を学習する問題について検討する。 回復した信号は、他の信号に頼らずに、残りのすべてのコンポーネントから、自身の欠落した値を再構築することができるべきである。 この問題を条件付きKL分散の最小化として定式化する。 従来の最大推定値と比較して、我々のアルゴリズムは事前自由であり、可能性のないため、元の信号や観測モデルに事前を課す必要はなく、しばしばモデルの柔軟性を制限する。 KLの発散最小化問題に対処するため,KLの発散を低減するシーケンシャルアルゴリズムを提案する。 このアプローチは、KLの発散を最小限にする一般的な問題である不安定な対向訓練を完全に回避する。 玩具と実世界のデータセットを用いた実験により,本手法の有効性が示された。

関連論文リスト

• Heterogeneous Self-Supervised Acoustic Pre-Training with Local Constraints [64.15709757611369]
  異種データを扱うための自己教師付き事前学習手法を提案する。 提案手法は、下流の教師付き微調整タスクに対する自己教師付き事前訓練モデルの適応性を大幅に向上させることができる。
  論文  参考訳（メタデータ） (2025-08-27T15:48:50Z)
• Stability and Generalization for Bellman Residuals [8.250374560598493]
  ベルマン残留最小化(BRM)はオフライン強化学習の魅力的な治療法として浮上している。 本稿では,SGDAが近傍のデータセット上で実行され,O(1/n)平均引数-安定性境界が得られる,単一のリアプノフポテンシャルを紹介する。 その結果、標準のニューラルネットワークパラメータ化とミニバッチSGDが得られた。
  論文  参考訳（メタデータ） (2025-08-26T07:15:36Z)
• Machine Unlearning under Overparameterization [33.0107730972836]
  機械学習アルゴリズムは、特定のサンプルの影響を除去し、残ったデータだけで得られたであろうモデルを理想的に回復することを目的としている。 私たちは、多くのモデルが多くのアルゴリズムモデルより優れているトレーニング環境で、事前のソリューションで$asをインターポレートする。 我々は、様々な未学習実験において、正確で近似的な未学習のクラスを提供する。
  論文  参考訳（メタデータ） (2025-05-28T17:14:57Z)
• Feasible Learning [78.6167929413604]
  本稿では,サンプル中心の学習パラダイムであるFeasible Learning(FL)を紹介する。 大規模言語モデルにおける画像分類, 年齢回帰, 好みの最適化といった経験的分析により, FLを用いて訓練したモデルでは, 平均的性能に限界があるものの, ERMと比較して改善された尾の挙動を示しながらデータから学習できることが実証された。
  論文  参考訳（メタデータ） (2025-01-24T20:39:38Z)
• Residual ANODE [0.0]
  データ駆動型モデル非依存型共振異常検出のための新しい手法であるR-ANODEを提案する。 R-ANODEの鍵は、正規化フローを小さく未知の信号成分に直接適合させることにより、異常検出タスクの誘導バイアスを高めることである。 本手法は,未知の信号区間が学習されたり固定されたりしても等しく動作し,信号区間の誤識別に対してさえ頑健であることを示す。
  論文  参考訳（メタデータ） (2023-12-18T19:00:03Z)
• Blind Asynchronous Over-the-Air Federated Edge Learning [15.105440618101147]
  Federated Edge Learning (FEEL)は、分散機械学習技術である。 本研究では,大気上のグローバルモデルのパラメータを復元する新しい同期のない手法を提案する。 提案アルゴリズムは, 理想的な同期シナリオに10ドル近く近づき, 単純な場合よりも4倍の精度で実行可能である。
  論文  参考訳（メタデータ） (2022-10-31T16:54:14Z)
• Disentangling Observed Causal Effects from Latent Confounders using Method of Moments [67.27068846108047]
  我々は、軽度の仮定の下で、識別性と学習可能性に関する保証を提供する。 我々は,線形制約付き結合テンソル分解に基づく効率的なアルゴリズムを開発し,スケーラブルで保証可能な解を得る。
  論文  参考訳（メタデータ） (2021-01-17T07:48:45Z)
• Attentional-Biased Stochastic Gradient Descent [74.49926199036481]
  深層学習におけるデータ不均衡やラベルノイズ問題に対処するための証明可能な手法(ABSGD)を提案する。 本手法は運動量SGDの簡易な修正であり,各試料に個別の重み付けを行う。 ABSGDは追加コストなしで他の堅牢な損失と組み合わせられるほど柔軟である。
  論文  参考訳（メタデータ） (2020-12-13T03:41:52Z)
• Semi-Supervised Empirical Risk Minimization: Using unlabeled data to improve prediction [4.860671253873579]
  本稿では,経験的リスク最小化(Empirical Risk Minimization,ERM)学習プロセスの半教師付き学習(SSL)変種を設計するためにラベルのないデータを使用する一般的な手法を提案する。 我々は、予測性能の向上におけるSSLアプローチの有効性を分析した。
  論文  参考訳（メタデータ） (2020-09-01T17:55:51Z)
• Learning Diverse Representations for Fast Adaptation to Distribution Shift [78.83747601814669]
  本稿では,複数のモデルを学習する手法を提案する。 分散シフトへの迅速な適応を促進するフレームワークの能力を実証する。
  論文  参考訳（メタデータ） (2020-06-12T12:23:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。