論文の概要: Multi-Source Transfer Learning of Sparse Single-Index Models
- arxiv url: http://arxiv.org/abs/2606.29658v1
- Date: Sun, 28 Jun 2026 23:55:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:16.000229
- Title: Multi-Source Transfer Learning of Sparse Single-Index Models
- Title(参考訳): スパース単一インデックスモデルのマルチソース変換学習
- Abstract要約: 単一インデックスモデル(SIM)に基づくソースデータフリー転送学習フレームワークを提案する。
本手法は,Steinの補題から得られた要約統計のみを1回の通信で転送する。
合成データと実世界の応用の実験は、既存の(一般化された)線形モデルベースアプローチよりも一貫した改善を示している。
- 参考スコア(独自算出の注目度): 2.791614311130759
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Transfer learning leverages knowledge from related source domains to improve learning in a target domain. Recent theoretical advances cover a broad range of regression settings within (generalized) linear models. Despite their diversity, these methods share two common constraints: they assume a known link function or linear structure and require direct access to raw source data. To move beyond these constraints, we propose a source-data-free transfer learning framework based on the single-index model (SIM). Instead of requiring raw source data, our method transfers only summary statistics derived from a generalized Stein's lemma in a one-time communication. This design preserves privacy and avoids side effects caused by dissimilarities of unknown nonlinear link functions across domains. To capture flexible, unknown nonlinearity, we employ a multilayer perceptron guided by the pre-estimated index from the transferred statistics, which significantly mitigates overfitting. Extensive experiments on synthetic data and a real-world application demonstrate consistent improvements over existing (generalized) linear model-based approaches. The proposed framework thus offers a practical, privacy-preserving, and nonlinear-adaptive solution for transfer learning.
- Abstract(参考訳): 転送学習は、関連するソースドメインからの知識を活用して、ターゲットドメインでの学習を改善する。
最近の理論的進歩は(一般化された)線形モデル内の幅広い回帰設定をカバーしている。
その多様性にもかかわらず、これらの手法は既知のリンク関数や線形構造を仮定し、生のソースデータに直接アクセスする必要があるという2つの共通の制約を共有している。
これらの制約を超えて、単一インデックスモデル(SIM)に基づくソースデータなしのトランスファー学習フレームワークを提案する。
提案手法は,ソースデータを必要とする代わりに,Steinの補題から得られた要約統計のみを1回の通信で転送する。
この設計は、プライバシを保護し、ドメイン間の未知の非線形リンク関数の相違による副作用を回避する。
フレキシブルで未知の非線形性を捉えるために、転送された統計値から事前推定インデックスで導かれる多層パーセプトロンを用い、過度な適合を著しく軽減する。
合成データと実世界の応用に関する大規模な実験は、既存の(一般化された)線形モデルに基づくアプローチよりも一貫した改善を示している。
提案するフレームワークは、転送学習のための実用的で、プライバシーを保護し、非線形適応的なソリューションを提供する。
関連論文リスト
- Hierarchical Projection for Adaptive Knowledge Transfer [0.0]
本稿では,階層的ベイズモデルと適応的射影を統合して選択的な知識伝達を行う統一フレームワークを提案する。
ProjectionTLは、ドメイン間で異種データを統合するための原則化されたアプローチを提供する。
既存の手法と比較して精度,安定性,解釈性が改善された。
論文 参考訳(メタデータ) (2026-06-07T15:44:34Z) - A Knowledge-Informed Pretrained Model for Causal Discovery [61.8885572392623]
因果発見は広く研究されてきたが、多くの既存の手法は強い仮定に依存している。
本稿では,弱い事前知識を原則的中核として統合した,因果発見のための知識インフォームド事前学習モデルを提案する。
本モデルでは,2つのソースエンコーダ・デコーダアーキテクチャを用いて,観測データを知識に富んだ方法で処理する。
論文 参考訳(メタデータ) (2026-03-21T14:59:41Z) - Transfer Learning Through Conditional Quantile Matching [3.86972243789112]
我々は、異種ソースドメインを利用した回帰学習フレームワークを導入し、データスカースターゲットドメインにおける予測性能を改善する。
提案手法は,各ソース領域に対して個別に条件生成モデルを学習し,条件量子マッチングにより対象ドメインに対する応答を校正する。
論文 参考訳(メタデータ) (2026-02-02T17:19:55Z) - Wasserstein Transfer Learning [6.602088845993411]
本稿では,ワッサーシュタイン空間に分布する確率分布を出力とする回帰モデルのための新しい伝達学習フレームワークを提案する。
本稿では,領域類似度が伝達効率に与える影響を定量化するために,証明可能な収束率を持つ推定器を提案する。
情報的サブセットが不明な場合には、負の転送を緩和するデータ駆動型転送学習手法を開発する。
論文 参考訳(メタデータ) (2025-05-23T02:38:03Z) - Transfer Learning through Enhanced Sufficient Representation: Enriching Source Domain Knowledge with Target Data [2.308168896770315]
TESR(Enhanced Sufficient Representation)によるトランスファーラーニング(Transfer Learning)と呼ばれる新しいトランスファーラーニング手法を提案する。
私たちのアプローチは、ソースドメインから十分かつ不変な表現を推定することから始まります。
この表現は、ターゲットデータから派生した独立したコンポーネントで拡張され、ターゲットドメインに十分で、その特定の特性に適応できることが保証される。
論文 参考訳(メタデータ) (2025-02-22T13:18:28Z) - Federated Learning with Projected Trajectory Regularization [65.6266768678291]
フェデレーション学習は、ローカルデータを共有せずに、分散クライアントから機械学習モデルの共同トレーニングを可能にする。
連合学習における重要な課題の1つは、クライアントにまたがる識別できない分散データを扱うことである。
本稿では,データ問題に対処するための予測軌道正則化(FedPTR)を備えた新しいフェデレーション学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-12-22T02:12:08Z) - Transfer Learning with Uncertainty Quantification: Random Effect
Calibration of Source to Target (RECaST) [1.8047694351309207]
我々はRECaSTと呼ばれる伝達学習に基づくモデル予測のための統計的枠組みを開発する。
線形モデル間の伝達学習におけるRECaST手法の有効性を数学的・実験的に実証した。
シミュレーション研究における本手法の性能と実際の病院データへの適用について検討する。
論文 参考訳(メタデータ) (2022-11-29T19:39:47Z) - RAIN: RegulArization on Input and Network for Black-Box Domain
Adaptation [80.03883315743715]
ソースのないドメイン適応は、ソースデータを公開することなく、ソース訓練されたモデルをターゲットドメインに転送する。
このパラダイムは、ソースモデルに対する敵対的な攻撃のため、データ漏洩のリスクがある。
そこで我々は,入力レベルとネットワークレベルの両方の正規化からブラックボックスドメインを適応させる新しい手法であるRAIN(RegulArization on Input and Network)を提案する。
論文 参考訳(メタデータ) (2022-08-22T18:18:47Z) - On Hypothesis Transfer Learning of Functional Linear Models [7.243632426715939]
再生カーネル空間(RKHS)フレームワークを用いて,関数線形回帰(FLR)のための伝達学習(TL)について検討する。
我々は、RKHS距離を用いてタスク間の類似度を測定し、転送される情報のタイプがRKHSの特性に結びつくようにする。
論文 参考訳(メタデータ) (2022-06-09T04:50:16Z) - Domain Adaptive Semantic Segmentation without Source Data [50.18389578589789]
モデルがソースドメイン上で事前学習されていることを前提として、ソースデータのないドメイン適応セマンティックセマンティックセマンティックセマンティクスについて検討する。
本稿では,この課題に対して,肯定的学習と否定的学習という2つの要素を用いた効果的な枠組みを提案する。
私たちのフレームワークは、パフォーマンスをさらに向上するために、他のメソッドに簡単に実装および組み込むことができます。
論文 参考訳(メタデータ) (2021-10-13T04:12:27Z) - A Curriculum-style Self-training Approach for Source-Free Semantic Segmentation [91.13472029666312]
ソースフリーなドメイン適応型セマンティックセマンティックセグメンテーションのためのカリキュラムスタイルの自己学習手法を提案する。
提案手法は, ソースフリーなセマンティックセグメンテーションタスクにおいて, 合成-実-実-実-実-実-実-非実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実-実
論文 参考訳(メタデータ) (2021-06-22T10:21:39Z) - Universal Source-Free Domain Adaptation [57.37520645827318]
ドメイン適応のための新しい2段階学習プロセスを提案する。
Procurementの段階では、今後のカテゴリギャップやドメインシフトに関する事前知識を前提とせず、将来的なソースフリーデプロイメントのためのモデルの提供を目標としています。
Deploymentの段階では、幅広いカテゴリギャップをまたいで動作可能な統一適応アルゴリズムを設計することを目的としている。
論文 参考訳(メタデータ) (2020-04-09T07:26:20Z) - Do We Really Need to Access the Source Data? Source Hypothesis Transfer
for Unsupervised Domain Adaptation [102.67010690592011]
Unsupervised adaptUDA (UDA) は、ラベル付きソースデータセットから学んだ知識を活用して、新しいラベル付きドメインで同様のタスクを解決することを目的としている。
従来のUDAメソッドは、モデルに適応するためには、通常、ソースデータにアクセスする必要がある。
この作業は、訓練済みのソースモデルのみが利用できる実践的な環境に取り組み、ソースデータなしでそのようなモデルを効果的に活用してUDA問題を解決する方法に取り組みます。
論文 参考訳(メタデータ) (2020-02-20T03:13:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。