論文の概要: Active Learning of Conditional Generative Models via the Transport Neural Tangent Kernel
- arxiv url: http://arxiv.org/abs/2610.35652v1
- Date: Mon, 26 Oct 2026 15:59:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:14.062459
- Title: Active Learning of Conditional Generative Models via the Transport Neural Tangent Kernel
- Title(参考訳): ニューラルタンジェントカーネルを用いた条件生成モデルの能動的学習
- Abstract要約: 本稿では,生成モデルの予測分布がパラメータに対してどれほど敏感であるかを計測する抽出可能なカーネルを提案する。
tNTKをガウス過程の共分散関数として扱い、プール全体のGP後方分散を最小化する入力を優しく選択する。
本研究では,条件付きフローマッチングと条件付きモンジギャップを含む条件付き生成モデルの4つのクラスにわたって,この戦略を評価する。
- 参考スコア(独自算出の注目度): 41.48513182223616
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Many high-throughput scientific experiments produce distributional outputs, requiring conditional generative models to interpret the data, and to predict outcomes at new inputs. Acquiring experimental data at new conditions (e.g., for a new antigen or a new cell type) is often expensive, motivating the need for automated experimental design methods. However, existing active learning frameworks are limited as they assume scalar or vector-valued outputs. We first show that the Wasserstein test risk of a conditional generative task decomposes into a mean term and a shape term, demonstrating why mean-based active learning is blind to distributional shape. To capture both, we propose the transport Neural Tangent Kernel (tNTK), a tractable kernel that measures how sensitive a generative model's predicted distribution is with respect to its parameters. The tNTK recovers the standard NTK in the deterministic limit and upper-bounds the posterior Fréchet variance of the prediction under small parameter perturbations. It admits a closed-form expression for affine Gaussian transport and tractable Monte Carlo estimators otherwise. Treating the tNTK as the covariance function of a Gaussian process, we greedily select inputs that minimize the total GP posterior variance across the pool, yielding a distribution-aware active learning strategy. We evaluate this strategy across four classes of conditional generative models, including conditional flow matching and conditional Monge gap, on synthetic distributions, intent-labeled sentences, and single-cell perturbation responses. In these experiments, the tNTK outperforms the baseline NTK computed from the conditional mean, demonstrating the value of distribution-aware active learning for generative-modeling tasks.
- Abstract(参考訳): 多くの高スループットの科学実験は、データを解釈し、新しい入力で結果を予測するために条件付き生成モデルを必要とする分布出力を生成する。
新しい条件(例えば、新しい抗原や新しい細胞タイプ)で実験データを取得することは、しばしば高価であり、自動的な実験設計方法の必要性を動機付けている。
しかし、既存のアクティブラーニングフレームワークは、スカラーまたはベクトル値の出力を前提とするように制限されている。
まず,条件付き生成タスクのWassersteinテストリスクを平均項と形状項に分解し,平均に基づくアクティブラーニングが分布型に盲目であることを示す。
本稿では, 生成モデルの予測分布が, パラメータに対してどれだけ敏感であるかを計測する, トラクタブルカーネルであるニューラルタンジェントカーネル(tNTK)を提案する。
tNTKは、決定論的極限における標準NTKを回復し、小さなパラメータ摂動の下での予測の後方フレシェ分散を上界に戻す。
アフィン・ガウシアン輸送とトラクタブルモンテカルロ推定器の閉形式表現を認めている。
tNTKをガウス過程の共分散関数として扱うことで、プール全体のGP後部分散を最小化し、分布認識型能動学習戦略を導出する入力をグレードに選択する。
条件付きフローマッチングと条件付きモンジュギャップを含む4種類の条件付き生成モデルに対して,合成分布,意図ラベル文,単一セル摂動応答について,この戦略を評価する。
これらの実験では、tNTKは条件平均から計算したベースラインNTKよりも優れており、生成モデリングタスクにおける分布認識型アクティブラーニングの価値を実証している。
関連論文リスト
- Active Flow Expansion for Out-of-Distribution Discovery: from Theory to Molecules [62.81692030818376]
本稿では,モデルの生成可能な集合を拡大し,有効設計空間のカバレッジを増大させる,分散フローモデリングのための新しい学習原理を提案する。
本稿では, 検証器フィードバックを用いて, 新しい有効領域に事前学習モデルを拡張する, 継続的な事前学習手法であるアクティブフロー拡張(ActFlow)を提案する。
その結果、ActFlowは、初期訓練済みモデルによってモデル化された領域を超えて、有効な範囲を広げ、広く採用されている合成フロー事前学習法よりもはるかに優れていることがわかった。
論文 参考訳(メタデータ) (2026-06-07T19:43:22Z) - From Shallow Bayesian Neural Networks to Gaussian Processes: General Convergence, Identifiability and Scalable Inference [0.0]
ガウス過程(GP)への接続による浅ベイズニューラルネットワーク(BNN)のスケーリング限界について検討する。
まず, BNN から GP への一般収束結果を事前定式化に使用する仮定を緩和し, 限定GP モデルの代替パラメータ化を比較する。
入力設計において,正の定性や厳密かつ実用的な識別性を含む重要な特性を特徴付ける。
計算のために,Nystrm近似を用いた拡張性のある最大値(MAP)トレーニングと予測手法を開発し,Nystrmランクとアンカー選択がコスト-精度取引をどのように制御するかを示す。
論文 参考訳(メタデータ) (2026-02-26T00:02:54Z) - Deep learning with missing data [3.829599191332801]
本稿では,既存の計算手法と組み合わせて適用可能なパターン埋め込みニューラルネットワーク(PENN)を提案する。
インプットされたデータに基づいてトレーニングされたニューラルネットワークに加えて、PENNは観察指標のベクトルを第2のニューラルネットワークに渡して、コンパクトな表現を提供する。
出力は第3のニューラルネットワークに結合され、最終的な予測が生成される。
論文 参考訳(メタデータ) (2025-04-21T18:57:36Z) - Conditional Pseudo-Reversible Normalizing Flow for Surrogate Modeling in Quantifying Uncertainty Propagation [11.874729463016227]
付加雑音によって汚染された物理モデルの代理モデルを構築するための条件付き擬似可逆正規化フローを導入する。
トレーニングプロセスは、ノイズと関数に関する事前知識を必要とせずに、入出力ペアからなるデータセットを利用する。
トレーニングされたモデルでは,高い確率領域をトレーニングセットでカバーした条件付き確率密度関数からサンプルを生成することができる。
論文 参考訳(メタデータ) (2024-03-31T00:09:58Z) - A Pseudo-Semantic Loss for Autoregressive Models with Logical
Constraints [87.08677547257733]
ニューロシンボリックAIは、純粋にシンボリックな学習とニューラルな学習のギャップを埋める。
本稿では,ニューラルネットワークの出力分布に対するシンボリック制約の可能性を最大化する方法を示す。
また,スドクと最短経路予測の手法を自己回帰世代として評価した。
論文 参考訳(メタデータ) (2023-12-06T20:58:07Z) - Time-series Generation by Contrastive Imitation [87.51882102248395]
モーメントマッチングの目的によってモチベーションされ、複合的エラーを軽減し、局所的(しかし前方的な)遷移ポリシーを最適化する。
推論において、学習されたポリシーは反復的なサンプリングのジェネレータとして機能し、学習されたエネルギーはサンプルの品質を評価するための軌道レベル尺度として機能する。
論文 参考訳(メタデータ) (2023-11-02T16:45:25Z) - Learning Multivariate CDFs and Copulas using Tensor Factorization [39.24470798045442]
データの多変量分布を学習することは、統計学と機械学習における中核的な課題である。
本研究では,多変量累積分布関数(CDF)を学習し,混合確率変数を扱えるようにすることを目的とする。
混合確率変数の合同CDFの任意のグリッドサンプリング版は、単純ベイズモデルとして普遍表現を許容することを示す。
提案モデルの性能を,回帰,サンプリング,データ計算を含むいくつかの合成および実データおよびアプリケーションで実証する。
論文 参考訳(メタデータ) (2022-10-13T16:18:46Z) - Probabilistic Numeric Convolutional Neural Networks [80.42120128330411]
画像や時系列などの連続的な入力信号は、不規則にサンプリングされたり、値が欠けていたりすることは、既存のディープラーニング手法では困難である。
ガウス過程(GP)として特徴を表す確率的畳み込みニューラルネットワークを提案する。
次に、畳み込み層を、このGP上で定義されたPDEの進化として定義し、次いで非線形性とする。
実験では,SuperPixel-MNISTデータセットの先行技術と医療時間2012データセットの競合性能から,提案手法の誤差を3倍に削減できることが示されている。
論文 参考訳(メタデータ) (2020-10-21T10:08:21Z) - Goal-directed Generation of Discrete Structures with Conditional
Generative Models [85.51463588099556]
本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。
提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
論文 参考訳(メタデータ) (2020-10-05T20:03:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。