論文の概要: Recovery-Directed Symbolic Distillation of Neural Likelihoods
- arxiv url: http://arxiv.org/abs/2609.32409v1
- Date: Sat, 26 Sep 2026 09:32:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-07 09:27:46.968443
- Title: Recovery-Directed Symbolic Distillation of Neural Likelihoods
- Title（参考訳）: 神経性好中球の回復誘導型シンボリック蒸留
- Abstract要約: 我々は、訓練されたニューラルチャンスを明示的で解釈可能な表現に変換するシンボリック蒸留パイプラインを導入する。
本手法では, パラメータ復元精度を保った表現に対して, シンボル回帰を導出するために, 回復指向の目的を用いる。
我々のパイプラインは、既存のニューラルライクフード推定手法とシンボリック蒸留を統合するための軽量なインターフェースを提供する。
- 参考スコア（独自算出の注目度）: 1.1206077231633642
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Amortized neural likelihoods enable computationally expensive inference for models with analytically intractable or unspecified likelihoods, but their black-box nature limits interpretability. We introduce a symbolic distillation pipeline that converts trained neural likelihoods into explicit, interpretable expressions optimized for efficient parameter estimation. Our approach uses a recovery-directed objective to guide symbolic regression toward expressions that preserve parameter-recovery accuracy rather than merely approximating the likelihood function. Candidate expressions are evaluated on held-out datasets and selected using a criterion that jointly accounts for expression complexity, parameter-recovery performance, and distributional distance from the learned likelihood. We evaluate the pipeline on the diffusion decision model, a classical cognitive model, whose analytically tractable likelihood provides ground truth for controlled evaluation. The proposed recovery-directed objective improves parameter recovery over standard symbolic-regression objectives. The resulting symbolic likelihoods enable over 100 times faster parameter evaluation than both neural likelihoods and, when available, the exact likelihood, while maintaining a manageable loss in precision. We further demonstrate these computational benefits in Bayesian hierarchical inference on empirical data. Our pipeline provides a lightweight interface for integrating symbolic distillation with existing neural-likelihood estimation methods and can be adapted to a range of simulation-based inference settings.
- Abstract（参考訳）: 記憶されたニューラルの可能性は、分析的に難解または不特定な可能性を持つモデルに対する計算コストの高い推論を可能にするが、ブラックボックスの性質は解釈可能性を制限する。
本稿では,学習したニューラルチャンスを,効率的なパラメータ推定に最適化された明示的で解釈可能な表現に変換するシンボリック蒸留パイプラインを提案する。
本手法では, 確率関数を単に近似するのではなく, パラメータ復元精度を保った表現に対して, シンボル回帰を導出する。
候補表現は保持されたデータセット上で評価され、学習された確率から表現複雑性、パラメータ回復性能、分布距離を共同で説明する基準を用いて選択される。
我々は,古典的認知モデルである拡散決定モデルに基づくパイプラインの評価を行った。
提案したリカバリ指向の目的は,標準シンボル-回帰目標よりもパラメータリカバリを改善する。
結果として得られるシンボリックな確率は、両方のニューラルな可能性よりも100倍以上高速なパラメータ評価を可能にし、可能であれば正確さを保ちながら、管理可能な精度の損失を維持できる。
さらに、経験的データに対するベイズ階層的推論において、これらの計算上の利点を実証する。
我々のパイプラインは,既存のニューラルリフッド推定手法とシンボリック蒸留を統合するための軽量インターフェースを提供し,シミュレーションベースの推論設定に適応することができる。
関連論文リスト
- Joint Model and Data Sparsification via the Marginal Likelihood [53.29070892356214]
本稿では,個々の特徴とサンプルの相違点を同時学習し,同時にモデルとデータスペーシングを実現することを提案する。
このモデルとデータの対称的なプルーニングは、共役を保存する自然な拡張を提供する。
多様な回帰タスクにわたる経験的結果は、共同ARDアプローチがスパースモデルとロバスト予測モデルの両方を一貫して生成することを確認した。
論文 参考訳（メタデータ） (2026-05-28T13:26:53Z) - Non-Parametric Rehearsal Learning via Conditional Mean Embeddings [88.89267783967263]
本研究では,不必要な未来(AUF)問題をテキスト化するための非パラメトリックリハーサル学習手法を提案する。
具体的には、カーネル機械を用いてAUFの目的を、動作誘起分布変化から所望性モデリングを遠ざける統一表現に再構成する。
論文 参考訳（メタデータ） (2026-05-09T15:30:52Z) - A Simple Approximate Bayesian Inference Neural Surrogate for Stochastic Petri Net Models [0.0]
後部分布フレームワークのニューラルネットワークに基づく近似を導入する。
我々のモデルは、Gilespie-simulated SPN realizations上で訓練された1D Convolutional Residual Networkを使用する。
20%の欠落事象を持つ合成SPNでは, RMSE = 0.108で速度関数係数を回復し, 従来のベイズ手法よりもかなり高速に動作する。
論文 参考訳（メタデータ） (2025-07-14T18:31:19Z) - Self-Consistent Equation-guided Neural Networks for Censored Time-to-Event Data [11.550402345767141]
本稿では,自己整合方程式を利用した生成逆数ネットワークを用いた条件付き生存関数の非パラメトリック推定手法を提案する。
提案手法はモデルフリーであり,条件付き生存関数の構造に関するパラメトリックな仮定は不要である。
論文 参考訳（メタデータ） (2025-03-12T06:24:35Z) - A variational neural Bayes framework for inference on intractable posterior distributions [1.0801976288811024]
トレーニングされたニューラルネットワークに観測データを供給することにより、モデルパラメータの後方分布を効率的に取得する。
理論的には、我々の後部はKulback-Leiblerの発散において真の後部に収束することを示す。
論文 参考訳（メタデータ） (2024-04-16T20:40:15Z) - Leveraging Self-Consistency for Data-Efficient Amortized Bayesian Inference [9.940560505044122]
本稿では,償却ベイズ推定の効率と精度を向上させる手法を提案する。
我々は,関節モデルの近似表現に基づいて限界確率を推定する。
論文 参考訳（メタデータ） (2023-10-06T17:41:41Z) - Quantifying predictive uncertainty of aphasia severity in stroke patients with sparse heteroscedastic Bayesian high-dimensional regression [47.1405366895538]
高次元データに対する疎線型回帰法は、通常、残留物が一定の分散を持つと仮定するが、これは実際には破ることができる。
本稿では,ヘテロセダスティック分割経験的ベイズ期待条件最大化アルゴリズムを用いて,高次元ヘテロセダスティック線形回帰モデルを推定する。
論文 参考訳（メタデータ） (2023-09-15T22:06:29Z) - Conditional Distribution Function Estimation Using Neural Networks for
Censored and Uncensored Data [0.0]
検閲されたデータと検閲されていないデータの両方に対してニューラルネットワークを用いて条件分布関数を推定することを検討する。
本研究では,提案手法が望ましい性能を有することを示す一方で,モデル仮定に違反した場合に偏りのある推定値が得られることを示す。
論文 参考訳（メタデータ） (2022-07-06T01:12:22Z) - MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood
Inference from Sampled Trajectories [61.3299263929289]
シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。
あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。
モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
論文 参考訳（メタデータ） (2021-06-03T12:59:16Z) - Deep Dimension Reduction for Supervised Representation Learning [51.10448064423656]
本研究は,本質的な特徴を持つ学習表現の次元削減手法を提案する。
提案手法は, 十分次元還元法の非パラメトリック一般化である。
推定された深度非パラメトリック表現は、その余剰リスクが0に収束するという意味で一貫したものであることを示す。
論文 参考訳（メタデータ） (2020-06-10T14:47:43Z) - Nonparametric Score Estimators [49.42469547970041]
未知分布によって生成されたサンプルの集合からスコアを推定することは確率モデルの推論と学習における基本的なタスクである。
正規化非パラメトリック回帰の枠組みの下で、これらの推定器の統一的なビューを提供する。
カールフリーカーネルと高速収束による計算効果を享受する反復正規化に基づくスコア推定器を提案する。
論文 参考訳（メタデータ） (2020-05-20T15:01:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。