論文の概要: Meta-Learning Theory-Informed Inductive Biases using Deep Kernel Gaussian Processes
- arxiv url: http://arxiv.org/abs/2509.24919v1
- Date: Mon, 29 Sep 2025 15:23:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-30 22:32:20.088917
- Title: Meta-Learning Theory-Informed Inductive Biases using Deep Kernel Gaussian Processes
- Title(参考訳): ディープカーネルガウス過程を用いたメタラーニング理論によるインフォームドインダクティブビアーゼ
- Authors: Bahti Zakirov, Gašper Tkačik,
- Abstract要約: 本稿では,正規理論からの生関数予測を抽出可能な確率モデルに自動変換するベイズメタラーニングフレームワークを提案する。
この研究は、理論知識をデータ駆動科学調査に統合するための、より一般的でスケーラブルで自動化されたアプローチを提供する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Normative and task-driven theories offer powerful top-down explanations for biological systems, yet the goals of quantitatively arbitrating between competing theories, and utilizing them as inductive biases to improve data-driven fits of real biological datasets are prohibitively laborious, and often impossible. To this end, we introduce a Bayesian meta-learning framework designed to automatically convert raw functional predictions from normative theories into tractable probabilistic models. We employ adaptive deep kernel Gaussian processes, meta-learning a kernel on synthetic data generated from a normative theory. This Theory-Informed Kernel specifies a probabilistic model representing the theory predictions -- usable for both fitting data and rigorously validating the theory. As a demonstration, we apply our framework to the early visual system, using efficient coding as our normative theory. We show improved response prediction accuracy in ex vivo recordings of mouse retinal ganglion cells stimulated by natural scenes compared to conventional data-driven baselines, while providing well-calibrated uncertainty estimates and interpretable representations. Using exact Bayesian model selection, we also show that our informed kernel can accurately infer the degree of theory-match from data, confirming faithful encapsulation of theory structure. This work provides a more general, scalable, and automated approach for integrating theoretical knowledge into data-driven scientific inquiry in neuroscience and beyond.
- Abstract(参考訳): 規範的およびタスク駆動理論は、生物学的システムに対して強力なトップダウンの説明を提供するが、競合する理論を定量的に仲裁し、実際の生物学的データセットのデータ駆動適合性を改善する誘導バイアスとしてそれらを利用するという目的は、しばしば困難であり、しばしば不可能である。
そこで本研究では,正規理論からの生関数予測を抽出可能な確率モデルに自動変換するベイズメタラーニングフレームワークを提案する。
我々は適応的なディープカーネルガウスプロセスを採用し、規範理論から生成された合成データに基づいてカーネルをメタラーニングする。
この理論インフォームド・カーネルは、理論の予測を表す確率モデルを指定する。
実演として、我々は、効率的なコーディングを規範理論として、我々のフレームワークを初期視覚システムに適用した。
マウス網膜神経節細胞の生体外記録における応答予測精度は,従来のデータ駆動型ベースラインと比較して向上した。
正確なベイズモデル選択を用いて、我々の情報カーネルはデータから理論マッチの度合いを正確に推測し、理論構造の忠実なカプセル化を確認することも示している。
この研究は、理論知識を神経科学などにおけるデータ駆動科学調査に統合するための、より一般的でスケーラブルで自動化されたアプローチを提供する。
関連論文リスト
- Causal Representation Learning from Multimodal Biomedical Observations [57.00712157758845]
バイオメディカルデータセットの理解を容易にするために,マルチモーダルデータに対するフレキシブルな識別条件と原理的手法を開発した。
主要な理論的貢献は、モジュラリティ間の因果関係の構造的空間性である。
実世界のヒト表現型データセットの結果は、確立された生物医学研究と一致している。
論文 参考訳(メタデータ) (2024-11-10T16:40:27Z) - Range, not Independence, Drives Modularity in Biologically Inspired Representations [52.48094670415497]
我々は、生物学的にインスピレーションを受けたネットワークが、ソース変数(ソース)の表現をモジュール化する理論を開発する。
我々は、最適な線形オートエンコーダのニューロンがモジュラー化するかどうかを決定するソースのサンプルに対して、必要かつ十分な条件を導出する。
我々の理論はどんなデータセットにも当てはまり、以前の研究で研究された統計的な独立性よりもはるかに長い。
論文 参考訳(メタデータ) (2024-10-08T17:41:37Z) - An Effective Theory of Bias Amplification [18.648588509429167]
機械学習モデルは、データに存在するバイアスをキャプチャして増幅し、ソーシャルグループ間で異なるテストパフォーマンスをもたらす。
本稿では、従来のモデルが単純化された状況下でのニューラルネットワークをフィードフォワードする尾根回帰の文脈で、精密な解析理論を提案する。
我々の理論は、機械学習バイアスの統一的で厳密な説明を提供し、バイアス増幅やマイノリティグループバイアスのような現象に関する洞察を提供する。
論文 参考訳(メタデータ) (2024-10-07T08:43:22Z) - Learning Discrete Concepts in Latent Hierarchical Models [73.01229236386148]
自然の高次元データから学習する概念は、ヒューマンアライメントと解釈可能な機械学習モデルの構築の可能性を秘めている。
我々は概念を階層的因果モデルを通して関連付けられた離散潜在因果変数として定式化する。
我々は、理論的な主張を合成データ実験で裏付ける。
論文 参考訳(メタデータ) (2024-06-01T18:01:03Z) - CogDPM: Diffusion Probabilistic Models via Cognitive Predictive Coding [62.075029712357]
本研究は認知拡散確率モデル(CogDPM)を紹介する。
CogDPMは拡散モデルの階層的サンプリング能力に基づく精度推定法と拡散モデル固有の性質から推定される精度重み付きガイダンスを備える。
我々は,Universal Kindomの降水量と表面風速データセットを用いた実世界の予測タスクにCogDPMを適用した。
論文 参考訳(メタデータ) (2024-05-03T15:54:50Z) - Deep Grey-Box Modeling With Adaptive Data-Driven Models Toward
Trustworthy Estimation of Theory-Driven Models [88.63781315038824]
本稿では,ニューラルネットワークのアーキテクチャとトレーニング目標にわずかな変化を伴って,レギュレータの動作を経験的に分析することのできるフレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-24T10:42:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。