論文の概要: Supervised structure learning
- arxiv url: http://arxiv.org/abs/2311.10300v1
- Date: Fri, 17 Nov 2023 03:18:55 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-22 15:01:31.422892
- Title: Supervised structure learning
- Title(参考訳): 教師付き構造学習
- Authors: Karl J. Friston, Lancelot Da Costa, Alexander Tschantz, Alex Kiefer,
Tommaso Salvatori, Victorita Neacsu, Magnus Koudahl, Conor Heins, Noor Sajid,
Dimitrije Markovic, Thomas Parr, Tim Verbelen, Christopher L Buckley
- Abstract要約: ベイズモデルの選択とトレーニングデータやコンテンツの同化に焦点を当てており、特にデータの摂取順序に重点を置いている。
続くスキームにおける重要な動きは、期待される自由エネルギーに基づいて、モデルの選択に先んじることである。
結果として得られたスキームは、まずMNISTデータセットで画像分類を行い、基本概念を記述し、その後、ダイナミックスを持つモデルを発見するというより難しい問題でテストされる。
- 参考スコア(独自算出の注目度): 41.35046208072566
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper concerns structure learning or discovery of discrete generative
models. It focuses on Bayesian model selection and the assimilation of training
data or content, with a special emphasis on the order in which data are
ingested. A key move - in the ensuing schemes - is to place priors on the
selection of models, based upon expected free energy. In this setting, expected
free energy reduces to a constrained mutual information, where the constraints
inherit from priors over outcomes (i.e., preferred outcomes). The resulting
scheme is first used to perform image classification on the MNIST dataset to
illustrate the basic idea, and then tested on a more challenging problem of
discovering models with dynamics, using a simple sprite-based visual
disentanglement paradigm and the Tower of Hanoi (cf., blocks world) problem. In
these examples, generative models are constructed autodidactically to recover
(i.e., disentangle) the factorial structure of latent states - and their
characteristic paths or dynamics.
- Abstract(参考訳): 本稿では,構造学習や離散生成モデルの発見について述べる。
ベイズモデルの選択とトレーニングデータやコンテンツの同化に重点を置いており、特にデータが取り込まれる順序に重点を置いている。
続く計画において重要な動きは、期待された自由エネルギーに基づいてモデルの選択に先行することである。
この設定では、期待された自由エネルギーは制約された相互情報に還元され、そこでは制約は結果(すなわち望ましい結果)よりも先に受け継がれる。
このスキームはまずMNISTデータセット上で画像分類を行い、次に単純なスプライトベースの視覚的ゆがみパラダイムとハノイ塔(世界のブロック)問題を用いて、動的にモデルを発見するというより難しい問題について検証する。
これらの例では、生成モデルは自己双対的に構築され、潜在状態の因子構造とその特性経路またはダイナミクスを回復する(すなわち、不連続)。
関連論文リスト
- FiP: a Fixed-Point Approach for Causal Generative Modeling [20.88890689294816]
因果順序付き変数上の不動点問題を記述するのにDAGを必要としない新しい等価形式法を提案する。
トポロジカル秩序(TO)を考慮し,一意に回復できる3つの重要な症例を示す。
論文 参考訳(メタデータ) (2024-04-10T12:29:05Z) - Heat Death of Generative Models in Closed-Loop Learning [63.83608300361159]
本研究では、独自の学習データセットに加えて、生成したコンテンツをフィードバックする生成モデルの学習ダイナミクスについて検討する。
各イテレーションで十分な量の外部データが導入されない限り、非自明な温度がモデルを退化させることを示す。
論文 参考訳(メタデータ) (2024-04-02T21:51:39Z) - Initial Guessing Bias: How Untrained Networks Favor Some Classes [0.09103230894909536]
深層ニューラルネットワーク(DNN)の構造は、トレーニング開始前であっても、全ての予測を同じクラスに割り当てるようにモデルを条件付けることができることを示す。
この現象の存在は,データセット前処理手法を含むモデル選択の影響を受けていることを実証する。
ノード置換対称性の分解や自己回避の違反など理論的な結果を強調した。
論文 参考訳(メタデータ) (2023-06-01T15:37:32Z) - ChiroDiff: Modelling chirographic data with Diffusion Models [132.5223191478268]
チャーログラフィーデータのための強力なモデルクラスである「拡散確率モデル(Denoising Diffusion Probabilistic Models)」やDDPMを導入している。
我々のモデルは「ChiroDiff」と呼ばれ、非自己回帰的であり、全体論的概念を捉えることを学び、したがって高い時間的サンプリングレートに回復する。
論文 参考訳(メタデータ) (2023-04-07T15:17:48Z) - Robust Graph Representation Learning via Predictive Coding [46.22695915912123]
予測符号化は、当初脳の情報処理をモデル化するために開発されたメッセージパッシングフレームワークである。
本研究では,予測符号化のメッセージパス規則に依存するモデルを構築する。
提案したモデルは,帰納的タスクと帰納的タスクの両方において,標準的なモデルに匹敵する性能を示す。
論文 参考訳(メタデータ) (2022-12-09T03:58:22Z) - Robust Model Selection of Gaussian Graphical Models [16.933125281564163]
ノイズ崩壊サンプルは、グラフィカルモデル選択において重要な課題を示す。
本稿では,基礎となるグラフを同定されたあいまいさまで確実に復元するアルゴリズムを提案する。
この情報は、電力網、ソーシャルネットワーク、タンパク質とタンパク質の相互作用、神経構造など、現実世界の様々な問題に有用である。
論文 参考訳(メタデータ) (2022-11-10T16:50:50Z) - On the Generalization and Adaption Performance of Causal Models [99.64022680811281]
異なる因果発見は、データ生成プロセスを一連のモジュールに分解するために提案されている。
このようなモジュラニューラル因果モデルの一般化と適応性能について検討する。
我々の分析では、モジュラーニューラル因果モデルが、低データレギュレーションにおけるゼロおよび少数ショットの適応において、他のモデルよりも優れていることを示している。
論文 参考訳(メタデータ) (2022-06-09T17:12:32Z) - Amortized Inference for Causal Structure Learning [72.84105256353801]
因果構造を学習することは、通常、スコアまたは独立テストを使用して構造を評価することを伴う探索問題を引き起こす。
本研究では,観測・干渉データから因果構造を予測するため,変分推論モデルを訓練する。
我々のモデルは、実質的な分布シフトの下で頑健な一般化能力を示す。
論文 参考訳(メタデータ) (2022-05-25T17:37:08Z) - Goal-directed Generation of Discrete Structures with Conditional
Generative Models [85.51463588099556]
本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。
提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
論文 参考訳(メタデータ) (2020-10-05T20:03:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。