論文の概要: Plastic tensor networks for interpretable generative modeling
- arxiv url: http://arxiv.org/abs/2504.06722v1
- Date: Wed, 09 Apr 2025 09:23:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-10 16:14:43.664157
- Title: Plastic tensor networks for interpretable generative modeling
- Title(参考訳): 解釈可能な生成モデルのための塑性テンソルネットワーク
- Authors: Katsuya O. Akamatsu, Kenji Harada, Tsuyoshi Okubo, Naoki Kawashima,
- Abstract要約: 対象確率分布をモデル化した単層非負適応テンソルツリー(NATT)を提案する。
NATTスキームと最近提案されたBorn Machine Adaptive Tenor Tree (BMATT) 最適化スキームについて検討し,その有効性を示す。
- 参考スコア(独自算出の注目度): 0.0874967598360817
- License:
- Abstract: A structural optimization scheme for a single-layer nonnegative adaptive tensor tree (NATT) that models a target probability distribution is proposed. The NATT scheme, by construction, has the advantage that it is interpretable as a probabilistic graphical model. We consider the NATT scheme and a recently proposed Born machine adaptive tensor tree (BMATT) optimization scheme and demonstrate their effectiveness on a variety of generative modeling tasks where the objective is to infer the hidden structure of a provided dataset. Our results show that in terms of minimizing the negative log-likelihood, the single-layer scheme has model performance comparable to the Born machine scheme, though not better. The tasks include deducing the structure of binary bitwise operations, learning the internal structure of random Bayesian networks given only visible sites, and a real-world example related to hierarchical clustering where a cladogram is constructed from mitochondrial DNA sequences. In doing so, we also show the importance of the choice of network topology and the versatility of a least-mutual information criterion in selecting a candidate structure for a tensor tree, as well as discuss aspects of these tensor tree generative models including their information content and interpretability.
- Abstract(参考訳): 対象確率分布をモデル化した単層非負適応テンソルツリー(NATT)の構造最適化手法を提案する。
NATTスキームは、構成上、確率的グラフィカルモデルとして解釈できるという利点がある。
NATTスキームと最近提案されたBorn Machine Adaptive Tenor Tree (BMATT) 最適化スキームを考察し,提案したデータセットの隠れ構造を推論する多種多様な生成モデリングタスクにおいて有効性を示す。
本結果から, 負の対数類似度を最小限に抑えるため, 単層方式はボルンマシン方式に匹敵するモデル性能を有するが, 性能は良くないことがわかった。
このタスクには、バイナリビットワイズ操作の構造の推論、可視部位のみを与えられたランダムベイズネットワークの内部構造学習、ミトコンドリアDNA配列からクラドグラムを構築する階層的クラスタリングに関する実世界の例が含まれる。
また,ネットワークトポロジの選択の重要性と,テンソルツリーの候補構造を選択する際の最小情報量規準の汎用性を示すとともに,情報内容や解釈可能性を含むテンソルツリー生成モデルの側面についても論じる。
関連論文リスト
- Structural Entropy Guided Probabilistic Coding [52.01765333755793]
構造エントロピー誘導型確率的符号化モデルSEPCを提案する。
我々は、構造エントロピー正規化損失を提案することにより、潜在変数間の関係を最適化に組み込む。
分類タスクと回帰タスクの両方を含む12の自然言語理解タスクに対する実験結果は、SEPCの優れた性能を示す。
論文 参考訳(メタデータ) (2024-12-12T00:37:53Z) - Learning local discrete features in explainable-by-design convolutional neural networks [0.0]
本稿では,側方抑制機構に基づくCNN(Design-by-Design Convolutional Neural Network)を提案する。
このモデルは、残留または高密度のスキップ接続を持つ高精度CNNである予測器で構成されている。
観測を収集し,直接確率を計算することにより,隣接するレベルのモチーフ間の因果関係を説明することができる。
論文 参考訳(メタデータ) (2024-10-31T18:39:41Z) - Tensor tree learns hidden relational structures in data to construct generative models [0.09558392439655014]
テンソル木で表される量子波動関数の振幅として対象分布関数を表現して生成モデルを構築するための一般的な方法を提案する。
i)ランダムパターン、(ii)QMNIST手書き桁、(iii)ベイジアンネットワーク、(iv)S&P500における株価変動パターンのパターンである。
論文 参考訳(メタデータ) (2024-08-20T09:11:38Z) - Semantic Loss Functions for Neuro-Symbolic Structured Prediction [74.18322585177832]
このような構造に関する知識を象徴的に定義した意味的損失をトレーニングに注入する。
記号の配置に非依存であり、それによって表現される意味論にのみ依存する。
識別型ニューラルモデルと生成型ニューラルモデルの両方と組み合わせることができる。
論文 参考訳(メタデータ) (2024-05-12T22:18:25Z) - Modeling Structure with Undirected Neural Networks [20.506232306308977]
任意の順序で実行できる計算を指定するためのフレキシブルなフレームワークである、非指向型ニューラルネットワークを提案する。
さまざまなタスクにおいて、非構造的かつ構造化された非指向型ニューラルアーキテクチャの有効性を実証する。
論文 参考訳(メタデータ) (2022-02-08T10:06:51Z) - Latent Network Embedding via Adversarial Auto-encoders [15.656374849760734]
本稿では,逆グラフ自動エンコーダに基づく潜在ネットワーク埋め込みモデルを提案する。
この枠組みの下では、潜伏構造を発見する問題は、部分的な観測から潜伏関係を推測するものとして定式化されている。
論文 参考訳(メタデータ) (2021-09-30T16:49:46Z) - Optimising for Interpretability: Convolutional Dynamic Alignment
Networks [108.83345790813445]
我々は、畳み込み動的アライメントネットワーク(CoDA Nets)と呼ばれる新しいニューラルネットワークモデルを紹介する。
彼らの中核となるビルディングブロックは動的アライメントユニット(DAU)であり、タスク関連パターンに合わせて動的に計算された重みベクトルで入力を変換するように最適化されている。
CoDAネットは一連の入力依存線形変換を通じて分類予測をモデル化し、出力を個々の入力コントリビューションに線形分解することができる。
論文 参考訳(メタデータ) (2021-09-27T12:39:46Z) - Interpreting Graph Neural Networks for NLP With Differentiable Edge
Masking [63.49779304362376]
グラフニューラルネットワーク(GNN)は、構造的帰納バイアスをNLPモデルに統合する一般的なアプローチとなっている。
本稿では,不要なエッジを識別するGNNの予測を解釈するポストホック手法を提案する。
モデルの性能を劣化させることなく,多数のエッジを落とせることを示す。
論文 参考訳(メタデータ) (2020-10-01T17:51:19Z) - Tractably Modelling Dependence in Networks Beyond Exchangeability [0.0]
本研究では, ネットワークの推定, クラスタリング, 次数挙動について検討する。
このことは、一般的には交換不能なネットワークデータをブロックモデルで記述できる理由と方法を探る。
論文 参考訳(メタデータ) (2020-07-28T17:13:59Z) - Pre-Trained Models for Heterogeneous Information Networks [57.78194356302626]
異種情報ネットワークの特徴を捉えるための自己教師付き事前学習・微調整フレームワークPF-HINを提案する。
PF-HINは4つのデータセットにおいて、各タスクにおける最先端の代替よりも一貫して、大幅に優れています。
論文 参考訳(メタデータ) (2020-07-07T03:36:28Z) - Supervised Learning for Non-Sequential Data: A Canonical Polyadic
Decomposition Approach [85.12934750565971]
特徴相互作用の効率的なモデリングは、非順序的タスクに対する教師あり学習の基盤となる。
この問題を緩和するため、モデルパラメータをテンソルとして暗黙的に表現することが提案されている。
表現性を向上するため,任意の高次元特徴ベクトルに特徴写像を適用できるようにフレームワークを一般化する。
論文 参考訳(メタデータ) (2020-01-27T22:38:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。