論文の概要: Tensor Polynomial Additive Model

• arxiv url: http://arxiv.org/abs/2406.02980v1
• Date: Wed, 5 Jun 2024 06:23:11 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-06 19:49:25.077699
• Title: Tensor Polynomial Additive Model
• Title（参考訳）: テンソルポリノミアル付加モデル
• Authors: Yang Chen, Ce Zhu, Jiani Liu, Yipeng Liu,
• Abstract要約: TPAMは、加法モデルの固有の解釈可能性、透明な意思決定、意味のある特徴値の抽出を保存している。 精度を最大30%向上し、圧縮速度を最大5倍向上させ、良好な解釈性を維持することができる。
• 参考スコア（独自算出の注目度）: 40.30621617188693
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Additive models can be used for interpretable machine learning for their clarity and simplicity. However, In the classical models for high-order data, the vectorization operation disrupts the data structure, which may lead to degenerated accuracy and increased computational complexity. To deal with these problems, we propose the tensor polynomial addition model (TPAM). It retains the multidimensional structure information of high-order inputs with tensor representation. The model parameter compression is achieved using a hierarchical and low-order symmetric tensor approximation. In this way, complex high-order feature interactions can be captured with fewer parameters. Moreover, The TPAM preserves the inherent interpretability of additive models, facilitating transparent decision-making and the extraction of meaningful feature values. Additionally, leveraging TPAM's transparency and ability to handle higher-order features, it is used as a post-processing module for other interpretation models by introducing two variants for class activation maps. Experimental results on a series of datasets demonstrate that TPAM can enhance accuracy by up to 30\%, and compression rate by up to 5 times, while maintaining a good interpretability.
• Abstract（参考訳）: 追加モデルは、その明快さと単純さのために解釈可能な機械学習に使用できる。 しかし、高次データに対する古典的なモデルでは、ベクトル化演算がデータ構造を乱すため、精度が劣化し、計算複雑性が増大する可能性がある。 これらの問題に対処するために,テンソル多項式加算モデル(TPAM)を提案する。 テンソル表現を持つ高次入力の多次元構造情報を保持する。 モデルパラメータ圧縮は階層的および低次対称テンソル近似を用いて達成される。 このように、複雑な高次特徴相互作用を少ないパラメータで捉えることができる。 さらに、TPAMは、加法モデルの固有の解釈可能性を保持し、透過的な意思決定と意味のある特徴値の抽出を容易にする。 さらに、TPAMの透明性と高次機能を扱う能力を活用し、クラスアクティベーションマップ用の2つの変種を導入することで、他の解釈モデルの後処理モジュールとして使用される。 一連のデータセットによる実験結果から,TPAMは精度を最大30%向上し,圧縮速度を最大5倍向上し,良好な解釈性を維持した。

関連論文リスト

• Exploring Beyond Logits: Hierarchical Dynamic Labeling Based on Embeddings for Semi-Supervised Classification [49.09505771145326]
  モデル予測に依存しない階層型動的ラベル付け(HDL)アルゴリズムを提案し,画像埋め込みを用いてサンプルラベルを生成する。 本手法は,半教師付き学習における擬似ラベル生成のパラダイムを変える可能性がある。
  論文  参考訳（メタデータ） (2024-04-26T06:00:27Z)
• Quantized Fourier and Polynomial Features for more Expressive Tensor Network Models [9.18287948559108]
  モデル重みを過度にパラメータ化されたテンソルネットワークに制約することで,特徴量に存在するテンソル構造を利用する。 同じ数のモデルパラメータに対して、結果の量子化モデルは、その非量子化モデルとは対照的に、VC次元に高いバウンドを持つことを示す。
  論文  参考訳（メタデータ） (2023-09-11T13:18:19Z)
• Scaling Pre-trained Language Models to Deeper via Parameter-efficient Architecture [68.13678918660872]
  行列積演算子(MPO)に基づくより有能なパラメータ共有アーキテクチャを設計する。 MPO分解はパラメータ行列の情報を再編成し、2つの部分に分解することができる。 私たちのアーキテクチャは、モデルのサイズを減らすために、すべてのレイヤで中央テンソルを共有しています。
  論文  参考訳（メタデータ） (2023-03-27T02:34:09Z)
• Additive Gaussian Processes Revisited [13.158344774468413]
  加法構造を持つフレキシブルな非パラメトリックGPモデルを提案する。 我々は,OAKモデルがブラックボックスモデルと同じような,あるいはより良い予測性能を実現することを示す。 少数の加法的低次元項だけで、OAKモデルがブラックボックスモデルと比較して類似またはより良い予測性能を達成することを実証する。
  論文  参考訳（メタデータ） (2022-06-20T15:52:59Z)
• Adversarial Audio Synthesis with Complex-valued Polynomial Networks [60.231877895663956]
  音声における時間周波数(TF)表現は、実数値ネットワークとしてますますモデル化されている。 我々は,このような複雑な数値表現を自然な方法で統合するAPOLLOと呼ばれる複雑な数値ネットワークを導入する。 APOLLOは、音声生成におけるSC09の最先端拡散モデルよりも17.5%$改善され、8.2%ドルとなる。
  論文  参考訳（メタデータ） (2022-06-14T12:58:59Z)
• Dynamically-Scaled Deep Canonical Correlation Analysis [77.34726150561087]
  カノニカル相関解析 (CCA) は, 2つのビューの特徴抽出手法である。 本稿では,入力依存の正準相関モデルをトレーニングするための新しい動的スケーリング手法を提案する。
  論文  参考訳（メタデータ） (2022-03-23T12:52:49Z)
• The Deep Generative Decoder: MAP estimation of representations improves modeling of single-cell RNA data [0.0]
  モデルパラメータと表現を直接最大後部推定(MAP)により計算する単純な生成モデルを提案する。 このアプローチの利点は、その単純さと、同等のVAEよりもはるかに小さな次元の表現を提供する能力である。
  論文  参考訳（メタデータ） (2021-10-13T12:17:46Z)
• Supervised Learning for Non-Sequential Data: A Canonical Polyadic Decomposition Approach [85.12934750565971]
  特徴相互作用の効率的なモデリングは、非順序的タスクに対する教師あり学習の基盤となる。 この問題を緩和するため、モデルパラメータをテンソルとして暗黙的に表現することが提案されている。 表現性を向上するため,任意の高次元特徴ベクトルに特徴写像を適用できるようにフレームワークを一般化する。
  論文  参考訳（メタデータ） (2020-01-27T22:38:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。