論文の概要: Joint Embedding with Dynamic Integration network (JEDI-net)
- arxiv url: http://arxiv.org/abs/2610.17314v1
- Date: Mon, 12 Oct 2026 19:13:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.445215
- Title: Joint Embedding with Dynamic Integration network (JEDI-net)
- Title(参考訳): 動的統合ネットワーク(JEDI-net)を用いた共同埋め込み
- Abstract要約: 深い学習機能でさえ、観測されていない潜伏要因のために不規則に機能する可能性がある。
潜在因子情報を明示的に組み込むことで、モデルが振る舞いを変更することでパフォーマンスを向上させることができる。
JEDI-netは、最適化中にSHAP値を定期的にクラスタリングし、類似した特徴重要パターンを持つ潜在サブグループを特定する統一アーキテクチャである。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Deep learning has become the dominant form of machine learning due in part, to its ability to automatically engineer complex meta features from data. However, even deep learning features can perform erratically because of unobserved latent factors. incorporating latent factor information explicitly, can improve performance by letting the model alter its behavior based on such inferred factors. Because neural networks often capture such complexity inherently, external clustering of the original feature space offers limited benefit. clustering observations by feature importance profiles, rather than raw features, offers a principled way to uncover latent structure, since observations with similar importance patterns may share predictive dynamics. In a prior work, Feature Oriented Representation with Clustering and Explanation (FORCE) we showed that this approach measurably improved neural network performance. In this article, we present JEDI-net(Joint Embedding with Dynamic Integration Network) a unified architecture that periodically clusters SHAP values during optimization to identify latent subgroups with similar feature importance patterns, embed their identities directly into the network, allowing predictions to adapt to each observations predictive structure.
- Abstract(参考訳): ディープラーニングは、データから複雑なメタ機能を自動的に設計する能力によって、機械学習の主流となっている。
しかし、深い学習機能でさえ、観測されていない潜伏要因のために不規則に機能する可能性がある。
遅延因子情報を明示的に組み込むことで、モデルがそのような推定因子に基づいて振る舞いを変更することによって、パフォーマンスを向上させることができる。
ニューラルネットワークはしばしばそのような複雑さを本質的に捉えるため、元の特徴空間の外部クラスタリングは限られた利益をもたらす。
特徴重要プロファイルによるクラスタリング観測は、原特徴よりもむしろ、類似の重要パターンによる観測が予測力学を共有できるため、遅延構造を明らかにするための原則化された方法を提供する。
FORCE(Feature Oriented Representation with Clustering and Explanation)という前の研究で、このアプローチがニューラルネットワークのパフォーマンスを計測しやすく改善することを示した。
本稿では、JEDI-net(Joint Embedding with Dynamic Integration Network)について、最適化中にSHAP値を定期的にクラスタ化して、類似した特徴重要パターンを持つ潜在サブグループを特定し、それらのアイデンティティを直接ネットワークに埋め込んで、予測が各観測構造に適応できるようにする統一アーキテクチャを提案する。
関連論文リスト
- Dynamic Adaptive Parsing of Temporal and Cross-Variable Patterns for Network State Classification [9.007194066331452]
DAPNetはMixture-of-Expertsアーキテクチャに基づくフレームワークである。
DAPNetは、周期解析、動的相互変数相関モデリング、ハイブリッド時間特徴抽出の3つの専門ネットワークを統合している。
アーキテクチャ設計の一般化性は、10のパブリックなUEAベンチマークデータセットで評価される。
論文 参考訳(メタデータ) (2025-09-15T05:32:32Z) - FORCE: Feature-Oriented Representation with Clustering and Explanation [0.0]
SHAPに基づく教師付きディープラーニングフレームワークForceを提案する。
ニューラルネットワークアーキテクチャにおけるSHAP値の2段階の使用に依存している。
我々はForceが潜在機能とアテンションフレームワークを組み込まないネットワークと比較して、全体的なパフォーマンスを劇的に改善したことを示す。
論文 参考訳(メタデータ) (2025-04-07T22:05:50Z) - Global Convergence and Rich Feature Learning in $L$-Layer Infinite-Width Neural Networks under $μ$P Parametrization [66.03821840425539]
本稿では, テンソル勾配プログラム(SGD)フレームワークを用いた$L$層ニューラルネットワークのトレーニング力学について検討する。
SGDにより、これらのネットワークが初期値から大きく逸脱する線形独立な特徴を学習できることを示す。
このリッチな特徴空間は、関連するデータ情報をキャプチャし、トレーニングプロセスの収束点が世界最小であることを保証する。
論文 参考訳(メタデータ) (2025-03-12T17:33:13Z) - Regularization Through Simultaneous Learning: A Case Study on Plant
Classification [0.0]
本稿では,トランスファーラーニングとマルチタスクラーニングの原則に基づく正規化アプローチである同時学習を紹介する。
我々は、ターゲットデータセットであるUFOP-HVDの補助データセットを活用し、カスタマイズされた損失関数でガイドされた同時分類を容易にする。
興味深いことに,本手法は正規化のないモデルよりも優れた性能を示す。
論文 参考訳(メタデータ) (2023-05-22T19:44:57Z) - PredRNN: A Recurrent Neural Network for Spatiotemporal Predictive
Learning [109.84770951839289]
歴史的文脈からビジュアルダイナミクスを学習するための新しいリカレントネットワークであるPredRNNを紹介する。
本手法は,3つの標準データセット上で高い競争結果が得られることを示す。
論文 参考訳(メタデータ) (2021-03-17T08:28:30Z) - Variational Structured Attention Networks for Deep Visual Representation
Learning [49.80498066480928]
空間的注意マップとチャネル的注意の両方を原則的に共同学習するための統合的深層フレームワークを提案する。
具体的には,確率的表現学習フレームワークに注目度の推定と相互作用を統合する。
ニューラルネットワーク内で推論ルールを実装し,確率パラメータとcnnフロントエンドパラメータのエンドツーエンド学習を可能にする。
論文 参考訳(メタデータ) (2021-03-05T07:37:24Z) - A Trainable Optimal Transport Embedding for Feature Aggregation and its
Relationship to Attention [96.77554122595578]
固定サイズのパラメータ化表現を導入し、与えられた入力セットから、そのセットとトレーニング可能な参照の間の最適な輸送計画に従って要素を埋め込み、集約する。
我々のアプローチは大規模なデータセットにスケールし、参照のエンドツーエンドのトレーニングを可能にすると同時に、計算コストの少ない単純な教師なし学習メカニズムも提供する。
論文 参考訳(メタデータ) (2020-06-22T08:35:58Z) - Feature Interaction based Neural Network for Click-Through Rate
Prediction [5.095988654970358]
本稿では,3次元関係テンソルを用いて特徴相互作用をモデル化可能な特徴相互作用ベースニューラルネットワーク(FINN)を提案する。
我々のディープFINNモデルは、PNNやDeepFMのような最先端のディープモデルよりも優れていることを示す。
また、我々のモデルは、機能相互作用を効果的に学習し、実世界のデータセットでより良いパフォーマンスを達成することができることを示している。
論文 参考訳(メタデータ) (2020-06-07T03:53:24Z) - Investigating the Compositional Structure Of Deep Neural Networks [1.8899300124593645]
本稿では,一方向線形活性化関数の構成構造に基づく新しい理論的枠組みを提案する。
予測ラベルと予測に使用する特定の(線形)変換の両方に関して、入力データのインスタンスを特徴付けることができる。
MNISTデータセットの予備テストでは、ニューラルネットワークの内部表現における類似性に関して、入力インスタンスをグループ化することが可能である。
論文 参考訳(メタデータ) (2020-02-17T14:16:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。