論文の概要: Symphony in the Latent Space: Provably Integrating High-dimensional
Techniques with Non-linear Machine Learning Models
- arxiv url: http://arxiv.org/abs/2212.00852v1
- Date: Thu, 1 Dec 2022 20:18:26 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-05 17:06:15.140582
- Title: Symphony in the Latent Space: Provably Integrating High-dimensional
Techniques with Non-linear Machine Learning Models
- Title(参考訳): 潜在空間における交響曲--高次元技法と非線形機械学習モデルの統合
- Authors: Qiong Wu, Jian Li, Zhenming Liu, Yanhua Li, Mihai Cucuringu
- Abstract要約: 本稿では,エンティティ間のインタラクションを含む機械学習アルゴリズムの構築について検討する。
本研究では,高次元相互作用の学習を非線形特徴相互作用の学習から切り離すことが可能であることを示す。
- 参考スコア(独自算出の注目度): 19.824998167546298
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper revisits building machine learning algorithms that involve
interactions between entities, such as those between financial assets in an
actively managed portfolio, or interactions between users in a social network.
Our goal is to forecast the future evolution of ensembles of multivariate time
series in such applications (e.g., the future return of a financial asset or
the future popularity of a Twitter account). Designing ML algorithms for such
systems requires addressing the challenges of high-dimensional interactions and
non-linearity. Existing approaches usually adopt an ad-hoc approach to
integrating high-dimensional techniques into non-linear models and recent
studies have shown these approaches have questionable efficacy in time-evolving
interacting systems.
To this end, we propose a novel framework, which we dub as the additive
influence model. Under our modeling assumption, we show that it is possible to
decouple the learning of high-dimensional interactions from the learning of
non-linear feature interactions. To learn the high-dimensional interactions, we
leverage kernel-based techniques, with provable guarantees, to embed the
entities in a low-dimensional latent space. To learn the non-linear
feature-response interactions, we generalize prominent machine learning
techniques, including designing a new statistically sound non-parametric method
and an ensemble learning algorithm optimized for vector regressions. Extensive
experiments on two common applications demonstrate that our new algorithms
deliver significantly stronger forecasting power compared to standard and
recently proposed methods.
- Abstract(参考訳): 本稿では,アクティブに管理されたポートフォリオ内の金融資産間のインタラクションや,ソーシャルネットワーク内のユーザ間のインタラクションなど,エンティティ間のインタラクションを含む機械学習アルゴリズムの構築について検討する。
私たちの目標は、このようなアプリケーションにおける多変量時系列のアンサンブルの将来進化を予測することです(例えば、金融資産の将来的なリターンや、twitterアカウントの将来的な人気など)。
このようなシステムのためにMLアルゴリズムを設計するには、高次元の相互作用と非線形性の課題に対処する必要がある。
既存のアプローチは通常、高次元の手法を非線形モデルに統合するためのアドホックなアプローチを採用しており、近年の研究により、これらのアプローチは時間進化相互作用系において疑わしい有効性を示している。
そこで本研究では,付加的影響モデルとして提案する新しいフレームワークを提案する。
本研究では,高次元相互作用の学習を非線形特徴相互作用の学習から切り離すことが可能であることを示す。
高次元の相互作用を学習するために、証明可能な保証とともにカーネルベースの技術を活用し、低次元の潜在空間にエンティティを埋め込む。
非線形特徴応答相互作用を学ぶために,新しい統計的に健全な非パラメトリック法やベクトル回帰に最適化されたアンサンブル学習アルゴリズムを設計するなど,著名な機械学習手法を一般化する。
2つの一般的な応用に関する大規模な実験により、我々の新しいアルゴリズムは、標準および最近提案された手法と比較して、はるかに強力な予測能力を提供することを示した。
関連論文リスト
- Multi-Agent Dynamic Relational Reasoning for Social Robot Navigation [55.65482030032804]
社会ロボットナビゲーションは、日常生活の様々な状況において有用であるが、安全な人間とロボットの相互作用と効率的な軌道計画が必要である。
本稿では, 動的に進化する関係構造を明示的に推論した系統的関係推論手法を提案する。
提案手法は,軌道予測器が将来の状態を生成するために使用する関係の進化を捉えるために,動的に進化する関係グラフとハイパーグラフを推論する。
論文 参考訳(メタデータ) (2024-01-22T18:58:22Z) - A Unified Model and Dimension for Interactive Estimation [20.39351301232109]
モデルにおける学習可能性を大きく捉えた異種性次元(dissimilarity dimension)という尺度を導入する。
このフレームワークは,統計的クエリ学習と構造化帯域幅の2つの古典的学習モデルを仮定し,統一することを示す。
論文 参考訳(メタデータ) (2023-06-09T18:21:04Z) - Smoothed Online Learning for Prediction in Piecewise Affine Systems [54.98643421343919]
本稿では,最近開発されたスムーズなオンライン学習フレームワークに基づく。
これは、断片的なアフィン系における予測とシミュレーションのための最初のアルゴリズムを提供する。
論文 参考訳(メタデータ) (2023-01-26T15:54:14Z) - VIRT: Improving Representation-based Models for Text Matching through
Virtual Interaction [50.986371459817256]
本稿では,VIRT と呼ばれる新しいtextitVirtual InteRacTion 機構を提案する。
VIRTは、表現ベースのエンコーダに、対話ベースのモデルのように振舞いを模倣する仮想インタラクションを実行するよう要求する。
論文 参考訳(メタデータ) (2021-12-08T09:49:28Z) - Supervised DKRC with Images for Offline System Identification [77.34726150561087]
現代の力学系はますます非線形で複雑なものになりつつある。
予測と制御のためのコンパクトで包括的な表現でこれらのシステムをモデル化するフレームワークが必要である。
本手法は,教師付き学習手法を用いてこれらの基礎関数を学習する。
論文 参考訳(メタデータ) (2021-09-06T04:39:06Z) - Hybrid Contrastive Learning of Tri-Modal Representation for Multimodal
Sentiment Analysis [18.4364234071951]
我々は,三モーダル表現のハイブリッドコントラスト学習のための新しいフレームワークHyConを提案する。
具体的には,モーダル内・モーダル内コントラスト学習と半コントラスト学習を同時に行う。
提案手法は既存の作業より優れている。
論文 参考訳(メタデータ) (2021-09-04T06:04:21Z) - Convolutions for Spatial Interaction Modeling [9.408751013132624]
自律走行車周辺におけるアクターの移動予測における空間相互作用モデリングの問題点について考察する。
我々は畳み込みを再検討し,低レイテンシで空間相互作用をモデル化する上で,グラフネットワークと同等のパフォーマンスを実証できることを示した。
論文 参考訳(メタデータ) (2021-04-15T00:41:30Z) - Model-Based Deep Learning [155.063817656602]
信号処理、通信、制御は伝統的に古典的な統計モデリング技術に依存している。
ディープニューラルネットワーク(DNN)は、データから操作を学ぶ汎用アーキテクチャを使用し、優れたパフォーマンスを示す。
私たちは、原理数学モデルとデータ駆動システムを組み合わせて両方のアプローチの利点を享受するハイブリッド技術に興味があります。
論文 参考訳(メタデータ) (2020-12-15T16:29:49Z) - Human Trajectory Forecasting in Crowds: A Deep Learning Perspective [89.4600982169]
本稿では,既存の深層学習に基づくソーシャルインタラクションのモデル化手法について詳細に分析する。
本稿では、これらの社会的相互作用を効果的に捉えるための知識に基づく2つのデータ駆動手法を提案する。
我々は,人間の軌道予測分野において,重要かつ欠落したコンポーネントであるTrajNet++を大規模に開発する。
論文 参考訳(メタデータ) (2020-07-07T17:19:56Z) - Robust Unsupervised Learning of Temporal Dynamic Interactions [21.928675010305543]
本稿では,対話の堅牢な表現学習のためのProcrustes距離に基づくモデルフリーメトリックを提案する。
また、相互作用プリミティブの分布を比較するために、最適な輸送ベース距離メートル法も導入する。
安全パイロットデータベースから抽出した車車間相互作用の教師なし学習において,その有用性を示す。
論文 参考訳(メタデータ) (2020-06-18T02:39:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。