論文の概要: Symphony in the Latent Space: Provably Integrating High-dimensional
Techniques with Non-linear Machine Learning Models
- arxiv url: http://arxiv.org/abs/2212.00852v1
- Date: Thu, 1 Dec 2022 20:18:26 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-05 17:06:15.140582
- Title: Symphony in the Latent Space: Provably Integrating High-dimensional
Techniques with Non-linear Machine Learning Models
- Title（参考訳）: 潜在空間における交響曲--高次元技法と非線形機械学習モデルの統合
- Authors: Qiong Wu, Jian Li, Zhenming Liu, Yanhua Li, Mihai Cucuringu
- Abstract要約: 本稿では,エンティティ間のインタラクションを含む機械学習アルゴリズムの構築について検討する。
本研究では,高次元相互作用の学習を非線形特徴相互作用の学習から切り離すことが可能であることを示す。
- 参考スコア（独自算出の注目度）: 19.824998167546298
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper revisits building machine learning algorithms that involve
interactions between entities, such as those between financial assets in an
actively managed portfolio, or interactions between users in a social network.
Our goal is to forecast the future evolution of ensembles of multivariate time
series in such applications (e.g., the future return of a financial asset or
the future popularity of a Twitter account). Designing ML algorithms for such
systems requires addressing the challenges of high-dimensional interactions and
non-linearity. Existing approaches usually adopt an ad-hoc approach to
integrating high-dimensional techniques into non-linear models and recent
studies have shown these approaches have questionable efficacy in time-evolving
interacting systems.
To this end, we propose a novel framework, which we dub as the additive
influence model. Under our modeling assumption, we show that it is possible to
decouple the learning of high-dimensional interactions from the learning of
non-linear feature interactions. To learn the high-dimensional interactions, we
leverage kernel-based techniques, with provable guarantees, to embed the
entities in a low-dimensional latent space. To learn the non-linear
feature-response interactions, we generalize prominent machine learning
techniques, including designing a new statistically sound non-parametric method
and an ensemble learning algorithm optimized for vector regressions. Extensive
experiments on two common applications demonstrate that our new algorithms
deliver significantly stronger forecasting power compared to standard and
recently proposed methods.
- Abstract（参考訳）: 本稿では,アクティブに管理されたポートフォリオ内の金融資産間のインタラクションや,ソーシャルネットワーク内のユーザ間のインタラクションなど,エンティティ間のインタラクションを含む機械学習アルゴリズムの構築について検討する。
私たちの目標は、このようなアプリケーションにおける多変量時系列のアンサンブルの将来進化を予測することです(例えば、金融資産の将来的なリターンや、twitterアカウントの将来的な人気など)。
このようなシステムのためにMLアルゴリズムを設計するには、高次元の相互作用と非線形性の課題に対処する必要がある。
既存のアプローチは通常、高次元の手法を非線形モデルに統合するためのアドホックなアプローチを採用しており、近年の研究により、これらのアプローチは時間進化相互作用系において疑わしい有効性を示している。
そこで本研究では,付加的影響モデルとして提案する新しいフレームワークを提案する。
本研究では,高次元相互作用の学習を非線形特徴相互作用の学習から切り離すことが可能であることを示す。
高次元の相互作用を学習するために、証明可能な保証とともにカーネルベースの技術を活用し、低次元の潜在空間にエンティティを埋め込む。
非線形特徴応答相互作用を学ぶために,新しい統計的に健全な非パラメトリック法やベクトル回帰に最適化されたアンサンブル学習アルゴリズムを設計するなど,著名な機械学習手法を一般化する。
2つの一般的な応用に関する大規模な実験により、我々の新しいアルゴリズムは、標準および最近提案された手法と比較して、はるかに強力な予測能力を提供することを示した。
関連論文リスト
- Robustness Reprogramming for Representation Learning [18.466637575445024]
十分に訓練されたディープラーニングモデルを考えると、パラメータを変更することなく、対向的あるいはノイズの多い入力摂動に対する堅牢性を高めるために再プログラムできるだろうか?
本稿では,新しい非線形ロバストパターンマッチング手法を提案する。
論文 参考訳（メタデータ） (2024-10-06T18:19:02Z) - Model Merging in LLMs, MLLMs, and Beyond: Methods, Theories, Applications and Opportunities [89.40778301238642]
モデルマージは、機械学習コミュニティにおける効率的なエンパワーメント技術である。
これらの手法の体系的かつ徹底的なレビューに関する文献には大きなギャップがある。
論文 参考訳（メタデータ） (2024-08-14T16:58:48Z) - Dynamic and Adaptive Feature Generation with LLM [10.142660254703225]
本稿では,特徴生成プロセスの解釈可能性を高める動的かつ適応的な特徴生成手法を提案する。
弊社のアプローチは、さまざまなデータタイプやタスクに適用可能性を広げ、戦略的柔軟性よりも優位性を引き出す。
論文 参考訳（メタデータ） (2024-06-04T20:32:14Z) - Unified Explanations in Machine Learning Models: A Perturbation Approach [0.0]
XAIとモデリング技術の不整合は、これらの説明可能性アプローチの有効性に疑念を投げかけるという望ましくない効果をもたらす可能性がある。
我々はXAI, SHapley Additive exPlanations (Shap) において, 一般的なモデルに依存しない手法に対する系統的摂動解析を提案する。
我々は、一般的な機械学習とディープラーニングの手法のスイートと、静的ケースホールドで生成された説明の正確さを定量化するためのメトリクスの中で、動的推論の設定において、相対的な特徴重要度を生成するアルゴリズムを考案した。
論文 参考訳（メタデータ） (2024-05-30T16:04:35Z) - Multi-Agent Dynamic Relational Reasoning for Social Robot Navigation [50.01551945190676]
社会ロボットナビゲーションは、日常生活の様々な状況において有用であるが、安全な人間とロボットの相互作用と効率的な軌道計画が必要である。
本稿では, 動的に進化する関係構造を明示的に推論した系統的関係推論手法を提案する。
マルチエージェント軌道予測とソーシャルロボットナビゲーションの有効性を実証する。
論文 参考訳（メタデータ） (2024-01-22T18:58:22Z) - VIRT: Improving Representation-based Models for Text Matching through
Virtual Interaction [50.986371459817256]
本稿では,VIRT と呼ばれる新しいtextitVirtual InteRacTion 機構を提案する。
VIRTは、表現ベースのエンコーダに、対話ベースのモデルのように振舞いを模倣する仮想インタラクションを実行するよう要求する。
論文 参考訳（メタデータ） (2021-12-08T09:49:28Z) - Supervised DKRC with Images for Offline System Identification [77.34726150561087]
現代の力学系はますます非線形で複雑なものになりつつある。
予測と制御のためのコンパクトで包括的な表現でこれらのシステムをモデル化するフレームワークが必要である。
本手法は,教師付き学習手法を用いてこれらの基礎関数を学習する。
論文 参考訳（メタデータ） (2021-09-06T04:39:06Z) - Model-Based Deep Learning [155.063817656602]
信号処理、通信、制御は伝統的に古典的な統計モデリング技術に依存している。
ディープニューラルネットワーク(DNN)は、データから操作を学ぶ汎用アーキテクチャを使用し、優れたパフォーマンスを示す。
私たちは、原理数学モデルとデータ駆動システムを組み合わせて両方のアプローチの利点を享受するハイブリッド技術に興味があります。
論文 参考訳（メタデータ） (2020-12-15T16:29:49Z) - Human Trajectory Forecasting in Crowds: A Deep Learning Perspective [89.4600982169]
本稿では,既存の深層学習に基づくソーシャルインタラクションのモデル化手法について詳細に分析する。
本稿では、これらの社会的相互作用を効果的に捉えるための知識に基づく2つのデータ駆動手法を提案する。
我々は,人間の軌道予測分野において,重要かつ欠落したコンポーネントであるTrajNet++を大規模に開発する。
論文 参考訳（メタデータ） (2020-07-07T17:19:56Z) - Robust Unsupervised Learning of Temporal Dynamic Interactions [21.928675010305543]
本稿では,対話の堅牢な表現学習のためのProcrustes距離に基づくモデルフリーメトリックを提案する。
また、相互作用プリミティブの分布を比較するために、最適な輸送ベース距離メートル法も導入する。
安全パイロットデータベースから抽出した車車間相互作用の教師なし学習において,その有用性を示す。
論文 参考訳（メタデータ） (2020-06-18T02:39:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。