論文の概要: Scalable Signature-Based Distribution Regression via Reference Sets

• arxiv url: http://arxiv.org/abs/2410.09196v1
• Date: Fri, 11 Oct 2024 18:58:28 GMT
• ステータス: 処理完了
• システム内更新日: 2024-10-30 15:53:25.695537
• Title: Scalable Signature-Based Distribution Regression via Reference Sets
• Title（参考訳）: 参照集合によるスケーラブルなシグナチャベース分布回帰
• Authors: Andrew Alden, Carmine Ventre, Blanka Horvath,
• Abstract要約: パスシグネチャは、シグネチャベースの機能を通じてパスに符号化された情報を活用するために使用される。 アートDRソリューションの現在の状態は、メモリ集約的で、高コストである。 この計算ボトルネックは、アプリケーションを小さなサンプルサイズに制限する。 本稿では,上記の問題に対処する手法を提案する。 また,多様な学習タスクにDRを使用できるパイプラインを提案する。
• 参考スコア（独自算出の注目度）: 1.8980236415886387
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Distribution Regression (DR) on stochastic processes describes the learning task of regression on collections of time series. Path signatures, a technique prevalent in stochastic analysis, have been used to solve the DR problem. Recent works have demonstrated the ability of such solutions to leverage the information encoded in paths via signature-based features. However, current state of the art DR solutions are memory intensive and incur a high computation cost. This leads to a trade-off between path length and the number of paths considered. This computational bottleneck limits the application to small sample sizes which consequently introduces estimation uncertainty. In this paper, we present a methodology for addressing the above issues; resolving estimation uncertainties whilst also proposing a pipeline that enables us to use DR for a wide variety of learning tasks. Integral to our approach is our novel distance approximator. This allows us to seamlessly apply our methodology across different application domains, sampling rates, and stochastic process dimensions. We show that our model performs well in applications related to estimation theory, quantitative finance, and physical sciences. We demonstrate that our model generalises well, not only to unseen data within a given distribution, but also under unseen regimes (unseen classes of stochastic models).
• Abstract（参考訳）: 確率過程における分布回帰(DR)は時系列の集合における回帰の学習タスクを記述する。 確率解析で一般的なパスシグネチャは、DR問題を解くために使われてきた。 近年の研究では、シグネチャベースの機能を通じて、経路に符号化された情報を活用できることが実証されている。 しかし、現在の最先端のDRソリューションはメモリ集約的で計算コストが高い。 これは、経路の長さと考慮される経路の数の間のトレードオフにつながる。 この計算ボトルネックは、アプリケーションを小さなサンプルサイズに制限し、その結果、推定の不確実性をもたらす。 本稿では,これらの課題に対処するための方法論を提案する。また,様々な学習タスクにDRを使用できるパイプラインを提案しながら,推定の不確実性を解消する。 我々のアプローチと一体化しているのは、我々の新しい距離近似器である。 これにより、さまざまなアプリケーションドメイン、サンプリングレート、確率的プロセスディメンションに対して、シームレスに方法論を適用することができます。 本モデルは,推定理論,定量的ファイナンス,物理科学などの応用において良好に機能することを示す。 我々のモデルは、与えられた分布内では見つからないデータだけでなく、目に見えないレジーム(確率モデルの目に見えないクラス)の下でもうまく一般化することを示した。

関連論文リスト

• Truncating Trajectories in Monte Carlo Policy Evaluation: an Adaptive Approach [51.76826149868971]
  モンテカルロシミュレーションによる政策評価は多くのMC強化学習(RL)アルゴリズムの中核にある。 本研究では,異なる長さの軌跡を用いた回帰推定器の平均二乗誤差のサロゲートとして品質指標を提案する。 本稿では,Robust and Iterative Data Collection Strategy Optimization (RIDO) という適応アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-10-17T11:47:56Z)
• DistPred: A Distribution-Free Probabilistic Inference Method for Regression and Forecasting [14.390842560217743]
  本稿では、回帰予測タスクのためのDistPredという新しい手法を提案する。 予測分布と対象分布の差分を測定するための適切なスコアリングルールを、微分可能な離散形式に変換する。 これにより、モデルは単一のフォワードパスで多数のサンプルをサンプリングし、応答変数の潜在的分布を推定することができる。
  論文  参考訳（メタデータ） (2024-06-17T10:33:00Z)
• Resampling Stochastic Gradient Descent Cheaply for Efficient Uncertainty Quantification [6.832893024035705]
  本稿では,SGDソリューションの信頼性区間を構築するために,計算的に安価に再サンプリングする2つの手法について検討する。 データのリサンプリングと置換によって複数のSGDを並行して使用するものもあれば、オンライン形式で運用するものもある。
  論文  参考訳（メタデータ） (2023-10-17T08:18:10Z)
• Amortizing intractable inference in large language models [56.92471123778389]
  難治性後部分布のサンプルとして, 償却ベイズ推定を用いる。 我々は,LLMファインチューニングの分散マッチングパラダイムが,最大習熟の代替となることを実証的に実証した。 重要な応用として、チェーン・オブ・ソート推論を潜在変数モデリング問題として解釈する。
  論文  参考訳（メタデータ） (2023-10-06T16:36:08Z)
• DBsurf: A Discrepancy Based Method for Discrete Stochastic Gradient Estimation [2.89784213091656]
  離散分布の強化型推定器DBsurfを紹介する。 サンプルと実際の分布との差を低減するために、新しいサンプリング手順を使用する。 DBsurfは、ベンチマークの文献で一般的に使用される最小二乗問題において、最も低い分散が得られる。
  論文  参考訳（メタデータ） (2023-09-07T19:15:40Z)
• A deep learning approach to the probabilistic numerical solution of path-dependent partial differential equations [1.09650651784511]
  PPDEの解は確率的表現によって近似することができ、回帰を用いた条件予測の推定によって文献に実装されている。 我々は,この制限をディープラーニング手法を用いて克服し,条件付き期待値の近似に対する誤差境界の導出を可能にすることを示す。 他のディープラーニングアプローチと比較して、我々のアルゴリズムは、特に大きな次元において、より正確であるように見える。
  論文  参考訳（メタデータ） (2022-09-28T14:34:58Z)
• Deep Equilibrium Optical Flow Estimation [80.80992684796566]
  最近のSOTA(State-of-the-art)光フローモデルでは、従来のアルゴリズムをエミュレートするために有限ステップの更新操作を使用する。 これらのRNNは大きな計算とメモリオーバーヘッドを課し、そのような安定した推定をモデル化するために直接訓練されていない。 暗黙的層の無限レベル固定点として直接流れを解く手法として,Deep equilibrium Flow estimatorを提案する。
  論文  参考訳（メタデータ） (2022-04-18T17:53:44Z)
• Scaling Structured Inference with Randomization [64.18063627155128]
  本稿では、構造化されたモデルを数万の潜在状態に拡張するためにランダム化された動的プログラミング(RDP)のファミリを提案する。 我々の手法は古典的DPベースの推論に広く適用できる。 また、自動微分とも互換性があり、ニューラルネットワークとシームレスに統合できる。
  論文  参考訳（メタデータ） (2021-12-07T11:26:41Z)
• Attentional-Biased Stochastic Gradient Descent [74.49926199036481]
  深層学習におけるデータ不均衡やラベルノイズ問題に対処するための証明可能な手法(ABSGD)を提案する。 本手法は運動量SGDの簡易な修正であり,各試料に個別の重み付けを行う。 ABSGDは追加コストなしで他の堅牢な損失と組み合わせられるほど柔軟である。
  論文  参考訳（メタデータ） (2020-12-13T03:41:52Z)
• Modern Multiple Imputation with Functional Data [6.624726878647541]
  本研究は, 関数モデルにスパースかつ不規則に標本化された関数データを適用することの問題点を考察する。 これは、より複雑な非線形モデルの適合において大きな課題に直面している最先端の手法の限界を克服する。
  論文  参考訳（メタデータ） (2020-11-25T04:22:30Z)
• A Kernel-Based Approach to Non-Stationary Reinforcement Learning in Metric Spaces [53.47210316424326]
  KeRNSは、非定常マルコフ決定過程におけるエピソード強化学習のためのアルゴリズムである。 我々は、状態-作用空間の被覆次元と時間とともにMDPの総変動にスケールする後悔境界を証明した。
  論文  参考訳（メタデータ） (2020-07-09T21:37:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。