論文の概要: Sequential Regression Learning with Randomized Algorithms
- arxiv url: http://arxiv.org/abs/2507.03759v1
- Date: Fri, 04 Jul 2025 18:14:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-08 15:46:34.864841
- Title: Sequential Regression Learning with Randomized Algorithms
- Title(参考訳): ランダム化アルゴリズムを用いた逐次回帰学習
- Authors: Dorival Leão, Reiko Aoki, Teh Led Red,
- Abstract要約: 本稿では,動的データを対象とした逐次機械学習アルゴリズムであるランダム化SINDyを提案する。
確率論的アプローチを採用し、そのPAC学習特性は関数解析の数学的理論を通じて厳密に証明されている。
このアルゴリズムの有効性は、実世界のデータを用いた回帰と二項分類の実験結果によって実証される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper presents ``randomized SINDy", a sequential machine learning algorithm designed for dynamic data that has a time-dependent structure. It employs a probabilistic approach, with its PAC learning property rigorously proven through the mathematical theory of functional analysis. The algorithm dynamically predicts using a learned probability distribution of predictors, updating weights via gradient descent and a proximal algorithm to maintain a valid probability density. Inspired by SINDy (Brunton et al. 2016), it incorporates feature augmentation and Tikhonov regularization. For multivariate normal weights, the proximal step is omitted to focus on parameter estimation. The algorithm's effectiveness is demonstrated through experimental results in regression and binary classification using real-world data.
- Abstract(参考訳): 本稿では,時間依存構造を持つ動的データを対象とした逐次機械学習アルゴリズムである「ランダム化SINDy」を提案する。
確率論的アプローチを採用し、そのPAC学習特性は関数解析の数学的理論を通じて厳密に証明されている。
アルゴリズムは、予測器の学習した確率分布を用いて動的に予測し、勾配降下による重みを更新し、近似アルゴリズムにより有効な確率密度を維持する。
SINDy (Brunton et al 2016)にインスパイアされた同社は、機能拡張とTikhonov正規化を取り入れている。
多変量正規重量の場合、近位ステップはパラメータ推定に焦点を合わせるために省略される。
このアルゴリズムの有効性は、実世界のデータを用いた回帰と二項分類の実験結果によって実証される。
関連論文リスト
- Discrete Markov Probabilistic Models [8.206838934494513]
離散マルコフ確率モデル(DMPM)は離散データ生成のための新しいアルゴリズムである。
時間反転過程の強度は古典的なスコア関数の離散的なアナログによって制御される。
この研究は理論の基礎と実践的応用を橋渡しし、効果的で理論的に基礎付けられた離散生成モデリングの開発を進めた。
論文 参考訳(メタデータ) (2025-02-11T20:36:23Z) - Finite-Sample Bounds for Adaptive Inverse Reinforcement Learning using Passive Langevin Dynamics [13.440621354486906]
本稿では,受動勾配ランゲヴィンダイナミクス(PSGLD)アルゴリズムの有限サンプル解析を行う。
Adaptive IRLは、勾配アルゴリズムを実行する前方学習者のコスト関数を推定することを目的としている。
論文 参考訳(メタデータ) (2023-04-18T16:39:51Z) - Learning to Bound Counterfactual Inference in Structural Causal Models
from Observational and Randomised Data [64.96984404868411]
我々は、従来のEMベースのアルゴリズムを拡張するための全体的なデータの特徴付けを導出する。
新しいアルゴリズムは、そのような混合データソースからモデルパラメータの(不特定性)領域を近似することを学ぶ。
反実的な結果に間隔近似を与え、それが特定可能な場合の点に崩壊する。
論文 参考訳(メタデータ) (2022-12-06T12:42:11Z) - Scalable computation of prediction intervals for neural networks via
matrix sketching [79.44177623781043]
既存の不確実性推定アルゴリズムでは、モデルアーキテクチャとトレーニング手順を変更する必要がある。
本研究では、与えられたトレーニングされたニューラルネットワークに適用し、近似予測間隔を生成できる新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-05-06T13:18:31Z) - Scaling Structured Inference with Randomization [64.18063627155128]
本稿では、構造化されたモデルを数万の潜在状態に拡張するためにランダム化された動的プログラミング(RDP)のファミリを提案する。
我々の手法は古典的DPベースの推論に広く適用できる。
また、自動微分とも互換性があり、ニューラルネットワークとシームレスに統合できる。
論文 参考訳(メタデータ) (2021-12-07T11:26:41Z) - Fractal Structure and Generalization Properties of Stochastic
Optimization Algorithms [71.62575565990502]
最適化アルゴリズムの一般化誤差は、その一般化尺度の根底にあるフラクタル構造の複雑性'にバウンドできることを示す。
さらに、特定の問題(リニア/ロジスティックレグレッション、隠れ/層ニューラルネットワークなど)とアルゴリズムに対して、結果をさらに専門化します。
論文 参考訳(メタデータ) (2021-06-09T08:05:36Z) - Estimating leverage scores via rank revealing methods and randomization [50.591267188664666]
任意のランクの正方形密度あるいはスパース行列の統計レバレッジスコアを推定するアルゴリズムについて検討した。
提案手法は,高密度およびスパースなランダム化次元性還元変換の合成と階調明細化法を組み合わせることに基づく。
論文 参考訳(メタデータ) (2021-05-23T19:21:55Z) - Expectation propagation on the diluted Bayesian classifier [0.0]
本稿では,二項分類の文脈におけるスパース特徴選択の問題に対処する統計力学にインスパイアされた戦略を導入する。
予測伝搬(EP)として知られる計算スキームは、分類規則を学習する連続重みの知覚を訓練するために用いられる。
EPは、変数選択特性、推定精度、計算複雑性の点で頑健で競争力のあるアルゴリズムである。
論文 参考訳(メタデータ) (2020-09-20T23:59:44Z) - Multiplicative noise and heavy tails in stochastic optimization [62.993432503309485]
経験的最適化は現代の機械学習の中心であるが、その成功における役割はまだ不明である。
分散による離散乗法雑音のパラメータによく現れることを示す。
最新のステップサイズやデータを含む重要な要素について、詳細な分析を行い、いずれも最先端のニューラルネットワークモデルで同様の結果を示す。
論文 参考訳(メタデータ) (2020-06-11T09:58:01Z) - Gaussian Process Boosting [13.162429430481982]
ガウス過程と混合効果モデルを組み合わせた新しい手法を提案する。
シミュレーションおよび実世界のデータセットに対する既存手法と比較して予測精度が向上する。
論文 参考訳(メタデータ) (2020-04-06T13:19:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。