論文の概要: A kinetic-based regularization method for data science applications
- arxiv url: http://arxiv.org/abs/2503.04857v1
- Date: Thu, 06 Mar 2025 08:12:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-10 12:24:19.528908
- Title: A kinetic-based regularization method for data science applications
- Title(参考訳): データサイエンス応用のための速度論的正則化法
- Authors: Abhisek Ganguly, Alessandro Gabbana, Vybhav Rao, Sauro Succi, Santosh Ansumali,
- Abstract要約: 本稿では,統計力学にインスパイアされた関数学習のための物理に基づく正規化手法を提案する。
補間器のパラメータの最適化とシステムのエネルギーの最小化の類似性から,データ分布の低次モーメントに対する制約を導入する。
これにより、データの離散表現と連続表現の相違が最小化され、それによってより好ましいエネルギーランドスケープにアクセスできるようになる。
- 参考スコア(独自算出の注目度): 39.58317527488534
- License:
- Abstract: We propose a physics-based regularization technique for function learning, inspired by statistical mechanics. By drawing an analogy between optimizing the parameters of an interpolator and minimizing the energy of a system, we introduce corrections that impose constraints on the lower-order moments of the data distribution. This minimizes the discrepancy between the discrete and continuum representations of the data, in turn allowing to access more favorable energy landscapes, thus improving the accuracy of the interpolator. Our approach improves performance in both interpolation and regression tasks, even in high-dimensional spaces. Unlike traditional methods, it does not require empirical parameter tuning, making it particularly effective for handling noisy data. We also show that thanks to its local nature, the method offers computational and memory efficiency advantages over Radial Basis Function interpolators, especially for large datasets.
- Abstract(参考訳): 本稿では,統計力学にインスパイアされた関数学習のための物理に基づく正規化手法を提案する。
補間器のパラメータの最適化とシステムのエネルギーの最小化の類似性から,データ分布の低次モーメントに制約を課す補正を導入する。
これにより、データの離散表現と連続表現との差を最小限に抑え、それによってより好ましいエネルギーランドスケープにアクセスできるようになり、補間器の精度が向上する。
提案手法は,高次元空間においても補間タスクと回帰タスクの両方のパフォーマンスを向上させる。
従来の手法とは異なり、経験的なパラメータチューニングを必要としないため、ノイズの多いデータを扱うのに特に効果的である。
また、この手法は局所的な性質により、特に大規模データセットに対して、ラジアル基底関数補間器よりも計算効率とメモリ効率の優位性を提供することを示した。
関連論文リスト
- Optimal Transport-Based Displacement Interpolation with Data Augmentation for Reduced Order Modeling of Nonlinear Dynamical Systems [0.0]
本稿では,複雑なシステムにおける非線形力学の表現を強化するために,最適輸送理論と変位を利用した新しいリダクション・オーダー・モデル(ROM)を提案する。
複雑なシステム挙動の予測における精度と効率の向上を示し、計算物理学や工学における幅広い応用の可能性を示している。
論文 参考訳(メタデータ) (2024-11-13T16:29:33Z) - Efficient Trajectory Inference in Wasserstein Space Using Consecutive Averaging [3.8623569699070353]
軌道推論は、そのような観測から連続的な過程を再構築する挑戦を扱う。
ワッサーシュタイン空間に直交する連続平均化による点雲のB-スプライン近似法を提案する。
コンバージェンス保証を提供し、シミュレーションセルデータ上でテストすることで、我々の手法を厳格に評価する。
論文 参考訳(メタデータ) (2024-05-30T04:19:20Z) - Adaptive debiased SGD in high-dimensional GLMs with streaming data [4.704144189806667]
本稿では,高次元一般化線形モデルにおけるオンライン推論に対する新しいアプローチを提案する。
提案手法は単一パスモードで動作し,全データセットアクセスや大次元要約統計ストレージを必要とする既存手法とは異なる。
我々の方法論的革新の核心は、動的目的関数に適した適応的降下アルゴリズムと、新しいオンラインデバイアス処理である。
論文 参考訳(メタデータ) (2024-05-28T15:36:48Z) - Instance-Specific Asymmetric Sensitivity in Differential Privacy [2.855485723554975]
我々は指数的メカニズムを通して出力を選択するためのパラダイムを提供する以前の作業の上に構築する。
我々のフレームワークは、近接度メートル法をわずかに修正し、スパースベクトル技法の単純かつ効率的な応用を提供する。
論文 参考訳(メタデータ) (2023-11-02T05:01:45Z) - Boosting Inference Efficiency: Unleashing the Power of Parameter-Shared
Pre-trained Language Models [109.06052781040916]
本稿ではパラメータ共有言語モデルの推論効率を向上させる手法を提案する。
また、完全あるいは部分的に共有されたモデルにつながる単純な事前学習手法を提案する。
その結果,本手法が自己回帰的および自己符号化的PLMに与える影響が示された。
論文 参考訳(メタデータ) (2023-10-19T15:13:58Z) - Dynamic Kernel-Based Adaptive Spatial Aggregation for Learned Image
Compression [63.56922682378755]
本稿では,空間アグリゲーション機能の拡張に焦点をあて,動的カーネルベースの変換符号化を提案する。
提案したアダプティブアグリゲーションはカーネルオフセットを生成し、コンテント条件付き範囲の有効な情報をキャプチャして変換を支援する。
実験により,本手法は,最先端の学習手法と比較して,3つのベンチマークにおいて高い速度歪み性能が得られることを示した。
論文 参考訳(メタデータ) (2023-08-17T01:34:51Z) - FaDIn: Fast Discretized Inference for Hawkes Processes with General
Parametric Kernels [82.53569355337586]
この研究は、有限なサポートを持つ一般パラメトリックカーネルを用いた時間点プロセス推論の効率的な解を提供する。
脳磁図(MEG)により記録された脳信号からの刺激誘発パターンの発生をモデル化し,その有効性を評価する。
その結果,提案手法により,最先端技術よりもパターン遅延の推定精度が向上することが示唆された。
論文 参考訳(メタデータ) (2022-10-10T12:35:02Z) - Data-heterogeneity-aware Mixing for Decentralized Learning [63.83913592085953]
グラフの混合重みとノード間のデータ不均一性の関係に収束の依存性を特徴付ける。
グラフが現在の勾配を混合する能力を定量化する計量法を提案する。
そこで本研究では,パラメータを周期的かつ効率的に最適化する手法を提案する。
論文 参考訳(メタデータ) (2022-04-13T15:54:35Z) - ParK: Sound and Efficient Kernel Ridge Regression by Feature Space
Partitions [34.576469570537995]
本稿では,カーネルリッジ回帰のための大規模解法であるParKを紹介する。
提案手法では,分割とランダムなプロジェクションと繰り返し最適化を組み合わせることで,空間と時間の複雑さを低減できる。
論文 参考訳(メタデータ) (2021-06-23T08:24:36Z) - Fast Gravitational Approach for Rigid Point Set Registration with
Ordinary Differential Equations [79.71184760864507]
本稿では,FGA(Fast Gravitational Approach)と呼ばれる厳密な点集合アライメントのための物理に基づく新しい手法を紹介する。
FGAでは、ソースとターゲットの点集合は、シミュレーションされた重力場内を移動しながら、世界規模で多重リンクされた方法で相互作用する質量を持つ剛体粒子群として解釈される。
従来のアライメント手法では,新しいメソッドクラスには特徴がないことを示す。
論文 参考訳(メタデータ) (2020-09-28T15:05:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。