Fugu-MT 論文翻訳(概要): Stochastic Natural Thresholding Algorithms

論文の概要: Stochastic Natural Thresholding Algorithms

arxiv url: http://arxiv.org/abs/2306.04730v1
Date: Wed, 7 Jun 2023 18:49:19 GMT
ステータス: 処理完了
システム内更新日: 2023-06-09 18:04:02.835672
Title: Stochastic Natural Thresholding Algorithms
Title（参考訳）: 確率的自然閾値アルゴリズム
Authors: Rachel Grotheer, Shuang Li, Anna Ma, Deanna Needell, and Jing Qin
Abstract要約: 計算効率を向上したNatural Thresholding (NT) が提案されている。本稿では,線形測度を用いて決定性版を拡張することにより,自然しきい値決定アルゴリズムの収束保証を提案する。
参考スコア（独自算出の注目度）: 18.131412357510158
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Sparse signal recovery is one of the most fundamental problems in various applications, including medical imaging and remote sensing. Many greedy algorithms based on the family of hard thresholding operators have been developed to solve the sparse signal recovery problem. More recently, Natural Thresholding (NT) has been proposed with improved computational efficiency. This paper proposes and discusses convergence guarantees for stochastic natural thresholding algorithms by extending the NT from the deterministic version with linear measurements to the stochastic version with a general objective function. We also conduct various numerical experiments on linear and nonlinear measurements to demonstrate the performance of StoNT.
Abstract（参考訳）: スパース信号の回復は、医療画像やリモートセンシングなど、様々な応用における最も基本的な問題の1つである。シャープ信号回復問題を解くために、ハードしきい値演算子の族に基づく多くのグリーディアルゴリズムを開発した。最近では、計算効率を向上したNatural Thresholding (NT) が提案されている。本稿では,線形測度で決定論的バージョンから一般目的関数で確率的バージョンまでNTを拡張することにより,確率的自然しきい値アルゴリズムの収束保証を提案する。また,santの性能を示すために,線形および非線形測定に関する様々な数値実験を行った。

関連論文リスト

Automated Design of Linear Bounding Functions for Sigmoidal Nonlinearities in Neural Networks [23.01933325606068]
既存の完全検証技術は、すべての堅牢性クエリに対して証明可能な保証を提供するが、小さなニューラルネットワークを超えてスケールするのに苦労する。本稿では,これらの線形近似の品質向上のためのパラメータ探索手法を提案する。具体的には、最先端のアルゴリズム構成手法によって与えられた検証問題に慎重に適応する単純な探索手法を用いることで、最先端技術よりも平均で25%のグローバルローバウンドを向上することを示す。
論文参考訳（メタデータ） (2024-06-14T16:16:26Z)
Precise asymptotics of reweighted least-squares algorithms for linear diagonal networks [15.074950361970194]
我々は、IRLS、最近提案されたリンリン-RFMアルゴリズム、交互対角ニューラルネットワークを含むアルゴリズム群を統一的に分析する。適切に選択された再重み付けポリシーにより、少数のスパース構造が良好な性能が得られることを示す。また、これを再重み付け方式で活用することで、座標ワイド再重み付けよりもテスト誤差が良好に向上することを示す。
論文参考訳（メタデータ） (2024-06-04T20:37:17Z)
Embedding Trajectory for Out-of-Distribution Detection in Mathematical Reasoning [50.84938730450622]
数理推論におけるOOD検出にトラジェクトリボラティリティを用いたトラジェクトリベースのTVスコアを提案する。本手法は, 数学的推論シナリオ下でのGLM上での従来のアルゴリズムよりも優れる。提案手法は,複数選択質問などの出力空間における高密度特徴を持つアプリケーションに拡張することができる。
論文参考訳（メタデータ） (2024-05-22T22:22:25Z)
Bagged Regularized $k$-Distances for Anomaly Detection [9.899763598214122]
BRDAD (Bagged regularized $k$-distances for Anomaly Detection) と呼ばれる距離に基づく新しいアルゴリズムを提案する。我々のBRDADアルゴリズムは、重み付けされた密度推定のための$k$-distances(BWDDE)の実証的リスクの有限標本境界を最小化して重みを選択する。理論的には,我々のアルゴリズムに対するAUCの高速収束率を確立し,バッグング手法が計算複雑性を著しく減少させることを示す。
論文参考訳（メタデータ） (2023-12-02T07:00:46Z)
Optimal Algorithms for the Inhomogeneous Spiked Wigner Model [89.1371983413931]
不均一な問題に対する近似メッセージパッシングアルゴリズム(AMP)を導出する。特に,情報理論の閾値よりも大きい信号と雑音の比を必要とする既知のアルゴリズムが,ランダムよりも優れた処理を行うための統計的・計算的ギャップの存在を同定する。
論文参考訳（メタデータ） (2023-02-13T19:57:17Z)
Robust lEarned Shrinkage-Thresholding (REST): Robust unrolling for sparse recover [87.28082715343896]
我々は、モデルミス特定を前進させるのに堅牢な逆問題を解決するためのディープニューラルネットワークについて検討する。我々は,アルゴリズムの展開手法を根底にある回復問題のロバストバージョンに適用することにより,新しい堅牢なディープニューラルネットワークアーキテクチャを設計する。提案したRESTネットワークは,圧縮センシングとレーダイメージングの両問題において,最先端のモデルベースおよびデータ駆動アルゴリズムを上回る性能を示す。
論文参考訳（メタデータ） (2021-10-20T06:15:45Z)
Identification and Adaptation with Binary-Valued Observations under Non-Persistent Excitation Condition [1.6897716547971817]
2値観測による回帰モデルのパラメータ推定のためのオンライン予測準ニュートン型アルゴリズムを提案する。推定アルゴリズムの強い整合性を確立し,収束率を与える。適応予測器の収束と適応制御への応用についても論じる。
論文参考訳（メタデータ） (2021-07-08T03:57:50Z)
Fractal Structure and Generalization Properties of Stochastic Optimization Algorithms [71.62575565990502]
最適化アルゴリズムの一般化誤差は、その一般化尺度の根底にあるフラクタル構造の複雑性'にバウンドできることを示す。さらに、特定の問題(リニア/ロジスティックレグレッション、隠れ/層ニューラルネットワークなど)とアルゴリズムに対して、結果をさらに専門化します。
論文参考訳（メタデータ） (2021-06-09T08:05:36Z)
Activation Relaxation: A Local Dynamical Approximation to Backpropagation in the Brain [62.997667081978825]
活性化緩和(AR)は、バックプロパゲーション勾配を力学系の平衡点として構成することで動機付けられる。我々のアルゴリズムは、正しいバックプロパゲーション勾配に迅速かつ堅牢に収束し、単一のタイプの計算単位しか必要とせず、任意の計算グラフで操作できる。
論文参考訳（メタデータ） (2020-09-11T11:56:34Z)
Accelerated Message Passing for Entropy-Regularized MAP Inference [89.15658822319928]
離散値のランダムフィールドにおけるMAP推論の最大化は、機械学習の基本的な問題である。この問題の難しさから、特殊メッセージパッシングアルゴリズムの導出には線形プログラミング(LP)緩和が一般的である。古典的加速勾配の根底にある手法を活用することにより,これらのアルゴリズムを高速化するランダム化手法を提案する。
論文参考訳（メタデータ） (2020-07-01T18:43:32Z)
Taming neural networks with TUSLA: Non-convex learning via adaptive stochastic gradient Langevin algorithms [0.0]
我々は問題ランゲダイナミクス(SGLD)に基づく適切に構築された勾配アルゴリズムを提案する。また、新しいアルゴリズムの収束特性の利用に関する漸近解析も提供する。 TUSLAアルゴリズムのルーツは、カプタメド・エウラーの発達係数を持つテーミングプロセスに基づいている。
論文参考訳（メタデータ） (2020-06-25T16:06:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。