論文の概要: A Bayesian Robust Regression Method for Corrupted Data Reconstruction
- arxiv url: http://arxiv.org/abs/2212.12787v1
- Date: Sat, 24 Dec 2022 17:25:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-27 15:01:57.995263
- Title: A Bayesian Robust Regression Method for Corrupted Data Reconstruction
- Title(参考訳): 崩壊データ再構成のためのベイジアンロバスト回帰法
- Authors: Fan Zheyi, Li Zhaohui, Wang Jingyan, Xiong Xiao, Hu Qingpei
- Abstract要約: 我々は適応的敵攻撃に抵抗できる効果的なロバスト回帰法を開発した。
まず TRIP (hard Thresholding approach to Robust regression with sImple Prior) アルゴリズムを提案する。
次に、より堅牢なBRHT (robust Bayesian Reweighting regression via Hard Thresholding) アルゴリズムを構築するためにベイズ再重み付け(Bayesian reweighting)というアイデアを用いる。
- 参考スコア(独自算出の注目度): 5.298637115178182
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Because of the widespread existence of noise and data corruption, recovering
the true regression parameters with a certain proportion of corrupted response
variables is an essential task. Methods to overcome this problem often involve
robust least-squares regression, but few methods perform well when confronted
with severe adaptive adversarial attacks. In many applications, prior knowledge
is often available from historical data or engineering experience, and by
incorporating prior information into a robust regression method, we develop an
effective robust regression method that can resist adaptive adversarial
attacks. First, we propose the novel TRIP (hard Thresholding approach to Robust
regression with sImple Prior) algorithm, which improves the breakdown point
when facing adaptive adversarial attacks. Then, to improve the robustness and
reduce the estimation error caused by the inclusion of priors, we use the idea
of Bayesian reweighting to construct the more robust BRHT (robust Bayesian
Reweighting regression via Hard Thresholding) algorithm. We prove the
theoretical convergence of the proposed algorithms under mild conditions, and
extensive experiments show that under different types of dataset attacks, our
algorithms outperform other benchmark ones. Finally, we apply our methods to a
data-recovery problem in a real-world application involving a space solar
array, demonstrating their good applicability.
- Abstract(参考訳): ノイズやデータ破損が広範囲に存在するため、劣化した応答変数の一定割合で真の回帰パラメータを回復することが重要な課題である。
この問題を克服する手法は、しばしばロバストな最小二乗回帰を伴うが、厳しい適応的敵攻撃に直面した場合、うまく機能する手法はほとんどない。
多くのアプリケーションでは、過去のデータや工学的経験から事前知識が利用でき、事前情報を堅牢な回帰法に組み込むことで、適応的敵攻撃に抵抗できる効果的な堅牢な回帰法を開発する。
まず,適応型逆攻撃に直面する際のブレークポイントを改善する新しいtripアルゴリズムを提案する。
そこで, よりロバストなBRHT (robust Bayesian Reweighting regression via Hard Thresholding) アルゴリズムを構築するためにベイズ再重み付け(Bayesian Reweighting)というアイデアを用いた。
我々は,提案アルゴリズムの理論的収束性を軽度条件下で証明し,様々な種類のデータセット攻撃において,我々のアルゴリズムが他のベンチマークよりも優れていることを示す。
最後に,我々の手法を,宇宙太陽アレイを含む実世界のアプリケーションにおけるデータリカバリ問題に適用し,その適用性を示す。
関連論文リスト
- Distributed High-Dimensional Quantile Regression: Estimation Efficiency and Support Recovery [0.0]
我々は高次元線形量子レグレッションのための分散推定とサポート回復に焦点をあてる。
元の量子レグレッションを最小二乗最適化に変換する。
効率的なアルゴリズムを開発し、高い計算と通信効率を享受する。
論文 参考訳(メタデータ) (2024-05-13T08:32:22Z) - Towards Practical Robustness Auditing for Linear Regression [8.9598796481325]
データセットの小さなサブセットの存在を発見または否定するアルゴリズムについて検討する。
これらの手法は, 技術の状況を大きく上回り, 数次元における回帰問題の堅牢性チェックに有用であることを示す。
我々は、アルゴリズムの頑健な統計学における最近の革新から引き出されたアイデアを用いて、スペクトルアルゴリズムを用いて、この課題を先導する。
論文 参考訳(メタデータ) (2023-07-30T20:47:36Z) - Shuffled linear regression through graduated convex relaxation [12.614901374282868]
シャッフル線形回帰問題は、入力と出力の対応が不明なデータセットにおける線形関係を復元することを目的としている。
この問題は、調査データを含む広範囲のアプリケーションで発生する。
後最大化目的関数に基づく線形回帰をシャッフルする新しい最適化アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-09-30T17:33:48Z) - Meta Adversarial Perturbations [66.43754467275967]
メタ逆境摂動(MAP)の存在を示す。
MAPは1段階の上昇勾配更新によって更新された後、自然画像を高い確率で誤分類する。
これらの摂動は画像に依存しないだけでなく、モデルに依存しないものであり、単一の摂動は見えないデータポイントと異なるニューラルネットワークアーキテクチャにまたがってうまく一般化される。
論文 参考訳(メタデータ) (2021-11-19T16:01:45Z) - Robust lEarned Shrinkage-Thresholding (REST): Robust unrolling for
sparse recover [87.28082715343896]
我々は、モデルミス特定を前進させるのに堅牢な逆問題を解決するためのディープニューラルネットワークについて検討する。
我々は,アルゴリズムの展開手法を根底にある回復問題のロバストバージョンに適用することにより,新しい堅牢なディープニューラルネットワークアーキテクチャを設計する。
提案したRESTネットワークは,圧縮センシングとレーダイメージングの両問題において,最先端のモデルベースおよびデータ駆動アルゴリズムを上回る性能を示す。
論文 参考訳(メタデータ) (2021-10-20T06:15:45Z) - Robust Regression Revisited: Acceleration and Improved Estimation Rates [25.54653340884806]
強い汚染モデルの下で, 統計的回帰問題に対する高速アルゴリズムについて検討する。
目的は、逆向きに破損したサンプルを与えられた一般化線形モデル(GLM)を概ね最適化することである。
実行時や推定保証が改善された頑健な回帰問題に対して,ほぼ直線的な時間アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-06-22T17:21:56Z) - Risk Minimization from Adaptively Collected Data: Guarantees for
Supervised and Policy Learning [57.88785630755165]
経験的リスク最小化(Empirical Risk Minimization, ERM)は、機械学習のワークホースであるが、適応的に収集されたデータを使用すると、そのモデルに依存しない保証が失敗する可能性がある。
本研究では,仮説クラス上での損失関数の平均値を最小限に抑えるため,適応的に収集したデータを用いた一般的な重み付きERMアルゴリズムについて検討する。
政策学習では、探索がゼロになるたびに既存の文献のオープンギャップを埋める率-最適後悔保証を提供する。
論文 参考訳(メタデータ) (2021-06-03T09:50:13Z) - TFPose: Direct Human Pose Estimation with Transformers [83.03424247905869]
ポーズ推定タスクを変換器で効果的に解くことができるシーケンス予測問題に定式化します。
我々のフレームワークは単純で直接的であり、ヒートマップに基づくポーズ推定の欠点を回避している。
MS-COCOおよびMPIIデータセットの実験は、この手法が回帰ベースのポーズ推定の最先端を大幅に改善できることを示しています。
論文 参考訳(メタデータ) (2021-03-29T04:18:54Z) - A Hypergradient Approach to Robust Regression without Correspondence [85.49775273716503]
本稿では,入力データと出力データとの対応が不十分な回帰問題について考察する。
ほとんどの既存手法はサンプルサイズが小さい場合にのみ適用できる。
シャッフル回帰問題に対する新しい計算フレームワークであるROBOTを提案する。
論文 参考訳(メタデータ) (2020-11-30T21:47:38Z) - Robust priors for regularized regression [12.945710636153537]
尾根回帰のような罰則化された回帰アプローチは0に向かって縮小するが、0重みは通常は意味のある先行ではない。
人間が使用する単純で堅牢な決定にインスパイアされた私たちは、ペナル化された回帰モデルのための非ゼロの事前計算を構築しました。
頑丈な先行モデルでは、最悪のパフォーマンスに優れていた。
論文 参考訳(メタデータ) (2020-10-06T10:43:14Z) - Fast OSCAR and OWL Regression via Safe Screening Rules [97.28167655721766]
順序付き$L_1$ (OWL)正規化回帰は、高次元スパース学習のための新しい回帰分析である。
近勾配法はOWL回帰を解くための標準手法として用いられる。
未知の順序構造を持つ原始解の順序を探索することにより、OWL回帰の最初の安全なスクリーニングルールを提案する。
論文 参考訳(メタデータ) (2020-06-29T23:35:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。