論文の概要: On the Computational Complexity of Private High-dimensional Model Selection

• arxiv url: http://arxiv.org/abs/2310.07852v5
• Date: Tue, 29 Oct 2024 05:55:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-30 13:37:40.461890
• Title: On the Computational Complexity of Private High-dimensional Model Selection
• Title（参考訳）: プライベート高次元モデル選択の計算複雑性について
• Authors: Saptarshi Roy, Zehua Wang, Ambuj Tewari,
• Abstract要約: プライバシー制約下での高次元疎線形回帰モデルにおけるモデル選択の問題点を考察する。 本稿では, 効率的なメトロポリス・ハスティングスアルゴリズムを提案し, 一定の規則性条件下では, 定常分布への混合時間を享受できることを確かめる。
• 参考スコア（独自算出の注目度）: 18.964255744068122
• License:
• Abstract: We consider the problem of model selection in a high-dimensional sparse linear regression model under privacy constraints. We propose a differentially private (DP) best subset selection method with strong statistical utility properties by adopting the well-known exponential mechanism for selecting the best model. To achieve computational expediency, we propose an efficient Metropolis-Hastings algorithm and under certain regularity conditions, we establish that it enjoys polynomial mixing time to its stationary distribution. As a result, we also establish both approximate differential privacy and statistical utility for the estimates of the mixed Metropolis-Hastings chain. Finally, we perform some illustrative experiments on simulated data showing that our algorithm can quickly identify active features under reasonable privacy budget constraints.
• Abstract（参考訳）: プライバシー制約下での高次元疎線形回帰モデルにおけるモデル選択の問題点を考察する。 本稿では,このモデルを選択するために,よく知られた指数的メカニズムを採用することで,統計特性の強い差分プライベート(DP)ベストサブセット選択法を提案する。 本研究では, 効率的なメトロポリス・ハスティングスアルゴリズムを提案し, 一定の規則性条件下では, 定常分布に対する多項式混合時間を享受できることを確かめる。 その結果、混合メトロポリス・ハスティングス・チェーンの推定に対して、近似微分プライバシーと統計的ユーティリティの両方を確立した。 最後に、シミュレーションデータに対して、適切なプライバシー予算制約の下で、我々のアルゴリズムが迅速にアクティブな特徴を識別できることを示し、いくつかの実証実験を行った。

関連論文リスト

• An incremental preference elicitation-based approach to learning potentially non-monotonic preferences in multi-criteria sorting [53.36437745983783]
  まず最適化モデルを構築し,非単調な選好をモデル化する。 本稿では,情報量測定手法と質問選択戦略を考案し,各イテレーションにおいて最も情報に富む選択肢を特定する。 2つのインクリメンタルな選好に基づくアルゴリズムは、潜在的に単調な選好を学習するために開発された。
  論文  参考訳（メタデータ） (2024-09-04T14:36:20Z)
• Globally-Optimal Greedy Experiment Selection for Active Sequential Estimation [1.1530723302736279]
  逐次的に収集したデータの実験を適応的に選択するアクティブシーケンシャル推定の問題について検討する。 目標は、より正確なモデル推定のための実験選択ルールを設計することである。 そこで本稿では,グリーディ実験の選択手法のクラスを提案し,最大可能性の統計的解析を行う。
  論文  参考訳（メタデータ） (2024-02-13T17:09:29Z)
• Distributionally Robust Model-based Reinforcement Learning with Large State Spaces [55.14361269378122]
  強化学習における3つの大きな課題は、大きな状態空間を持つ複雑な力学系、コストのかかるデータ取得プロセス、トレーニング環境の展開から現実の力学を逸脱させることである。 広範に用いられているKullback-Leibler, chi-square, および全変分不確実性集合の下で, 連続状態空間を持つ分布ロバストなマルコフ決定過程について検討した。 本稿では,ガウス過程と最大分散削減アルゴリズムを用いて,多出力名目遷移力学を効率的に学習するモデルベースアプローチを提案する。
  論文  参考訳（メタデータ） (2023-09-05T13:42:11Z)
• Best-Subset Selection in Generalized Linear Models: A Fast and Consistent Algorithm via Splicing Technique [0.6338047104436422]
  ベストサブセットセクションは、このタイプの問題の聖杯として広く見なされている。 軽度条件下での最適部分集合回復のためのアルゴリズムを提案し,提案した。 我々の実装は、一般的な変数選択ツールキットと比較して約4倍のスピードアップを実現している。
  論文  参考訳（メタデータ） (2023-08-01T03:11:31Z)
• Regression with Label Differential Privacy [64.21020761920322]
  与えられた回帰損失関数の下で最適なラベルDPランダム化機構を導出する。 我々は、最適メカニズムが「ビンのランダム化応答」の形をとることを証明した。
  論文  参考訳（メタデータ） (2022-12-12T17:41:32Z)
• Feature Selection via the Intervened Interpolative Decomposition and its Application in Diversifying Quantitative Strategies [4.913248451323163]
  本稿では,観測行列の各列がそれぞれの優先度や重要性を持つ補間分解(ID)を計算するための確率論的モデルを提案する。 提案したモデルを,中国A株10株を含む実世界のデータセット上で評価した。
  論文  参考訳（メタデータ） (2022-09-29T03:36:56Z)
• Fast Feature Selection with Fairness Constraints [49.142308856826396]
  モデル構築における最適特徴の選択に関する基礎的問題について検討する。 この問題は、greedyアルゴリズムの変種を使用しても、大規模なデータセットで計算的に困難である。 適応クエリモデルは,最近提案された非モジュラー関数に対する直交整合探索のより高速なパラダイムに拡張する。 提案アルゴリズムは、適応型クエリモデルにおいて指数関数的に高速な並列実行を実現する。
  論文  参考訳（メタデータ） (2022-02-28T12:26:47Z)
• High-Dimensional Differentially-Private EM Algorithm: Methods and Near-Optimal Statistical Guarantees [8.089708900273804]
  高次元潜在変数モデルにおける差分プライベート期待最大化(EM)アルゴリズムを設計するための一般的なフレームワークを開発している。 各モデルにおいて、差分プライバシー制約による収束のほぼ最適度を確立する。 この設定では、差分プライバシーを保証する近レート最適EMアルゴリズムを提案します。
  論文  参考訳（メタデータ） (2021-04-01T04:08:34Z)
• On Statistical Efficiency in Learning [37.08000833961712]
  モデルフィッティングとモデル複雑性のバランスをとるためのモデル選択の課題に対処する。 モデルの複雑さを順次拡大し、選択安定性を高め、コストを削減するオンラインアルゴリズムを提案します。 実験の結果, 提案手法は予測能力が高く, 計算コストが比較的低いことがわかった。
  論文  参考訳（メタデータ） (2020-12-24T16:08:29Z)
• Control as Hybrid Inference [62.997667081978825]
  本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。 連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
  論文  参考訳（メタデータ） (2020-07-11T19:44:09Z)
• Instability, Computational Efficiency and Statistical Accuracy [101.32305022521024]
  我々は,人口レベルでのアルゴリズムの決定論的収束率と,$n$サンプルに基づく経験的対象に適用した場合の(不安定性)の間の相互作用に基づいて,統計的精度を得るフレームワークを開発する。 本稿では,ガウス混合推定,非線形回帰モデル,情報的非応答モデルなど,いくつかの具体的なモデルに対する一般結果の応用について述べる。
  論文  参考訳（メタデータ） (2020-05-22T22:30:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。