論文の概要: Black box tests for algorithmic stability
- arxiv url: http://arxiv.org/abs/2111.15546v1
- Date: Tue, 30 Nov 2021 16:36:58 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-01 16:47:41.263126
- Title: Black box tests for algorithmic stability
- Title（参考訳）: アルゴリズム安定性のためのブラックボックステスト
- Authors: Byol Kim and Rina Foygel Barber
- Abstract要約: アルゴリズムの安定性特性を知ることは、多くの下流アプリケーションにとってしばしば有用である。
現在使われている多くの現代的なアルゴリズムは、その安定性の理論的解析には複雑すぎる。
- 参考スコア（独自算出の注目度）: 10.495496415022064
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Algorithmic stability is a concept from learning theory that expresses the
degree to which changes to the input data (e.g., removal of a single data
point) may affect the outputs of a regression algorithm. Knowing an algorithm's
stability properties is often useful for many downstream applications -- for
example, stability is known to lead to desirable generalization properties and
predictive inference guarantees. However, many modern algorithms currently used
in practice are too complex for a theoretical analysis of their stability
properties, and thus we can only attempt to establish these properties through
an empirical exploration of the algorithm's behavior on various data sets. In
this work, we lay out a formal statistical framework for this kind of "black
box testing" without any assumptions on the algorithm or the data distribution,
and establish fundamental bounds on the ability of any black box test to
identify algorithmic stability.
- Abstract（参考訳）: アルゴリズム安定性(英: Algorithmic stability)とは、入力データの変更(例えば、単一のデータポイントの削除)が回帰アルゴリズムの出力に影響を与える程度を表現する学習理論の概念である。
アルゴリズムの安定性特性を知ることは、多くの下流アプリケーションにとってしばしば有用である - 例えば、安定性は望ましい一般化特性と予測推論保証をもたらすことが知られている。
しかし、現在の多くの現代アルゴリズムは、その安定性特性の理論的解析には複雑すぎるため、様々なデータセット上でのアルゴリズムの振る舞いを実証的に探究することで、これらの特性を確立することしかできない。
本研究では,アルゴリズムやデータ分布を仮定せずに,このような「ブラックボックステスト」のための公式な統計フレームワークを構築し,ブラックボックステストがアルゴリズムの安定性を識別する能力に基礎的な限界を定めている。
関連論文リスト
- Is Algorithmic Stability Testable? A Unified Framework under Computational Constraints [5.68594452139461]
ブラックボックスアルゴリズムの安定性をテストすることは、データが数えきれないほど無限の空間にあるような環境では不可能であることを示す。
アルゴリズム安定性テストの難易度を定量化するための統一的なフレームワークを開発し,全ての設定において,利用可能なデータが制限されている場合,網羅的探索がアルゴリズム安定性を証明するための唯一の普遍的なメカニズムであることを示す。
論文 参考訳（メタデータ） (2024-05-23T23:51:25Z) - Stability and Generalization of Stochastic Compositional Gradient
Descent Algorithms [61.59448949684493]
学習例から構築した合成降下アルゴリズムの安定性と一般化解析について述べる。
SCGD と SCSC という2つの一般的な合成勾配勾配勾配アルゴリズムの均一安定性について検討した。
SCGD と SCSC の非依存的過剰リスク境界は,安定性結果と最適化誤差をトレードオフすることによって導出する。
論文 参考訳（メタデータ） (2023-07-07T02:40:09Z) - Stability is Stable: Connections between Replicability, Privacy, and
Adaptive Generalization [26.4468964378511]
複製可能なアルゴリズムは、そのランダム性が固定されたときに高い確率で同じ出力を与える。
データ解析にレプリカブルアルゴリズムを使用することで、公開結果の検証が容易になる。
我々は、複製性とアルゴリズム安定性の標準概念との新たな接続と分離を確立する。
論文 参考訳（メタデータ） (2023-03-22T21:35:50Z) - Bagging Provides Assumption-free Stability [11.456416081243654]
バギングは、機械学習モデルを安定化するための重要なテクニックである。
本稿では,任意のモデルに対するバギングの安定性に関する有限サンプル保証を導出する。
論文 参考訳（メタデータ） (2023-01-30T01:18:05Z) - Validation Diagnostics for SBI algorithms based on Normalizing Flows [55.41644538483948]
本研究は,NFに基づく多次元条件(後)密度推定器の検証診断を容易にすることを提案する。
また、局所的な一貫性の結果に基づいた理論的保証も提供する。
この作業は、より良い特定モデルの設計を支援したり、新しいSBIアルゴリズムの開発を促進するのに役立つだろう。
論文 参考訳（メタデータ） (2022-11-17T15:48:06Z) - Exploring the Algorithm-Dependent Generalization of AUPRC Optimization
with List Stability [107.65337427333064]
AUPRC(Area Under the Precision-Recall Curve)の最適化は、機械学習にとって重要な問題である。
本研究では, AUPRC最適化の単依存一般化における最初の試行について述べる。
3つの画像検索データセットの実験は、我々のフレームワークの有効性と健全性に言及する。
論文 参考訳（メタデータ） (2022-09-27T09:06:37Z) - Probabilistic robust linear quadratic regulators with Gaussian processes [73.0364959221845]
ガウス過程(GP)のような確率モデルは、制御設計に続く使用のためのデータから未知の動的システムを学ぶための強力なツールです。
本稿では、確率的安定性マージンに関して堅牢なコントローラを生成する線形化GPダイナミクスのための新しいコントローラ合成について述べる。
論文 参考訳（メタデータ） (2021-05-17T08:36:18Z) - Algorithmic Stability and Generalization of an Unsupervised Feature
Selection Algorithm [20.564573628659918]
アルゴリズム安定性は、入力サンプルの摂動に対する感度に関するアルゴリズムの重要な特徴である。
本稿では,この安定性を保証可能な保証で実現した,革新的な教師なし特徴選択アルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-10-19T12:25:39Z) - A Constraint-Based Algorithm for the Structural Learning of
Continuous-Time Bayesian Networks [70.88503833248159]
連続時間ベイズネットワークの構造を学習するための制約に基づく最初のアルゴリズムを提案する。
我々は,条件付き独立性を確立するために提案した,異なる統計的テストと基礎となる仮説について論じる。
論文 参考訳（メタデータ） (2020-07-07T07:34:09Z) - Instability, Computational Efficiency and Statistical Accuracy [101.32305022521024]
我々は,人口レベルでのアルゴリズムの決定論的収束率と,$n$サンプルに基づく経験的対象に適用した場合の(不安定性)の間の相互作用に基づいて,統計的精度を得るフレームワークを開発する。
本稿では,ガウス混合推定,非線形回帰モデル,情報的非応答モデルなど,いくつかの具体的なモデルに対する一般結果の応用について述べる。
論文 参考訳（メタデータ） (2020-05-22T22:30:52Z) - Interpretable Random Forests via Rule Extraction [0.0]
本稿では,ルールの短時間かつ単純なリストの形式を取り入れた,安定なルール学習アルゴリズムであるSIRUSを紹介する。
当社のR/C++ソフトウェア実装サイラスは、CRANから入手可能です。
論文 参考訳（メタデータ） (2020-04-29T08:13:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。