論文の概要: Heating up decision boundaries: isocapacitory saturation, adversarial
scenarios and generalization bounds
- arxiv url: http://arxiv.org/abs/2101.06061v1
- Date: Fri, 15 Jan 2021 11:15:51 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-28 18:20:26.227961
- Title: Heating up decision boundaries: isocapacitory saturation, adversarial
scenarios and generalization bounds
- Title(参考訳): 決定境界の加熱:等容量飽和、逆境シナリオ、一般化境界
- Authors: Bogdan Georgiev, Lukas Franken, Mayukh Mukherjee
- Abstract要約: 環境データ空間におけるブラウン運動過程と関連する確率的手法を用いて分類器の決定境界を研究する。
我々は,敵の攻撃・防御機構に照らして,決定境界の幾何学的挙動に着目する。
ブラウンの衝突確率は圧縮やノイズの安定性と結びついたソフトな一般化境界にどのように変換されるかを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In the present work we study classifiers' decision boundaries via Brownian
motion processes in ambient data space and associated probabilistic techniques.
Intuitively, our ideas correspond to placing a heat source at the decision
boundary and observing how effectively the sample points warm up. We are
largely motivated by the search for a soft measure that sheds further light on
the decision boundary's geometry. En route, we bridge aspects of potential
theory and geometric analysis (Mazya, 2011, Grigoryan-Saloff-Coste, 2002) with
active fields of ML research such as adversarial examples and generalization
bounds. First, we focus on the geometric behavior of decision boundaries in the
light of adversarial attack/defense mechanisms. Experimentally, we observe a
certain capacitory trend over different adversarial defense strategies:
decision boundaries locally become flatter as measured by isoperimetric
inequalities (Ford et al, 2019); however, our more sensitive heat-diffusion
metrics extend this analysis and further reveal that some non-trivial geometry
invisible to plain distance-based methods is still preserved. Intuitively, we
provide evidence that the decision boundaries nevertheless retain many
persistent "wiggly and fuzzy" regions on a finer scale. Second, we show how
Brownian hitting probabilities translate to soft generalization bounds which
are in turn connected to compression and noise stability (Arora et al, 2018),
and these bounds are significantly stronger if the decision boundary has
controlled geometric features.
- Abstract(参考訳): 本研究では,周辺データ空間におけるブラウン運動過程と関連する確率的手法を用いて分類器の判断境界について検討する。
直感的には、私たちのアイデアは熱源を決定境界に配置し、サンプルポイントがいかに効果的にウォームアップするかを観察します。
我々は、決定境界の幾何学にさらなる光を放つ柔らかい測度を求めることに、主に動機づけられている。
途中、ポテンシャル理論と幾何解析(Mazya, 2011, Grigoryan-Saloff-Coste, 2002)の側面を敵対例や一般化境界といったML研究の活発な分野に橋渡しする。
まず, 敵の攻撃・防御機構に照らして, 決定境界の幾何学的挙動に着目する。
決定境界は局所的に等視的不等式によって測定されるにつれて平坦になる(ford et al, 2019)が、より敏感な熱拡散測定はこの分析を拡張し、平滑な距離ベース法に見えない非自明な幾何学が残っていることをさらに明らかにする。
直感的には、決定境界は多くの永続的な「かつ曖昧な」領域をより微細なスケールで保持していることを示す。
第2に、Brownian hit probabilities が、圧縮や雑音安定性と交互に結びつくソフト一般化境界(Arora et al, 2018)にどのように変換されるかを示し、決定境界が幾何学的特徴を制御する場合、これらの境界は著しく強い。
関連論文リスト
- Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Uncovering Exceptional Contours in non-Hermitian Hyperbolic Matter [0.0]
非エルミート双曲性物質を導入し、その特異な性質を深く解明する。
双曲的ブロッホ理論を用いて、非エルミート的オンサイトゲインとロスの存在下での双曲的格子のバンド構造を研究する。
この結果から, 双曲型非エルミート系物質における異常な退化現象が明らかとなった。
論文 参考訳(メタデータ) (2023-06-28T05:31:24Z) - Rigorous analysis of the topologically protected edge states in the
quantum spin Hall phase of the armchair ribbon geometry [1.2999413717930817]
我々は,Ke-Meleモデルにおけるエッジ状態の明示的な表現を得るための新しい解析手法を提案する。
波動関数やエネルギー分散など,エッジ状態の様々な解析的性質について検討する。
この結果から,Ke-Meleモデルの量子スピンホール相におけるエッジ状態の特異な特性について光を当てた。
論文 参考訳(メタデータ) (2023-06-06T14:00:25Z) - Sampling with Mollified Interaction Energy Descent [57.00583139477843]
モーフィファイド相互作用エネルギー降下(MIED)と呼ばれる新しい最適化に基づくサンプリング手法を提案する。
MIEDは、モル化相互作用エネルギー(MIE)と呼ばれる確率測度に関する新しいクラスのエネルギーを最小化する
我々は,制約のないサンプリング問題に対して,我々のアルゴリズムがSVGDのような既存の粒子ベースアルゴリズムと同等に動作することを示す。
論文 参考訳(メタデータ) (2022-10-24T16:54:18Z) - Edge states, Majorana fermions and topological order in superconducting
wires with generalized boundary conditions [0.0]
一般境界条件の影響下で一次元トポロジカル超伝導体の特性について検討する。
特に,長距離,エッジ・ツー・エッジの量子相互情報と密接な絡み合いのレジリエンスについて検討する。
論文 参考訳(メタデータ) (2022-07-04T14:05:03Z) - Geometric Methods for Sampling, Optimisation, Inference and Adaptive
Agents [102.42623636238399]
我々は,サンプリング,最適化,推論,適応的意思決定といった問題に根ざした基本的な幾何学的構造を同定する。
これらの問題を効率的に解くためにこれらの幾何学的構造を利用するアルゴリズムを導出する。
論文 参考訳(メタデータ) (2022-03-20T16:23:17Z) - Selective and tunable excitation of topological non-Hermitian skin modes [0.0]
非エルミート格子は、非エルミートスキンモードと呼ばれる多くの指数関数的に局所化された状態を保持する。
このような状態は周期境界条件下でのエネルギースペクトルの非自明な位相から予測することができる。
有限格子サイズを持つ任意の現実的なシステムでは、ほとんどのスキンエッジ状態は崩壊し、準安定状態となる。
論文 参考訳(メタデータ) (2021-12-09T15:32:39Z) - Navigating to the Best Policy in Markov Decision Processes [68.8204255655161]
マルコフ決定過程における純粋探索問題について検討する。
エージェントはアクションを逐次選択し、結果のシステム軌道から可能な限り早くベストを目標とする。
論文 参考訳(メタデータ) (2021-06-05T09:16:28Z) - Moment-based superresolution: Formalism and applications [0.0]
2つの熱源間の分離を推定するための単純な超解像プロトコルを導入する。
本研究では, 任意の熱源に最適な観測装置を構築できることを示す。
また,可溶性分離の最小光子数による最適観測値,測定感度,スケーリングに対するノイズの影響についても検討した。
論文 参考訳(メタデータ) (2021-05-26T08:48:28Z) - A Unifying and Canonical Description of Measure-Preserving Diffusions [60.59592461429012]
ユークリッド空間における測度保存拡散の完全なレシピは、最近、いくつかのMCMCアルゴリズムを単一のフレームワークに統合した。
我々は、この構成を任意の多様体に改善し一般化する幾何学理論を開発する。
論文 参考訳(メタデータ) (2021-05-06T17:36:55Z) - GELATO: Geometrically Enriched Latent Model for Offline Reinforcement
Learning [54.291331971813364]
オフライン強化学習アプローチは、近近法と不確実性認識法に分けられる。
本研究では,この2つを潜在変動モデルに組み合わせることのメリットを実証する。
提案したメトリクスは、分布サンプルのアウトの品質と、データ内のサンプルの不一致の両方を測定します。
論文 参考訳(メタデータ) (2021-02-22T19:42:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。