論文の概要: Heating up decision boundaries: isocapacitory saturation, adversarial
scenarios and generalization bounds
- arxiv url: http://arxiv.org/abs/2101.06061v1
- Date: Fri, 15 Jan 2021 11:15:51 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-28 18:20:26.227961
- Title: Heating up decision boundaries: isocapacitory saturation, adversarial
scenarios and generalization bounds
- Title(参考訳): 決定境界の加熱:等容量飽和、逆境シナリオ、一般化境界
- Authors: Bogdan Georgiev, Lukas Franken, Mayukh Mukherjee
- Abstract要約: 環境データ空間におけるブラウン運動過程と関連する確率的手法を用いて分類器の決定境界を研究する。
我々は,敵の攻撃・防御機構に照らして,決定境界の幾何学的挙動に着目する。
ブラウンの衝突確率は圧縮やノイズの安定性と結びついたソフトな一般化境界にどのように変換されるかを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In the present work we study classifiers' decision boundaries via Brownian
motion processes in ambient data space and associated probabilistic techniques.
Intuitively, our ideas correspond to placing a heat source at the decision
boundary and observing how effectively the sample points warm up. We are
largely motivated by the search for a soft measure that sheds further light on
the decision boundary's geometry. En route, we bridge aspects of potential
theory and geometric analysis (Mazya, 2011, Grigoryan-Saloff-Coste, 2002) with
active fields of ML research such as adversarial examples and generalization
bounds. First, we focus on the geometric behavior of decision boundaries in the
light of adversarial attack/defense mechanisms. Experimentally, we observe a
certain capacitory trend over different adversarial defense strategies:
decision boundaries locally become flatter as measured by isoperimetric
inequalities (Ford et al, 2019); however, our more sensitive heat-diffusion
metrics extend this analysis and further reveal that some non-trivial geometry
invisible to plain distance-based methods is still preserved. Intuitively, we
provide evidence that the decision boundaries nevertheless retain many
persistent "wiggly and fuzzy" regions on a finer scale. Second, we show how
Brownian hitting probabilities translate to soft generalization bounds which
are in turn connected to compression and noise stability (Arora et al, 2018),
and these bounds are significantly stronger if the decision boundary has
controlled geometric features.
- Abstract(参考訳): 本研究では,周辺データ空間におけるブラウン運動過程と関連する確率的手法を用いて分類器の判断境界について検討する。
直感的には、私たちのアイデアは熱源を決定境界に配置し、サンプルポイントがいかに効果的にウォームアップするかを観察します。
我々は、決定境界の幾何学にさらなる光を放つ柔らかい測度を求めることに、主に動機づけられている。
途中、ポテンシャル理論と幾何解析(Mazya, 2011, Grigoryan-Saloff-Coste, 2002)の側面を敵対例や一般化境界といったML研究の活発な分野に橋渡しする。
まず, 敵の攻撃・防御機構に照らして, 決定境界の幾何学的挙動に着目する。
決定境界は局所的に等視的不等式によって測定されるにつれて平坦になる(ford et al, 2019)が、より敏感な熱拡散測定はこの分析を拡張し、平滑な距離ベース法に見えない非自明な幾何学が残っていることをさらに明らかにする。
直感的には、決定境界は多くの永続的な「かつ曖昧な」領域をより微細なスケールで保持していることを示す。
第2に、Brownian hit probabilities が、圧縮や雑音安定性と交互に結びつくソフト一般化境界(Arora et al, 2018)にどのように変換されるかを示し、決定境界が幾何学的特徴を制御する場合、これらの境界は著しく強い。
関連論文リスト
- Bridging Geometric States via Geometric Diffusion Bridge [79.60212414973002]
本稿では,初期および対象の幾何状態を正確にブリッジする新しい生成モデリングフレームワークであるGeometric Diffusion Bridge (GDB)を紹介する。
GDBは、幾何学的状態の接続のためにDoobの$h$-transformの修正版から派生した同変拡散ブリッジを使用している。
我々はGDBが既存の最先端のアプローチを超越し、幾何学的状態を正確にブリッジするための新しい経路を開くことを示す。
論文 参考訳(メタデータ) (2024-10-31T17:59:53Z) - A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。
本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
論文 参考訳(メタデータ) (2024-05-24T21:09:19Z) - Interior analysis, stretched technique and bubbling geometries [2.5240171181791276]
我々は、AdSs測地とバブリングする四分法BPSの詳細な解析を行い、量子場理論の面におけるそれらの双対状態と対応する双対関係について述べる。
一般化されたラプラス型方程式と、線形化されたモンゲ・アンペア方程式から得られる情報源を導出し、境界AdS幾何に使用する。
論文 参考訳(メタデータ) (2023-12-27T23:59:12Z) - Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Uncovering Exceptional Contours in non-Hermitian Hyperbolic Matter [0.0]
非エルミート双曲性物質を導入し、その特異な性質を深く解明する。
双曲的ブロッホ理論を用いて、非エルミート的オンサイトゲインとロスの存在下での双曲的格子のバンド構造を研究する。
この結果から, 双曲型非エルミート系物質における異常な退化現象が明らかとなった。
論文 参考訳(メタデータ) (2023-06-28T05:31:24Z) - Rigorous analysis of the topologically protected edge states in the
quantum spin Hall phase of the armchair ribbon geometry [1.2999413717930817]
我々は,Ke-Meleモデルにおけるエッジ状態の明示的な表現を得るための新しい解析手法を提案する。
波動関数やエネルギー分散など,エッジ状態の様々な解析的性質について検討する。
この結果から,Ke-Meleモデルの量子スピンホール相におけるエッジ状態の特異な特性について光を当てた。
論文 参考訳(メタデータ) (2023-06-06T14:00:25Z) - Sampling with Mollified Interaction Energy Descent [57.00583139477843]
モーフィファイド相互作用エネルギー降下(MIED)と呼ばれる新しい最適化に基づくサンプリング手法を提案する。
MIEDは、モル化相互作用エネルギー(MIE)と呼ばれる確率測度に関する新しいクラスのエネルギーを最小化する
我々は,制約のないサンプリング問題に対して,我々のアルゴリズムがSVGDのような既存の粒子ベースアルゴリズムと同等に動作することを示す。
論文 参考訳(メタデータ) (2022-10-24T16:54:18Z) - Edge states, Majorana fermions and topological order in superconducting
wires with generalized boundary conditions [0.0]
一般境界条件の影響下で一次元トポロジカル超伝導体の特性について検討する。
特に,長距離,エッジ・ツー・エッジの量子相互情報と密接な絡み合いのレジリエンスについて検討する。
論文 参考訳(メタデータ) (2022-07-04T14:05:03Z) - Geometric Methods for Sampling, Optimisation, Inference and Adaptive
Agents [102.42623636238399]
我々は,サンプリング,最適化,推論,適応的意思決定といった問題に根ざした基本的な幾何学的構造を同定する。
これらの問題を効率的に解くためにこれらの幾何学的構造を利用するアルゴリズムを導出する。
論文 参考訳(メタデータ) (2022-03-20T16:23:17Z) - Moment-based superresolution: Formalism and applications [0.0]
2つの熱源間の分離を推定するための単純な超解像プロトコルを導入する。
本研究では, 任意の熱源に最適な観測装置を構築できることを示す。
また,可溶性分離の最小光子数による最適観測値,測定感度,スケーリングに対するノイズの影響についても検討した。
論文 参考訳(メタデータ) (2021-05-26T08:48:28Z) - GELATO: Geometrically Enriched Latent Model for Offline Reinforcement
Learning [54.291331971813364]
オフライン強化学習アプローチは、近近法と不確実性認識法に分けられる。
本研究では,この2つを潜在変動モデルに組み合わせることのメリットを実証する。
提案したメトリクスは、分布サンプルのアウトの品質と、データ内のサンプルの不一致の両方を測定します。
論文 参考訳(メタデータ) (2021-02-22T19:42:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。