論文の概要: Bayesian Active Learning by Disagreements: A Geometric Perspective
- arxiv url: http://arxiv.org/abs/2105.02543v1
- Date: Thu, 6 May 2021 09:37:59 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-07 21:14:05.252544
- Title: Bayesian Active Learning by Disagreements: A Geometric Perspective
- Title(参考訳): 不一致によるベイズアクティブラーニング:幾何学的視点
- Authors: Xiaofeng Cao and Ivor W. Tsang
- Abstract要約: モデル不確実性推定と相互作用するコアセット構築においてBALDを実行するフレームワークである不一致による幾何学的アクティブラーニング(GBALD)を提案する。
GBALDはノイズや繰り返しのサンプルに対してわずかに摂動があり、BALDやBatchBALDなど既存の深層学習アプローチよりも優れています。
- 参考スコア(独自算出の注目度): 64.39292542263286
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present geometric Bayesian active learning by disagreements (GBALD), a
framework that performs BALD on its core-set construction interacting with
model uncertainty estimation. Technically, GBALD constructs core-set on
ellipsoid, not typical sphere, preventing low-representative elements from
spherical boundaries. The improvements are twofold: 1) relieve uninformative
prior and 2) reduce redundant estimations. Theoretically, geodesic search with
ellipsoid can derive tighter lower bound on error and easier to achieve zero
error than with sphere. Experiments show that GBALD has slight perturbations to
noisy and repeated samples, and outperforms BALD, BatchBALD and other existing
deep active learning approaches.
- Abstract(参考訳): モデル不確実性推定と相互作用するコアセット構造上でBALDを実行するフレームワークである不一致による幾何学的ベイズアクティブラーニング(GBALD)を提案する。
技術的には、GBALDは楕円体にコアセットを構築するが、典型的な球ではない。
改善点は2つある: 1) 不正な事前処理を緩和し、2) 冗長な見積もりを減らす。
理論的には、楕円体による測地探索は、誤差のより低い境界を導き、球体よりもゼロ誤差を容易に達成することができる。
GBALDはノイズや繰り返しのサンプルに対してわずかに摂動があり、BALDやBatchBALDなど既存の深層学習アプローチよりも優れています。
関連論文リスト
- Spherical Mask: Coarse-to-Fine 3D Point Cloud Instance Segmentation with Spherical Representation [35.875800849174354]
球面表現に基づく新しい粗粒化手法である球面マスクを紹介する。
具体的には、中心距離と半径距離の予測を用いて、各ケースを3次元ポリゴンで推定する。
ScanNetV2,S3DIS,LS3Dの3つのデータセットによる実験結果から,提案手法が既存手法より優れていることが示された。
論文 参考訳(メタデータ) (2023-12-18T15:14:07Z) - A Deep Dive into the Connections Between the Renormalization Group and
Deep Learning in the Ising Model [0.0]
再正規化群(Renormalization group、RG)は、統計物理学と量子場理論において必須の手法である。
本研究では, 1D と 2D Ising モデルに対する広範な再正規化手法を開発し, 比較のためのベースラインを提供する。
2次元イジングモデルでは、Wolffアルゴリズムを用いてIsingモデルサンプルを生成し、準決定論的手法を用いてグループフローを実行した。
論文 参考訳(メタデータ) (2023-08-21T22:50:54Z) - Typical and atypical solutions in non-convex neural networks with
discrete and continuous weights [2.7127628066830414]
ランダムな規則や関連を学習する単純な非拘束型ネットワークモデルとして、二項および連続負マージンパーセプトロンについて検討する。
どちらのモデルも、非常に平坦で幅の広い劣支配的な最小化器を示す。
両モデルにおいて、学習装置としての一般化性能は、広い平坦な最小化器の存在により大幅に向上することを示した。
論文 参考訳(メタデータ) (2023-04-26T23:34:40Z) - Exploring Active 3D Object Detection from a Generalization Perspective [58.597942380989245]
不確実性に基づくアクティブな学習ポリシーは、ポイントクラウドの情報性とボックスレベルのアノテーションコストの間のトレードオフのバランスを取れません。
冗長な3次元境界ボックスラベルの点群を階層的にフィルタリングするtextscCrbを提案する。
実験により,提案手法が既存のアクティブラーニング戦略より優れていることが示された。
論文 参考訳(メタデータ) (2023-01-23T02:43:03Z) - Deep Networks on Toroids: Removing Symmetries Reveals the Structure of
Flat Regions in the Landscape Geometry [3.712728573432119]
我々は、すべての対称性を除去し、トロイダルトポロジーをもたらす標準化されたパラメータ化を開発する。
最小化器の平坦性とそれらの接続する測地線経路の有意義な概念を導出する。
また、勾配勾配の変種によって発見された最小化器は、ゼロエラー経路と1つの曲がり角で接続可能であることも見いだした。
論文 参考訳(メタデータ) (2022-02-07T09:57:54Z) - Towards an Understanding of Benign Overfitting in Neural Networks [104.2956323934544]
現代の機械学習モデルは、しばしば膨大な数のパラメータを使用し、通常、トレーニング損失がゼロになるように最適化されている。
ニューラルネットワークの2層構成において、これらの良質な過適合現象がどのように起こるかを検討する。
本稿では,2層型ReLUネットワーク補間器を極小最適学習率で実現可能であることを示す。
論文 参考訳(メタデータ) (2021-06-06T19:08:53Z) - Effective Version Space Reduction for Convolutional Neural Networks [61.84773892603885]
アクティブラーニングでは、サンプリングバイアスは深刻な矛盾問題を引き起こし、アルゴリズムが最適な仮説を見つけるのを妨げる可能性がある。
本稿では,畳み込みニューラルネットワークを用いた能動学習について,バージョン空間削減の原理的レンズを用いて検討する。
論文 参考訳(メタデータ) (2020-06-22T17:40:03Z) - GeoDA: a geometric framework for black-box adversarial attacks [79.52980486689287]
我々は,最も困難なブラックボックス設定の1つにおいて,逆例を生成するためのフレームワークを提案する。
我々のフレームワークは、ディープネットワークの決定境界は通常、データサンプルの近傍で小さな平均曲率を持つという観察に基づいている。
論文 参考訳(メタデータ) (2020-03-13T20:03:01Z) - Adiabatic ground state preparation in an expanding lattice [0.0]
我々は,2L$の格子上に量子多体基底状態波動関数を構築するために,$s$-sourceフレームワーク [Phys. Rev.B 93, 045127] にインスパイアされた数値アルゴリズムを実装し,特徴付ける。
ギャップが大きくて、興味深いことに、臨界点において大規模に建設がうまく行っていることが分かりました。
論文 参考訳(メタデータ) (2020-02-22T01:18:48Z) - Simple and Effective Prevention of Mode Collapse in Deep One-Class
Classification [93.2334223970488]
深部SVDDにおける超球崩壊を防止するための2つの正則化器を提案する。
第1の正則化器は、標準のクロスエントロピー損失によるランダムノイズの注入に基づいている。
第2の正規化器は、小さすぎるとミニバッチ分散をペナライズする。
論文 参考訳(メタデータ) (2020-01-24T03:44:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。