Fugu-MT 論文翻訳(概要): The Boundaries of Verifiable Accuracy, Robustness, and Generalisation in Deep Learning

論文の概要: The Boundaries of Verifiable Accuracy, Robustness, and Generalisation in Deep Learning

arxiv url: http://arxiv.org/abs/2309.07072v2
Date: Thu, 21 Nov 2024 14:10:03 GMT
ステータス: 翻訳完了
システム内更新日: 2024-11-22 15:16:03.098128
Title: The Boundaries of Verifiable Accuracy, Robustness, and Generalisation in Deep Learning
Title（参考訳）: 深層学習における検証精度・ロバスト性・一般化の境界
Authors: Alexander Bastounis, Alexander N. Gorban, Anders C. Hansen, Desmond J. Higham, Danil Prokhorov, Oliver Sutton, Ivan Y. Tyukin, Qinghua Zhou,
Abstract要約: 経験的リスクを最小限に抑えるため,古典的な分布に依存しないフレームワークとアルゴリズムを検討する。理想的な安定かつ正確なニューラルネットワークの計算と検証が極めて難しいタスク群が存在することを示す。
参考スコア（独自算出の注目度）: 71.14237199051276
License:
Abstract: In this work, we assess the theoretical limitations of determining guaranteed stability and accuracy of neural networks in classification tasks. We consider classical distribution-agnostic framework and algorithms minimising empirical risks and potentially subjected to some weights regularisation. We show that there is a large family of tasks for which computing and verifying ideal stable and accurate neural networks in the above settings is extremely challenging, if at all possible, even when such ideal solutions exist within the given class of neural architectures.
Abstract（参考訳）: 本研究では,分類タスクにおけるニューラルネットワークの安定性と精度を保証する理論的限界を評価する。我々は、古典的な分布に依存しないフレームワークとアルゴリズムを経験的リスクを最小限に抑え、いくつかの重み付け正則化を受ける可能性があると考えている。このような理想的なソリューションが与えられたニューラルネットワークのクラス内に存在するとしても、上記の設定で理想的な安定かつ正確なニューラルネットワークを計算し検証する作業は、可能ならば極めて困難であることを示す。

関連論文リスト

Computability of Classification and Deep Learning: From Theoretical Limits to Practical Feasibility through Quantization [53.15874572081944]
ディープラーニングフレームワークにおける計算可能性について,2つの観点から検討する。根底にある問題が十分に解決された場合でも、ディープニューラルネットワークを訓練する際のアルゴリズム上の制限を示す。最後に、分類と深層ネットワークトレーニングの定量化バージョンにおいて、計算可能性の制限は発生せず、一定の程度まで克服可能であることを示す。
論文参考訳（メタデータ） (2024-08-12T15:02:26Z)
Generalized Uncertainty of Deep Neural Networks: Taxonomy and Applications [1.9671123873378717]
ディープニューラルネットワークの不確実性は、解釈可能性と透明性の感覚において重要であるだけでなく、パフォーマンスをさらに向上するためにも重要であることを示す。我々は、ディープニューラルネットワークの不確実性の定義を、入力またはインプットラベルペアに関連する任意の数またはベクトルに一般化し、そのような不確かさをディープモデルから「マイニングに関する既存の方法」をカタログ化する。
論文参考訳（メタデータ） (2023-02-02T22:02:33Z)
Quasi-orthogonality and intrinsic dimensions as measures of learning and generalisation [55.80128181112308]
ニューラルネットワークの特徴空間の次元性と準直交性は、ネットワークの性能差別と共同して機能する可能性があることを示す。本研究は, ネットワークの最終的な性能と, ランダムに初期化された特徴空間の特性との関係を示唆する。
論文参考訳（メタデータ） (2022-03-30T21:47:32Z)
Sparse Deep Learning: A New Framework Immune to Local Traps and Miscalibration [12.05471394131891]
我々は、上記の問題を一貫性のある方法で解決する、疎いディープラーニングのための新しいフレームワークを提供する。我々はスパース深層学習の理論的基礎を築き,スパースニューラルネットワークの学習に先立つアニールアルゴリズムを提案する。
論文参考訳（メタデータ） (2021-10-01T21:16:34Z)
On the regularized risk of distributionally robust learning over deep neural networks [0.0]
本研究では, 分散ロバスト学習と正規化の異なる形態の関係について検討し, ディープニューラルネットワークのロバスト性について検討した。私たちは、堅牢なニューラルネットワークのトレーニングのために、スケーラブルなアルゴリズムのファミリーを動機付けています。
論文参考訳（メタデータ） (2021-09-13T20:10:39Z)
The mathematics of adversarial attacks in AI -- Why deep learning is unstable despite the existence of stable neural networks [69.33657875725747]
固定アーキテクチャを用いた分類問題に対するニューラルネットワークのトレーニングに基づくトレーニング手順が,不正確あるいは不安定なニューラルネットワーク(正確であれば)を生み出すことを証明している。鍵となるのは、安定かつ正確なニューラルネットワークは入力に依存する可変次元を持つ必要があり、特に、可変次元は安定性に必要な条件である。我々の結果は、正確で安定したニューラルネットワークが存在するというパラドックスを示しているが、現代のアルゴリズムはそれらを計算していない。
論文参考訳（メタデータ） (2021-09-13T16:19:25Z)
Provably Training Neural Network Classifiers under Fairness Constraints [70.64045590577318]
過パラメータのニューラルネットワークが制約を満たしていることを示す。公平なニューラルネットワーク分類器を構築する上で重要な要素は、ニューラルネットワークの非応答解析を確立することである。
論文参考訳（メタデータ） (2020-12-30T18:46:50Z)
Learning for Integer-Constrained Optimization through Neural Networks with Limited Training [28.588195947764188]
我々は、その構成成分の機能の観点から完全に解釈可能な、対称的で分解されたニューラルネットワーク構造を導入する。整数制約の根底にあるパターンを活用することで、導入されたニューラルネットワークは、限られたトレーニングでより優れた一般化性能を提供する。提案手法は, 半分解フレームワークにさらに拡張可能であることを示す。
論文参考訳（メタデータ） (2020-11-10T21:17:07Z)
A general framework for defining and optimizing robustness [74.67016173858497]
分類器の様々な種類の堅牢性を定義するための厳密でフレキシブルなフレームワークを提案する。我々の概念は、分類器の堅牢性は正確性とは無関係な性質と考えるべきであるという仮定に基づいている。我々は,任意の分類モデルに適用可能な,非常に一般的なロバスト性フレームワークを開発する。
論文参考訳（メタデータ） (2020-06-19T13:24:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。