論文の概要: Generalized Entropy Regularization or: There's Nothing Special about Label Smoothing

• arxiv url: http://arxiv.org/abs/2005.00820v2
• Date: Tue, 12 May 2020 06:22:06 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-07 11:49:02.959785
• Title: Generalized Entropy Regularization or: There's Nothing Special about Label Smoothing
• Title（参考訳）: 一般化エントロピー規則化か:ラベルの平滑化について特別なことは何もない
• Authors: Clara Meister, Elizabeth Salesky, Ryan Cotterell
• Abstract要約: 本稿では, ラベル平滑化を含むエントロピー正則化器群を紹介する。 モデル性能のばらつきはモデルのエントロピーによって大きく説明できる。 我々は,他のエントロピー正規化手法の使用を推奨する。
• 参考スコア（独自算出の注目度）: 83.78668073898001
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Prior work has explored directly regularizing the output distributions of probabilistic models to alleviate peaky (i.e. over-confident) predictions, a common sign of overfitting. This class of techniques, of which label smoothing is one, has a connection to entropy regularization. Despite the consistent success of label smoothing across architectures and data sets in language generation tasks, two problems remain open: (1) there is little understanding of the underlying effects entropy regularizers have on models, and (2) the full space of entropy regularization techniques is largely unexplored. We introduce a parametric family of entropy regularizers, which includes label smoothing as a special case, and use it to gain a better understanding of the relationship between the entropy of a model and its performance on language generation tasks. We also find that variance in model performance can be explained largely by the resulting entropy of the model. Lastly, we find that label smoothing provably does not allow for sparsity in an output distribution, an undesirable property for language generation models, and therefore advise the use of other entropy regularization methods in its place.
• Abstract（参考訳）: 従来の研究は、確率モデルの出力分布を直接正規化し、過度に適合する共通の兆候であるピーク性(すなわち過信)の予測を緩和した。 ラベルの平滑化が一つであるこの手法のクラスはエントロピー正則化と結びついている。 言語生成タスクにおけるアーキテクチャやデータセット間のラベルスムーシングが一貫した成功にもかかわらず、(1)エントロピー正規化器がモデルに持つ基礎的効果についてはほとんど理解されておらず、(2)エントロピー正規化技術の完全な空間は探索されていない。 本稿では,特殊なケースとしてラベル平滑化を含むエントロピー正規化器のパラメトリックファミリーを導入し,モデルエントロピーと言語生成タスクの性能の関係をよりよく理解するために使用する。 また,モデル性能のばらつきは,モデルのエントロピーによって説明できることがわかった。 最後に、ラベルの平滑化は、言語生成モデルにおいて望ましくない性質である出力分布の疎結合を許容しないため、他のエントロピー正規化手法の使用を推奨する。

関連論文リスト

• A Complete Decomposition of KL Error using Refined Information and Mode Interaction Selection [11.994525728378603]
  我々は高次モード相互作用に着目したログ線形モデルの古典的定式化を再考する。 学習した分布は、実際に利用可能な有限量のデータをより効率的に利用することができる。
  論文  参考訳（メタデータ） (2024-10-15T18:08:32Z)
• An Entropy-Based Test and Development Framework for Uncertainty Modeling in Level-Set Visualizations [2.5449631655313896]
  アンサンブルデータに直接エントロピー計算を用いて予測結果を確立する。 非パラメトリックヒストグラムモデルにおけるビンの削減はより効果的であるのに対し、量子モデルにおける多くのビンはデータの正確性に近づいている。
  論文  参考訳（メタデータ） (2024-09-13T00:31:16Z)
• Mutual Exclusivity Training and Primitive Augmentation to Induce Compositionality [84.94877848357896]
  最近のデータセットは、標準的なシーケンス・ツー・シーケンスモデルにおける体系的な一般化能力の欠如を露呈している。 本稿では,セq2seqモデルの振る舞いを分析し,相互排他バイアスの欠如と全例を記憶する傾向の2つの要因を同定する。 広範に使用されている2つの構成性データセット上で、標準的なシーケンス・ツー・シーケンスモデルを用いて、経験的改善を示す。
  論文  参考訳（メタデータ） (2022-11-28T17:36:41Z)
• Adaptive Label Smoothing with Self-Knowledge in Natural Language Generation [16.878277421402945]
  平滑化パラメータに動的性質をもたらす正規化スキームを提案する。 トレーニングのモデルは、前方伝播中のハエの平滑化の程度を自己制御する。
  論文  参考訳（メタデータ） (2022-10-22T11:52:38Z)
• Neuro-Symbolic Entropy Regularization [78.16196949641079]
  構造化予測では、目的は構造化されたオブジェクトをエンコードする多くの出力変数を共同で予測することである。 エントロピー正則化(Entropy regularization)という1つのアプローチは、決定境界が低確率領域にあるべきであることを示唆している。 我々は、モデルが有効対象を確実に予測することを奨励する損失、ニューロシンボリックエントロピー正規化を提案する。
  論文  参考訳（メタデータ） (2022-01-25T06:23:10Z)
• Squared $\ell_2$ Norm as Consistency Loss for Leveraging Augmented Data to Learn Robust and Invariant Representations [76.85274970052762]
  元のサンプルと拡張されたサンプルの埋め込み/表現の距離を規則化することは、ニューラルネットワークの堅牢性を改善するための一般的なテクニックである。 本稿では、これらの様々な正規化選択について検討し、埋め込みの正規化方法の理解を深める。 私たちが特定したジェネリックアプローチ(squared $ell$ regularized augmentation)は、それぞれ1つのタスクのために特別に設計されたいくつかの手法より優れていることを示す。
  論文  参考訳（メタデータ） (2020-11-25T22:40:09Z)
• Understanding Double Descent Requires a Fine-Grained Bias-Variance Decomposition [34.235007566913396]
  ラベルに関連付けられた用語への分散の解釈可能で対称的な分解について述べる。 バイアスはネットワーク幅とともに単調に減少するが、分散項は非単調な振る舞いを示す。 我々はまた、著しく豊かな現象論も分析する。
  論文  参考訳（メタデータ） (2020-11-04T21:04:02Z)
• Removing Bias in Multi-modal Classifiers: Regularization by Maximizing Functional Entropies [88.0813215220342]
  いくつかのモダリティは、他のものよりも分類結果に容易に寄与することができる。 機能的エントロピーと機能的フィッシャー情報とを結合した対数ソボレフの不等式に基づく手法を開発した。 VQA-CPv2 と SocialIQ の2つの挑戦的マルチモーダルデータセットに対して,より均一にモダリティを活用しながら,最先端の結果を得る。
  論文  参考訳（メタデータ） (2020-10-21T07:40:33Z)
• Flexible mean field variational inference using mixtures of non-overlapping exponential families [6.599344783327053]
  標準平均場変動推論を用いることで、疎性誘導前のモデルに対して妥当な結果が得られないことを示す。 拡散指数族と 0 の点質量の任意の混合が指数族を形成することを示す。
  論文  参考訳（メタデータ） (2020-10-14T01:46:56Z)
• Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
  補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。 テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。 以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
  論文  参考訳（メタデータ） (2020-06-22T21:12:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。