論文の概要: Positive-incentive Noise

• arxiv url: http://arxiv.org/abs/2212.09541v1
• Date: Mon, 19 Dec 2022 15:33:34 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-20 18:16:39.071625
• Title: Positive-incentive Noise
• Title（参考訳）: ポジティブインセンティブノイズ
• Authors: Xuelong Li
• Abstract要約: 騒音は様々な分野、例えば工学や学習システムにおいて深刻な問題と見なされている。 本稿では,従来の提案が常に成立するかどうかを検討することを目的とする。 $pi$-noiseは、いくつかのモデルに新しい説明を提供し、マルチタスク学習や逆トレーニングなど、いくつかの分野に新しい原則を提供する。
• 参考スコア（独自算出の注目度）: 91.3755431537592
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Noise is conventionally viewed as a severe problem in diverse fields, e.g., engineering, learning systems. However, this paper aims to investigate whether the conventional proposition always holds. It begins with the definition of task entropy, which extends from the information entropy and measures the complexity of the task. After introducing the task entropy, the noise can be classified into two kinds, Positive-incentive noise (Pi-noise or $\pi$-noise) and pure noise, according to whether the noise can reduce the complexity of the task. Interestingly, as shown theoretically and empirically, even the simple random noise can be the $\pi$-noise that simplifies the task. $\pi$-noise offers new explanations for some models and provides a new principle for some fields, such as multi-task learning, adversarial training, etc. Moreover, it reminds us to rethink the investigation of noises.
• Abstract（参考訳）: 騒音は様々な分野、例えば工学や学習システムにおいて深刻な問題と見なされている。 しかし,本論文は従来の提案が常に成り立つかどうかを検討することを目的としている。 それは、情報エントロピーから拡張され、タスクの複雑さを測定するタスクエントロピーの定義から始まります。 タスクエントロピーを導入すると、ノイズがタスクの複雑さを減少させるかどうかに応じて、正のインセンティブノイズ(pi-noiseまたは$\pi$-noise)と純粋ノイズの2種類に分類できる。 興味深いことに、理論的および経験的に示されるように、単純なランダムノイズでさえ、タスクを単純化する$\pi$-noiseである。 $\pi$-noiseは、いくつかのモデルに新しい説明を提供し、マルチタスク学習や逆トレーニングなど、いくつかの分野に新しい原則を提供する。 さらに、騒音の調査を再考することを思い出させる。

関連論文リスト

• Data Augmentation of Contrastive Learning is Estimating Positive-incentive Noise [54.24688963649581]
  コントラスト学習と$pi$-noiseの関係を科学的に検討する。 タスクに有益なノイズを学習することを目的としたポジティブ・インセンティブノイズ(Pi-Noise または $pi$-Noise )のアイデアに触発されて,我々は $pi$-noise ジェネレータを開発した。
  論文  参考訳（メタデータ） (2024-08-19T12:07:42Z)
• Understanding the Effect of Noise in LLM Training Data with Algorithmic Chains of Thought [0.0]
  思考の連鎖におけるノイズが,高度に制御された環境下でのタスクパフォーマンスに与える影響について検討する。 本研究では,CoTトレース処理後に適用される局所的な雑音と,トレース処理時にエラーを伝播する大域的なノイズであるテクトダイナミックノイズの2種類を定義した。 微調整されたモデルでは、高レベルの静的ノイズに対して非常に頑健であるが、低レベルの動的ノイズに対してかなり苦労している。
  論文  参考訳（メタデータ） (2024-02-06T13:59:56Z)
• NoisyNN: Exploring the Influence of Information Entropy Change in Learning Systems [25.05692528736342]
  本研究では,特定の条件下での各種深層建築物の性能向上効果を示す。 ノイズが作業の複雑さを軽減するのに役立つかどうかに基づいて、ノイズを正ノイズ(PN)と有害ノイズ(HN)の2つのタイプに分類する。
  論文  参考訳（メタデータ） (2023-09-19T14:04:04Z)
• Walking Noise: On Layer-Specific Robustness of Neural Architectures against Noisy Computations and Associated Characteristic Learning Dynamics [1.5184189132709105]
  本稿では,異なる分類タスクとモデルアーキテクチャに対する加法的,乗法的,混合ノイズの影響について論じる。 本研究では,ロバスト性を測定するため,層固有のノイズを注入するウォーキングノイズ法を提案する。 我々は,この方法論の実践的利用に関する議論をまとめ,ノイズの多い環境での適応型マルチエグゼクティブの活用について論じる。
  論文  参考訳（メタデータ） (2022-12-20T17:09:08Z)
• CNT (Conditioning on Noisy Targets): A new Algorithm for Leveraging Top-Down Feedback [25.964963416932573]
  雑音目標条件付け(CNT)と呼ばれる教師あり学習のための新しい正規化器を提案する。 このアプローチは、ランダムノイズレベルにおいて、ターゲットのノイズバージョンにモデルを条件付けすることで構成される。 推定時には、ターゲットを知らないため、ノイズのみをターゲットに代えてネットワークを動作させる。
  論文  参考訳（メタデータ） (2022-10-18T00:54:40Z)
• Learning to Generate Realistic Noisy Images via Pixel-level Noise-aware Adversarial Training [50.018580462619425]
  我々は,PNGAN(Pixel-level Noise-aware Generative Adrial Network)という新しいフレームワークを提案する。 PNGANは、トレーニング済みのリアルデノイザーを使用して、フェイク画像とリアルノイズ画像をほぼノイズのないソリューション空間にマッピングする。 より優れたノイズフィッティングを実現するため,ジェネレータとしてSimple Multi-versa-scale Network (SMNet) を提案する。
  論文  参考訳（メタデータ） (2022-04-06T14:09:02Z)
• The Optimal Noise in Noise-Contrastive Learning Is Not What You Think [80.07065346699005]
  この仮定から逸脱すると、実際により良い統計的推定結果が得られることが示される。 特に、最適な雑音分布は、データと異なり、また、別の家族からさえも異なる。
  論文  参考訳（メタデータ） (2022-03-02T13:59:20Z)
• C2N: Practical Generative Noise Modeling for Real-World Denoising [53.96391787869974]
  両例を使わずに複雑な実世界の騒音を模倣するクリーン・ツー・ノイズ画像生成フレームワーク,すなわちC2Nを導入する。 我々は,C2Nの騒音発生器を実世界の騒音特性の成分に応じて構築し,広い範囲の騒音を正確に表現する。
  論文  参考訳（メタデータ） (2022-02-19T05:53:46Z)
• Dual Adversarial Network: Toward Real-world Noise Removal and Noise Generation [52.75909685172843]
  実世界の画像ノイズ除去は、コンピュータビジョンにおける長年の課題である。 本稿では,ノイズ除去およびノイズ発生タスクに対処する新しい統合フレームワークを提案する。 本手法はクリーンノイズ画像対の連成分布を学習する。
  論文  参考訳（メタデータ） (2020-07-12T09:16:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。