論文の概要: Post Selections Using Test Sets (PSUTS) and How Developmental Networks Avoid Them

• arxiv url: http://arxiv.org/abs/2106.13233v1
• Date: Sat, 19 Jun 2021 22:22:04 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-04 19:42:50.494678
• Title: Post Selections Using Test Sets (PSUTS) and How Developmental Networks Avoid Them
• Title（参考訳）: テストセット(PSUTS)を用いたポストセレクションと開発ネットワークの回避方法
• Authors: Juyang Weng
• Abstract要約: テストセットを用いたポストセレクション(PSUTS)は、人工知能(AI)において稀に報告されるプラクティスである。 この論文はPSUTSとは何かを正式に定義し、なぜランダムな初期重みを持つエラーバックプロップ法が深刻な局所的ミニマに苦しむのかを解析する。 今後の出版物における透明性向上のために,本論文では,訓練されたすべてのネットワークに対する開発エラーと呼ばれる,AIの性能評価のための新しい標準を提案する。
• 参考スコア（独自算出の注目度）: 3.5027291542274357
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper raises a rarely reported practice in Artificial Intelligence (AI) called Post Selection Using Test Sets (PSUTS). Consequently, the popular error-backprop methodology in deep learning lacks an acceptable generalization power. All AI methods fall into two broad schools, connectionist and symbolic. The PSUTS fall into two kinds, machine PSUTS and human PSUTS. The connectionist school received criticisms for its "scruffiness" due to a huge number of network parameters and now the worse machine PSUTS; but the seemingly "clean" symbolic school seems more brittle because of a weaker generalization power using human PSUTS. This paper formally defines what PSUTS is, analyzes why error-backprop methods with random initial weights suffer from severe local minima, why PSUTS violates well-established research ethics, and how every paper that used PSUTS should have at least transparently reported PSUTS. For improved transparency in future publications, this paper proposes a new standard for performance evaluation of AI, called developmental errors for all networks trained, along with Three Learning Conditions: (1) an incremental learning architecture, (2) a training experience and (3) a limited amount of computational resources. Developmental Networks avoid PSUTS and are not "scruffy" because they drive Emergent Turing Machines and are optimal in the sense of maximum-likelihood across lifetime.
• Abstract（参考訳）: 本稿では,PSUTS(Post Selection Using Test Sets)と呼ばれる人工知能(AI)の実践について報告する。 したがって、ディープラーニングにおける一般的なエラーバックプロップ手法は、許容できる一般化力に欠ける。 すべてのAIメソッドは、コネクショナリズムとシンボリックという2つの広い学校に分類される。 PSUTSはマシンPSUTSと人間のPSUTSの2種類に分類される。 コネクショニストの学校は、膨大な数のネットワークパラメータと、今では悪いマシンPSUTSのために、その"scruffiness"に対する批判を受けたが、人間のPSUTSを用いたより弱い一般化力のために、一見「クリーン」な象徴的な学校はより脆弱に思える。 本稿は、PSUTSとは何か、なぜランダムな初期重み付きエラーバックプロップ法が深刻な局所的ミニマに苦しむのか、なぜPSUTSが確立された研究倫理に違反しているのか、また、PSUTSを使用したすべての論文が、如何にPSUTSを透過的に報告すべきかを正式に定義する。 今後の出版物における透明性向上のために,本論文では,(1)段階的な学習アーキテクチャ,(2)訓練経験,(3)限られた計算資源を含む3つの学習条件とともに,訓練されたすべてのネットワークに対する開発エラーという,AIの性能評価のための新しい標準を提案する。 開発ネットワークはPSUTSを回避し、Emergent Turing Machinesを駆動し、生涯にわたって最大の類似性という意味で最適であるため、"scruffy"ではない。

関連論文リスト

• Structural Generalization in Autonomous Cyber Incident Response with Message-Passing Neural Networks and Reinforcement Learning [0.0]
  小さなネットワーク変更のためのリトレーニングエージェントは、時間とエネルギーを消費する。 ホストの数が異なる元のネットワークの変種を作成し、エージェントを追加のトレーニングなしでテストします。 デフォルトのベクトル状態表現を使用するエージェントのパフォーマンスは向上するが、各ネットワークで特別にトレーニングする必要がある。
  論文  参考訳（メタデータ） (2024-07-08T09:34:22Z)
• Decentralized Learning Strategies for Estimation Error Minimization with Graph Neural Networks [94.2860766709971]
  統計的に同一性を持つ無線ネットワークにおける自己回帰的マルコフ過程のサンプリングとリモート推定の課題に対処する。 我々のゴールは、分散化されたスケーラブルサンプリングおよび送信ポリシーを用いて、時間平均推定誤差と/または情報の年齢を最小化することである。
  論文  参考訳（メタデータ） (2024-04-04T06:24:11Z)
• Impact of Decentralized Learning on Player Utilities in Stackelberg Games [57.08270857260131]
  多くの2エージェントシステムでは、各エージェントは別々に学習し、2つのエージェントの報酬は完全に一致しない。 分散学習を用いたStackelbergゲームとしてこれらのシステムをモデル化し、標準後悔ベンチマークが少なくとも1人のプレイヤーにとって最悪の線形後悔をもたらすことを示す。 我々は,これらのベンチマークに関して,両プレイヤーにとってほぼ最適な$O(T2/3)を後悔するアルゴリズムを開発した。
  論文  参考訳（メタデータ） (2024-02-29T23:38:28Z)
• Leveraging AI Predicted and Expert Revised Annotations in Interactive Segmentation: Continual Tuning or Full Training? [7.742968966681627]
  人間の専門家はAIによって予測されるアノテーションを改訂し、その結果、AIはこれらの改訂されたアノテーションから学習することで予測を改善する。 破滅的な忘れのリスク--AIは、専門家の改訂されたクラスを使用して再訓練された場合にのみ、以前に学んだクラスを忘れる傾向があります。 本稿では,ネットワーク設計とデータ再利用という2つの視点からこの問題に対処する継続的チューニングを提案する。
  論文  参考訳（メタデータ） (2024-02-29T18:22:12Z)
• iPINNs: Incremental learning for Physics-informed neural networks [66.4795381419701]
  物理インフォームドニューラルネットワーク(PINN)は、最近偏微分方程式(PDE)を解く強力なツールとなっている。 本稿では,新しいタスクのパラメータを追加せずに連続的に複数のタスクを学習できるインクリメンタルPINNを提案する。 提案手法は,PDEごとに個別のサブネットワークを作成し,従来のサブネットワークと重なり合うようにすることで,最も単純なPDEから複数のPDEを学習する。
  論文  参考訳（メタデータ） (2023-04-10T20:19:20Z)
• Towards Unbounded Machine Unlearning [13.31957848633701]
  我々は,異なるアプリケーション (RB, RC, UP) に対するアンラーニングを,それぞれ独自のデシラタ,忘れるための定義,および品質を忘れるための関連する指標をもって研究する。 UPでは,非学習者に対する強力なメンバーシップ推論攻撃の新たな適応を提案する。 また、RB, RC, UPの異なるアプリケーション依存メトリクス間で品質を忘れる上で、一貫してトップパフォーマーである新しいアンラーニングアルゴリズムであるSCRUBを提案する。
  論文  参考訳（メタデータ） (2023-02-20T10:15:36Z)
• WR-ONE2SET: Towards Well-Calibrated Keyphrase Generation [57.11538133231843]
  キーワード生成は、入力文書を要約する短いフレーズを自動的に生成することを目的としている。 最近登場したONE2SETパラダイムは、キーフレーズをセットとして生成し、競争性能を達成した。 本稿では, ONE2SET を拡張した WR-ONE2SET を提案する。
  論文  参考訳（メタデータ） (2022-11-13T09:56:24Z)
• Identification of Twitter Bots based on an Explainable ML Framework: the US 2020 Elections Case Study [72.61531092316092]
  本稿では,ラベル付きTwitterデータに基づくTwitterボット識別システムの設計に焦点をあてる。 Supervised Machine Learning (ML)フレームワークは、Extreme Gradient Boosting (XGBoost)アルゴリズムを用いて採用されている。 また、MLモデルの予測を説明するためにShapley Additive Explanations (SHAP)をデプロイした。
  論文  参考訳（メタデータ） (2021-12-08T14:12:24Z)
• PQK: Model Compression via Pruning, Quantization, and Knowledge Distillation [43.45412122086056]
  本稿では, プルーニング, 量子化, 知識蒸留プロセスからなるPQKと呼ばれる新しいモデル圧縮手法を提案する。 PQKは、教師モデルを事前訓練することなく、より良い学生ネットワークをトレーニングするための教師ネットワークを構築するために、刈り込みプロセスで刈り取られた重要でない重量を利用する。 本手法を認識モデルに適用し,キーワードスポッティング(KWS)と画像認識におけるPQKの有効性を検証する。
  論文  参考訳（メタデータ） (2021-06-25T07:24:53Z)
• Replicate or Relocate? Non-Uniform Access in Parameter Servers [74.89066750738971]
  ホットスポットパラメータを複製し、アクセス頻度の低いパラメータを再配置し、非決定性を管理する専門技術を採用しているPSであるLapse2を紹介します。 私たちの実験研究では、Lapse2は既存の単一技術PSを最大1桁上回った。
  論文  参考訳（メタデータ） (2021-04-01T14:52:32Z)
• Robot Action Selection Learning via Layered Dimension Informed Program Synthesis [12.568929994661769]
  アクション選択ポリシー(ASPs)は、複雑なハイレベルなタスクに低レベルのロボットスキルを構成するために使用される。 ロボット工学におけるASPsに関する2つの重要な洞察を提示する。 層状次元インフォームドプログラム合成(LDIPS)を導入する。
  論文  参考訳（メタデータ） (2020-08-10T13:52:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。