論文の概要: Based on What We Can Control Artificial Neural Networks

• arxiv url: http://arxiv.org/abs/2310.05692v1
• Date: Mon, 9 Oct 2023 13:09:38 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-12 04:49:22.810539
• Title: Based on What We Can Control Artificial Neural Networks
• Title（参考訳）: ニューラルネットワークを制御できることに基づいて
• Authors: Cheng Kang and Xujing Yao
• Abstract要約: 制御システムからの知識を利用することで,システム機能を解析し,システム応答をシミュレートすることができる。 ANNの制御は,(1)全てのオプティマイザがコントローラとして機能し,(2)全ての学習システムが入力と出力で制御システムとして機能し,(3)オプティマイザが学習システムに適合するように,オプティマイザと学習システムの設計の恩恵を受けることができる。
• 参考スコア（独自算出の注目度）: 1.0606089830347052
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: How can the stability and efficiency of Artificial Neural Networks (ANNs) be ensured through a systematic analysis method? This paper seeks to address that query. While numerous factors can influence the learning process of ANNs, utilizing knowledge from control systems allows us to analyze its system function and simulate system responses. Although the complexity of most ANNs is extremely high, we still can analyze each factor (e.g., optimiser, hyperparameters) by simulating their system response. This new method also can potentially benefit the development of new optimiser and learning system, especially when discerning which components adversely affect ANNs. Controlling ANNs can benefit from the design of optimiser and learning system, as (1) all optimisers act as controllers, (2) all learning systems operate as control systems with inputs and outputs, and (3) the optimiser should match the learning system. Please find codes: \url{https://github.com/RandomUserName2023/Control-ANNs}.
• Abstract（参考訳）: ニューラルネットワーク(anns)の安定性と効率は,系統的解析によってどのように保証できるのか? 本稿ではその問合せに対処する。 多くの要因がANNの学習プロセスに影響を与えるが、制御システムからの知識を利用することで、システム機能を分析し、システム応答をシミュレートすることができる。 ほとんどのアンの複雑さは極めて高いが、システム応答をシミュレートすることで、各因子(例えば、オプティマイザー、ハイパーパラメータ)を分析することができる。 この新しい手法は、特にアンに悪影響を及ぼす成分を識別する場合に、新しいオプティマイザーと学習システムの開発に役立つ可能性がある。 ANNの制御は,(1)全てのオプティマイザがコントローラとして機能し,(2)全ての学習システムが入力と出力で制御システムとして機能し,(3)オプティマイザが学習システムに適合するように,オプティマイザと学習システムの設計の恩恵を受けることができる。 コード: \url{https://github.com/randomusername2023/control-anns}

関連論文リスト

• Semi-adaptive Synergetic Two-way Pseudoinverse Learning System [8.16000189123978]
  本稿では,半適応型2方向擬似逆学習システムを提案する。 各サブシステムは、前方学習、後方学習、機能結合モジュールを含む。 システム全体は、非段階的な降下学習アルゴリズムを用いて訓練される。
  論文  参考訳（メタデータ） (2024-06-27T06:56:46Z)
• Dendrites endow artificial neural networks with accurate, robust and parameter-efficient learning [0.0]
  そこで本研究では,新しいANNアーキテクチャが,生物デンドライトの構造的接続性と制限されたサンプリング特性を取り入れていることを示す。 デンドライトANNは, 画像分類タスクにおいて, 従来のANNを過度に適合させ, 性能を向上する上で, より堅牢であることがわかった。
  論文  参考訳（メタデータ） (2024-04-04T11:22:58Z)
• Real-Time Progressive Learning: Accumulate Knowledge from Control with Neural-Network-Based Selective Memory [2.8638167607890836]
  リアルタイム・プログレッシブ・ラーニング(RTPL)と呼ばれる放射基底関数ニューラルネットワークに基づく学習制御方式を提案する。 RTPLは安定性と閉ループ性能を保証したシステムの未知のダイナミクスを学習する。
  論文  参考訳（メタデータ） (2023-08-08T12:39:57Z)
• Continual Learning, Fast and Slow [75.53144246169346]
  補完学習システム理論(Complementary Learning Systems theory)によれば、人間は2つの相補的なシステムを通して効果的な共連続学習を行う。 EmphDualNets(Dual Networks)は、タスクの教師付き学習のための高速学習システムと、自己監視学習(SSL)によるタスク非依存の汎用表現の表現学習のための遅い学習システムからなる、一般的な連続学習フレームワークである。 我々はDualNetsの有望な成果を、標準的なオフラインタスク認識設定から、オンラインタスクフリーシナリオまで、幅広い連続的な学習プロトコルで実証する。
  論文  参考訳（メタデータ） (2022-09-06T10:48:45Z)
• The least-control principle for learning at equilibrium [65.2998274413952]
  我々は、平衡反復ニューラルネットワーク、深層平衡モデル、メタラーニングを学ぶための新しい原理を提案する。 私たちの結果は、脳がどのように学習するかを明らかにし、幅広い機械学習問題にアプローチする新しい方法を提供します。
  論文  参考訳（メタデータ） (2022-07-04T11:27:08Z)
• Near-optimal control of dynamical systems with neural ordinary differential equations [0.0]
  ディープラーニングとニューラルネットワークに基づく最適化の最近の進歩は、高次元力学系を含む制御問題を解くのに役立つ方法の開発に寄与している。 まず、時間を通して切り詰められた非切り抜きのバックプロパゲーションが、実行時のパフォーマンスとニューラルネットワークが最適な制御関数を学習する能力にどのように影響するかを分析する。
  論文  参考訳（メタデータ） (2022-06-22T14:11:11Z)
• Learning Connectivity-Maximizing Network Configurations [123.01665966032014]
  本稿では、専門家からコミュニケーションエージェントを配置することを学ぶ畳み込みニューラルネットワーク(CNN)を用いた教師あり学習手法を提案する。 我々は,標準ライントポロジやリングトポロジ,ランダムに生成された105万件のテストケース,トレーニング中に見えない大規模なチームについて,CNNのパフォーマンスを実証した。 トレーニング後,本システムは10～20名のエージェントの最適化手法よりも2桁高速な接続構成を生成する。
  論文  参考訳（メタデータ） (2021-12-14T18:59:01Z)
• Evolving Learning Rate Optimizers for Deep Neural Networks [2.6498598849144472]
  本稿では,学習率を自動的に設計するAutoLRというフレームワークを提案する。 システムの進化した分類器ADESは、斬新で革新的と思われるが、私たちの知る限りでは、最先端の手法とは異なる構造を持っている。
  論文  参考訳（メタデータ） (2021-03-23T15:23:57Z)
• Reverse engineering learned optimizers reveals known and novel mechanisms [50.50540910474342]
  学習は最適化問題を解決するために自らを訓練できるアルゴリズムである。 実験の結果は,学習の動作方法に関するそれまでの曖昧な理解を解明し,今後の学習を解釈するためのツールを確立するのに役立つ。
  論文  参考訳（メタデータ） (2020-11-04T07:12:43Z)
• Anticipating the Long-Term Effect of Online Learning in Control [75.6527644813815]
  AntLerは、学習を予想する学習ベースの制御法則の設計アルゴリズムである。 AntLer は確率 1 と任意に最適な解を近似することを示す。
  論文  参考訳（メタデータ） (2020-07-24T07:00:14Z)
• Distributed and Democratized Learning: Philosophy and Research Challenges [80.39805582015133]
  民主化学習(Dem-AI)という新しいデザイン哲学を提案する。 ヒトの社会的グループに触発され、提案されたDem-AIシステムの学習エージェントの専門グループは階層構造で自己組織化され、より効率的に学習タスクを遂行する。 本稿では,様々な学際分野に触発された未来のDem-AIシステムを実現するためのガイドラインとして,参照設計を提案する。
  論文  参考訳（メタデータ） (2020-03-18T08:45:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。