Fugu-MT 論文翻訳(概要): Worrisome Properties of Neural Network Controllers and Their Symbolic Representations

論文の概要: Worrisome Properties of Neural Network Controllers and Their Symbolic Representations

arxiv url: http://arxiv.org/abs/2307.15456v1
Date: Fri, 28 Jul 2023 10:20:08 GMT
ステータス: 処理完了
システム内更新日: 2023-07-31 12:52:32.079332
Title: Worrisome Properties of Neural Network Controllers and Their Symbolic Representations
Title（参考訳）: ニューラルネットワーク制御系のWorrisome特性とその記号表現
Authors: Jacek Cyranka and Kevin E M Church and Jean-Philippe Lessard
Abstract要約: ニューラルネットワークコントローラとその低ニューロンおよびシンボル抽象化に焦点を当てる。高平均戻り値に達する典型的なコントローラは、持続的な低リターン解を大量に生成する。単純なコントローラでは、より永続的な悪い解決策が認められます。
参考スコア（独自算出の注目度）: 0.966840768820136
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We raise concerns about controllers' robustness in simple reinforcement learning benchmark problems. We focus on neural network controllers and their low neuron and symbolic abstractions. A typical controller reaching high mean return values still generates an abundance of persistent low-return solutions, which is a highly undesirable property, easily exploitable by an adversary. We find that the simpler controllers admit more persistent bad solutions. We provide an algorithm for a systematic robustness study and prove existence of persistent solutions and, in some cases, periodic orbits, using a computer-assisted proof methodology.
Abstract（参考訳）: 単純な強化学習ベンチマーク問題におけるコントローラの堅牢性に関する懸念を提起する。ニューラルネットワークコントローラとその低ニューロンおよびシンボル抽象化に焦点を当てる。高平均戻り値に到達した典型的なコントローラは、敵に容易に悪用できる非常に望ましくない性質である、持続的な低リターン解を大量に生成する。単純なコントローラはより永続的な悪い解決策を認める。系統的ロバストネス研究のためのアルゴリズムを提供し,永続解の存在を証明し,場合によっては,コンピュータ支援の証明手法を用いて周期軌道を求める。

関連論文リスト

Rethinking Robustness Assessment: Adversarial Attacks on Learning-based Quadrupedal Locomotion Controllers [33.50779001548997]
Legged locomotionは最近、機械学習技術の進歩で顕著な成功を収めた。学習した移動制御器の弱点を識別するために,逐次的敵攻撃を利用する計算手法を提案する。我々の研究は、最先端のロバストコントローラーでさえ、十分に設計された低マグニチュード逆数列の下では著しく失敗することを示した。
論文参考訳（メタデータ） (2024-05-21T00:26:11Z)
Lyapunov-stable Neural Control for State and Output Feedback: A Novel Formulation [67.63756749551924]
学習ベースのニューラルネットワーク(NN)制御ポリシは、ロボット工学と制御の幅広いタスクにおいて、印象的な経験的パフォーマンスを示している。非線形力学系を持つNNコントローラのトラクション領域(ROA)に対するリアプノフ安定性の保証は困難である。我々は、高速な経験的ファルシフィケーションと戦略的正則化を用いて、Lyapunov証明書とともにNNコントローラを学習するための新しいフレームワークを実証する。
論文参考訳（メタデータ） (2024-04-11T17:49:15Z)
Rational Neural Network Controllers [0.0]
最近の研究は、制御システム(ニューラルフィードバックループとして知られる)におけるニューラルネットワークの有効性を実証している。このアプローチの大きな課題のひとつは、ニューラルネットワークが敵の攻撃に敏感であることが示されていることだ。本稿では、有理性ニューラルネットワークを考察し、ニューラルフィードバックループのロバストネス問題に有効に使用できる新しい有理性活性化関数を提案する。
論文参考訳（メタデータ） (2023-07-12T16:35:41Z)
Learning Robust and Correct Controllers from Signal Temporal Logic Specifications Using BarrierNet [5.809331819510702]
我々は,STL定量的セマンティクスを利用して,ロバスト満足度の概念を定義した。本研究では,STLのフラグメント内の式を満足させる訓練可能な高次制御バリア関数(HOCBF)を構築する。我々は、他のニューラルネットワークパラメータとともにHOCBFをトレーニングし、コントローラの堅牢性をさらに向上させる。
論文参考訳（メタデータ） (2023-04-12T21:12:15Z)
Distilling Deep RL Models Into Interpretable Neuro-Fuzzy Systems [2.0625936401496237]
本稿では,Q-networkから小型のニューロファジィコントローラへポリシーを抽出するアルゴリズムを提案する。これにより、蒸留を通してコンパクトなニューロファジィコントローラを訓練し、直接解決できないタスクを解決できます。
論文参考訳（メタデータ） (2022-09-07T14:43:14Z)
On the Robustness and Anomaly Detection of Sparse Neural Networks [28.832060124537843]
スパシティーによってネットワークがより堅牢になり、異常検知がより良くなることを示す。また, 構造的疎水性は, 高価なロバスト性および検出方法の複雑さを低減するのに大いに有効であることを示す。本稿では,適切な刈り取り法から得られた重みの感度を利用して異常サンプルを検出する新しい手法であるSensNormを紹介する。
論文参考訳（メタデータ） (2022-07-09T09:03:52Z)
The least-control principle for learning at equilibrium [65.2998274413952]
我々は、平衡反復ニューラルネットワーク、深層平衡モデル、メタラーニングを学ぶための新しい原理を提案する。私たちの結果は、脳がどのように学習するかを明らかにし、幅広い機械学習問題にアプローチする新しい方法を提供します。
論文参考訳（メタデータ） (2022-07-04T11:27:08Z)
Minimizing Control for Credit Assignment with Strong Feedback [65.59995261310529]
ディープニューラルネットワークにおける勾配に基づくクレジット割り当ての現在の手法は、無限小のフィードバック信号を必要とする。我々は、神経活動に対する強いフィードバックと勾配に基づく学習を組み合わせることで、ニューラルネットワークの最適化に関する新たな視点を自然に導き出すことを示す。 DFCにおける強いフィードバックを用いることで、空間と時間において完全に局所的な学習規則を用いることで、前向きとフィードバックの接続を同時に学習できることを示す。
論文参考訳（メタデータ） (2022-04-14T22:06:21Z)
Non-Singular Adversarial Robustness of Neural Networks [58.731070632586594]
小さな入力摂動に対する過敏性のため、アドリヤルロバスト性はニューラルネットワークにとって新たな課題となっている。我々は,データ入力とモデル重みの共振レンズを用いて,ニューラルネットワークの非特異な対角性の概念を定式化する。
論文参考訳（メタデータ） (2021-02-23T20:59:30Z)
Thinking Deeply with Recurrence: Generalizing from Easy to Hard Sequential Reasoning Problems [51.132938969015825]
我々は、リカレントネットワークは、非リカレントディープモデルの振る舞いを詳細にエミュレートする能力を有することを観察する。再帰ステップの少ない単純な迷路を解くように訓練された再帰ネットワークは、推論中に追加の繰り返しを実行するだけで、より複雑な問題を解決することができる。
論文参考訳（メタデータ） (2021-02-22T14:09:20Z)
Enforcing robust control guarantees within neural network policies [76.00287474159973]
本稿では、ニューラルネットワークによってパラメータ化され、ロバスト制御と同じ証明可能なロバスト性基準を適用した、一般的な非線形制御ポリシークラスを提案する。提案手法は,複数の領域において有効であり,既存のロバスト制御法よりも平均ケース性能が向上し,(非ロバスト)深部RL法よりも最悪のケース安定性が向上した。
論文参考訳（メタデータ） (2020-11-16T17:14:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。