論文の概要: Controlling Neural Networks with Rule Representations
- arxiv url: http://arxiv.org/abs/2106.07804v1
- Date: Mon, 14 Jun 2021 23:28:56 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-17 06:42:08.141247
- Title: Controlling Neural Networks with Rule Representations
- Title(参考訳): ルール表現によるニューラルネットワークの制御
- Authors: Sungyong Seo, Sercan O. Arik, Jinsung Yoon, Xiang Zhang, Kihyuk Sohn,
Tomas Pfister
- Abstract要約: 本稿では,ルールを深層学習に統合する新しい学習手法を提案する。
DeepCTRLはルールベースの目的と組み合わせて、ルールエンコーダをモデルに組み込む。
ルールの強度に適応するために再トレーニングをする必要はなく、推測すると、ユーザは所望の操作ポイントに基づいてそれを調整できる。
- 参考スコア(独自算出の注目度): 48.165658432032636
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We propose a novel training method to integrate rules into deep learning, in
a way their strengths are controllable at inference. Deep Neural Networks with
Controllable Rule Representations (DeepCTRL) incorporates a rule encoder into
the model coupled with a rule-based objective, enabling a shared representation
for decision making. DeepCTRL is agnostic to data type and model architecture.
It can be applied to any kind of rule defined for inputs and outputs. The key
aspect of DeepCTRL is that it does not require retraining to adapt the rule
strength -- at inference, the user can adjust it based on the desired operation
point on accuracy vs. rule verification ratio. In real-world domains where
incorporating rules is critical -- such as Physics, Retail and Healthcare -- we
show the effectiveness of DeepCTRL in teaching rules for deep learning.
DeepCTRL improves the trust and reliability of the trained models by
significantly increasing their rule verification ratio, while also providing
accuracy gains at downstream tasks. Additionally, DeepCTRL enables novel use
cases such as hypothesis testing of the rules on data samples, and unsupervised
adaptation based on shared rules between datasets.
- Abstract(参考訳): 本研究では,ルールを深層学習に統合する新たな学習手法を提案する。
制御可能なルール表現(deepctrl)を備えたディープニューラルネットワークは、ルールエンコーダをルールベースの目標と結合したモデルに組み込んで、意思決定のための共有表現を可能にする。
DeepCTRLはデータ型やモデルアーキテクチャに依存しない。
入力や出力で定義された任意の種類のルールに適用することができる。
DeepCTRLのキーとなる側面は、ルールの強度を調整するために再トレーニングを必要としないことだ。
物理、小売、ヘルスケアなど、ルールを取り入れることが重要である現実世界では、ディープラーニングのルールを教える上でDeepCTRLの有効性が示される。
DeepCTRLは、トレーニングされたモデルの信頼性と信頼性を改善し、ルール検証比率を大幅に高め、下流タスクでの精度向上を提供する。
さらに、DeepCTRLは、データサンプル上のルールの仮説テストや、データセット間の共有ルールに基づいた教師なし適応といった、新しいユースケースを可能にする。
関連論文リスト
- Neural Symbolic Logical Rule Learner for Interpretable Learning [1.9526476410335776]
ルールベースのニューラルネットワークは、予測と解釈の両方の論理ルールを学ぶことによって、解釈可能な分類を可能にする。
我々は、選択離散ニューラルネットワークを利用した正規形規則学習アルゴリズム(NFRL)を導入し、共役正規形(CNF)と共役正規形(DNF)の両方の規則を学習する。
11のデータセットに関する広範な実験を通じて、NFRLは12の最先端の代替品と比較して、優れた分類性能、学習ルールの品質、効率と解釈性を示す。
論文 参考訳(メタデータ) (2024-08-21T18:09:12Z) - Learning Interpretable Rules for Scalable Data Representation and
Classification [11.393431987232425]
ルールベースのLearner Representation (RRL)は、データ表現と分類のための解釈可能な非ファジィ規則を学習する。
RRLは容易に調整でき、異なるシナリオの分類精度とモデルの複雑さのトレードオフを得ることができる。
論文 参考訳(メタデータ) (2023-10-22T15:55:58Z) - Efficient Deep Reinforcement Learning Requires Regulating Overfitting [91.88004732618381]
本稿では,高時間差(TD)誤差が深部RLアルゴリズムの性能に悪影響を及ぼす主要な原因であることを示す。
検証TDエラーをターゲットとした簡単なオンラインモデル選択法は,状態ベースDMCおよびGymタスク間で有効であることを示す。
論文 参考訳(メタデータ) (2023-04-20T17:11:05Z) - CT-DQN: Control-Tutored Deep Reinforcement Learning [4.395396671038298]
Control-Tutored Deep Q-Networks (CT-DQN)は、制御チューターを利用して学習時間を短縮するDeep Reinforcement Learningアルゴリズムである。
我々は,OpenAI Gymの逆振り子,月面着陸機,カーレースの3つのシナリオに対するアプローチを検証する。
論文 参考訳(メタデータ) (2022-12-02T17:59:43Z) - Deep Grey-Box Modeling With Adaptive Data-Driven Models Toward
Trustworthy Estimation of Theory-Driven Models [88.63781315038824]
本稿では,ニューラルネットワークのアーキテクチャとトレーニング目標にわずかな変化を伴って,レギュレータの動作を経験的に分析することのできるフレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-24T10:42:26Z) - Adaptive Convolutional Dictionary Network for CT Metal Artifact
Reduction [62.691996239590125]
本稿では,金属人工物削減のための適応畳み込み辞書ネットワーク(ACDNet)を提案する。
我々のACDNetは、トレーニングデータを介して、アーティファクトフリーCT画像の事前を自動で学習し、入力されたCT画像ごとに表現カーネルを適応的に調整することができる。
本手法は,モデルに基づく手法の明確な解釈可能性を継承し,学習に基づく手法の強力な表現能力を維持する。
論文 参考訳(メタデータ) (2022-05-16T06:49:36Z) - Stochastic Deep Model Reference Adaptive Control [9.594432031144715]
本稿では,ディープニューラルネットワークを用いたモデル参照適応制御を提案する。
Deep Model Reference Adaptive Controlは、DNNモデルの出力層重みをリアルタイムに適応させるために、リアプノフ法を用いる。
データ駆動型教師付き学習アルゴリズムは、内部層パラメータの更新に使用される。
論文 参考訳(メタデータ) (2021-08-04T14:05:09Z) - Credit Assignment in Neural Networks through Deep Feedback Control [59.14935871979047]
ディープフィードバックコントロール(Deep Feedback Control, DFC)は、フィードバックコントローラを使用して、望ましい出力ターゲットにマッチするディープニューラルネットワークを駆動し、クレジット割り当てに制御信号を使用する新しい学習方法である。
学習規則は空間と時間において完全に局所的であり、幅広い接続パターンに対するガウス・ニュートンの最適化を近似する。
さらに,DFCと皮質錐体ニューロンのマルチコンパートメントモデルと,局所的な電圧依存性のシナプス可塑性規則を関連づける。
論文 参考訳(メタデータ) (2021-06-15T05:30:17Z) - Chance-Constrained Control with Lexicographic Deep Reinforcement
Learning [77.34726150561087]
本稿では,レキシックなDeep Reinforcement Learning(DeepRL)に基づく確率制約マルコフ決定プロセスを提案する。
有名なDeepRLアルゴリズムDQNの辞書版も提案され、シミュレーションによって検証されている。
論文 参考訳(メタデータ) (2020-10-19T13:09:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。