論文の概要: Bridge Networks
- arxiv url: http://arxiv.org/abs/2106.08446v1
- Date: Tue, 15 Jun 2021 21:39:34 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-17 17:18:59.793634
- Title: Bridge Networks
- Title(参考訳): 橋梁網
- Authors: Wilkie Olin-Ammentorp, Maxim Bazhenov
- Abstract要約: 現在のディープラーニング手法は、いくつかの重要な課題に直面している。
これには、高エネルギー消費、破滅的な忘れ込み、世界的な損失への依存、象徴的な推論ができないことなどが含まれる。
我々は,新しい情報処理アーキテクチャである「ブリッジネットワーク」を提案し,実装する。
- 参考スコア(独自算出の注目度): 3.616948583169635
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Despite rapid progress, current deep learning methods face a number of
critical challenges. These include high energy consumption, catastrophic
forgetting, dependance on global losses, and an inability to reason
symbolically. By combining concepts from information bottleneck theory and
vector-symbolic architectures, we propose and implement a novel information
processing architecture, the 'Bridge network.' We show this architecture
provides unique advantages which can address the problem of global losses and
catastrophic forgetting. Furthermore, we argue that it provides a further basis
for increasing energy efficiency of execution and the ability to reason
symbolically.
- Abstract(参考訳): 急速な進歩にもかかわらず、現在のディープラーニング手法は多くの重要な課題に直面している。
これには、高エネルギー消費、破滅的な忘れ込み、世界的な損失への依存、象徴的な推論ができないことなどが含まれる。
情報ボトルネック理論とベクトル記号型アーキテクチャの概念を組み合わせることで,新しい情報処理アーキテクチャ「ブリッジネットワーク」を提案し,実装する。
このアーキテクチャは、グローバルな損失と破滅的な忘れの問題に対処できるユニークなアドバンテージを提供する。
さらに、実行のエネルギー効率の向上と象徴的に推論する能力のさらなる基礎を提供していると論じている。
関連論文リスト
- Foundations and Frontiers of Graph Learning Theory [81.39078977407719]
グラフ学習の最近の進歩は、複雑な構造を持つデータを理解し分析する方法に革命をもたらした。
グラフニューラルネットワーク(GNN)、すなわちグラフ表現を学習するために設計されたニューラルネットワークアーキテクチャは、一般的なパラダイムとなっている。
本稿では,グラフ学習モデルに固有の近似と学習行動に関する理論的基礎とブレークスルーについて概説する。
論文 参考訳(メタデータ) (2024-07-03T14:07:41Z) - Unsupervised Graph Neural Architecture Search with Disentangled
Self-supervision [51.88848982611515]
教師なしグラフニューラルアーキテクチャサーチは、文献では未発見のままである。
本稿では,Distangled Self-supervised Graph Neural Architecture Searchモデルを提案する。
我々のモデルは、教師なしの方法で、いくつかのベースライン手法に対して最先端のパフォーマンスを達成することができる。
論文 参考訳(メタデータ) (2024-03-08T05:23:55Z) - Disentangling the Causes of Plasticity Loss in Neural Networks [55.23250269007988]
可塑性の喪失は複数の独立したメカニズムに分解できることを示す。
種々の非定常学習タスクにおいて, 層正規化と重み劣化の組み合わせは, 可塑性維持に極めて有効であることを示す。
論文 参考訳(メタデータ) (2024-02-29T00:02:33Z) - The Role of Foundation Models in Neuro-Symbolic Learning and Reasoning [54.56905063752427]
Neuro-Symbolic AI(NeSy)は、AIシステムの安全なデプロイを保証することを約束している。
ニューラルネットワークとシンボリックコンポーネントを順次トレーニングする既存のパイプラインは、広範なラベリングを必要とする。
新しいアーキテクチャであるNeSyGPTは、生データから象徴的特徴を抽出する視覚言語基盤モデルを微調整する。
論文 参考訳(メタデータ) (2024-02-02T20:33:14Z) - Enhancing Network Resilience through Machine Learning-powered Graph
Combinatorial Optimization: Applications in Cyber Defense and Information
Diffusion [0.0]
この論文は、ネットワークのレジリエンスを高める効果的なアプローチの開発に焦点を当てている。
ネットワークのレジリエンスを高めるための既存のアプローチは、ネットワーク内のボトルネックノードとエッジを決定することを強調する。
この論文は、ネットワーク内のボトルネックノードとエッジを発見するための効率的で効率的でスケーラブルなテクニックを設計することを目的としている。
論文 参考訳(メタデータ) (2023-09-22T01:48:28Z) - Detecting Vulnerable Nodes in Urban Infrastructure Interdependent
Network [30.78792992230233]
我々は、相互依存型ネットワークを異種グラフとしてモデル化し、強化学習を用いたグラフニューラルネットワークに基づくシステムを提案する。
提案システムは,深層学習技術を活用して異種グラフを解析し,カスケード故障のリスクを把握し,都市の脆弱なインフラを発見する。
論文 参考訳(メタデータ) (2023-07-19T09:53:56Z) - RDRN: Recursively Defined Residual Network for Image Super-Resolution [58.64907136562178]
深部畳み込みニューラルネットワーク(CNN)は、単一画像超解像において顕著な性能を得た。
本稿では,注目ブロックを効率的に活用する新しいネットワークアーキテクチャを提案する。
論文 参考訳(メタデータ) (2022-11-17T11:06:29Z) - Mastering Spatial Graph Prediction of Road Networks [18.321172168775472]
グラフエッジの列の追加をシミュレートするグラフベースのフレームワークを提案する。
特に、衛星画像に関連する部分生成グラフが与えられた場合、RLエージェントは累積報酬を最大化する修正を通知する。
論文 参考訳(メタデータ) (2022-10-03T11:26:09Z) - Leveraging Structured Pruning of Convolutional Neural Networks [2.2320512724449233]
本稿では,任意の構造化プルーニングマスクを用いて,これらの問題に遭遇しないネットワークを生成する手法を提案する。
我々は, 畳み込み畳み込みニューラルネットワークによる, 組込みハードウェア上でのエネルギー消費と推定時間の利得を示す。
論文 参考訳(メタデータ) (2022-06-13T15:29:12Z) - Impact of Aliasing on Generalization in Deep Convolutional Networks [29.41652467340308]
深層畳み込みネットワークの一般化におけるエイリアスの影響について検討する。
キー位置で非トレーニング可能な低域通過フィルタを挿入することでエイリアスを緩和する方法を示す。
論文 参考訳(メタデータ) (2021-08-07T17:12:03Z) - Information Obfuscation of Graph Neural Networks [96.8421624921384]
本稿では,グラフ構造化データを用いた学習において,情報難読化による機密属性保護の問題について検討する。
本稿では,全変動量とワッサーシュタイン距離を交互に学習することで,事前決定された機密属性を局所的にフィルタリングするフレームワークを提案する。
論文 参考訳(メタデータ) (2020-09-28T17:55:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。