論文の概要: Referential communication in heterogeneous communities of pre-trained
visual deep networks
- arxiv url: http://arxiv.org/abs/2302.08913v2
- Date: Mon, 20 Feb 2023 12:47:57 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-26 14:53:27.201769
- Title: Referential communication in heterogeneous communities of pre-trained
visual deep networks
- Title（参考訳）: 事前学習した視覚深層ネットワークの異種コミュニティにおける参照コミュニケーション
- Authors: Mat\'eo Mahaut, Francesca Franzon, Roberto Dess\`i, Marco Baroni
- Abstract要約: 大規模なトレーニング済みの画像処理ニューラルネットワークは、自動運転車やロボットのような自律エージェントに組み込まれている。
提案手法は,対象画像を参照するための共通プロトコルを,候補集合間で開発可能であることを示す。
我々は、新しいニューラルネットワークが、コミュニティで開発された共有プロトコルを驚くほど簡単に学習できることを示します。
- 参考スコア（独自算出の注目度）: 13.584387335237702
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As large pre-trained image-processing neural networks are being embedded in
autonomous agents such as self-driving cars or robots, the question arises of
how such systems can communicate with each other about the surrounding world,
despite their different architectures and training regimes. As a first step in
this direction, we systematically explore the task of referential communication
in a community of state-of-the-art pre-trained visual networks, showing that
they can develop a shared protocol to refer to a target image among a set of
candidates. Such shared protocol, induced in a self-supervised way, can to some
extent be used to communicate about previously unseen object categories, as
well as to make more granular distinctions compared to the categories taught to
the original networks. Contradicting a common view in multi-agent emergent
communication research, we find that imposing a discrete bottleneck on
communication hampers the emergence of a general code. Moreover, we show that a
new neural network can learn the shared protocol developed in a community with
remarkable ease, and the process of integrating a new agent into a community
more stably succeeds when the original community includes a larger set of
heterogeneous networks. Finally, we illustrate the independent benefits of
developing a shared communication layer by using it to directly transfer an
object classifier from a network to another, and we qualitatively and
quantitatively study its emergent properties.
- Abstract（参考訳）: ニューラルネットワークは、自動運転車やロボットのような自律エージェントに組み込まれているため、これらのシステムは、異なるアーキテクチャやトレーニング体制にもかかわらず、周囲の世界についてどのように相互に通信できるかという疑問が生まれている。
この方向性の第一歩として,最先端の事前学習済み視覚ネットワークのコミュニティにおける参照コミュニケーションの課題を体系的に検討し,対象画像を参照するための共有プロトコルの開発が可能であることを示す。
このような共有プロトコルは、自己監督的な方法で誘導され、これまで見つからなかった対象のカテゴリについてある程度のコミュニケーションや、元のネットワークに教えられたカテゴリと比較してより細かく区別することができる。
マルチエージェント創発的コミュニケーション研究における共通見解と矛盾するものとして,コミュニケーションに離散的ボトルネックを課すことは,一般的なコードの出現を阻害する。
さらに、新しいニューラルネットワークは、コミュニティ内で開発された共有プロトコルを驚くほど容易に学習でき、元のコミュニティがより大きな異種ネットワークを含む場合、新しいエージェントをコミュニティに統合するプロセスがより安定して成功することを示す。
最後に、オブジェクト分類器をネットワークから他のネットワークへ直接転送することによる共有通信層の開発における独立的な利点を説明し、その創発的特性を質的に定量的に研究する。
関連論文リスト
- Identifying Sub-networks in Neural Networks via Functionally Similar Representations [41.028797971427124]
我々は、異なるサブネットワークの存在を調査し、ネットワークの理解を自動化するための一歩を踏み出した。
我々のアプローチは、人間と計算コストを最小限に抑えたニューラルネットワークの振る舞いに関する有意義な洞察を提供する。
論文 参考訳（メタデータ） (2024-10-21T20:19:00Z) - Visual-Geometric Collaborative Guidance for Affordance Learning [63.038406948791454]
本稿では,視覚的・幾何学的手がかりを取り入れた視覚・幾何学的協調学習ネットワークを提案する。
本手法は,客観的指標と視覚的品質の代表的なモデルより優れている。
論文 参考訳（メタデータ） (2024-10-15T07:35:51Z) - Will 6G be Semantic Communications? Opportunities and Challenges from
Task Oriented and Secure Communications to Integrated Sensing [49.83882366499547]
本稿では,マルチタスク学習を統合した次世代(NextG)ネットワークにおけるタスク指向およびセマンティックコミュニケーションの機会と課題について検討する。
我々は、送信側の専用エンコーダと受信側の複数のタスク固有のデコーダを表すディープニューラルネットワークを用いる。
トレーニングとテストの段階において、敵対的攻撃に起因する潜在的な脆弱性を精査する。
論文 参考訳（メタデータ） (2024-01-03T04:01:20Z) - Less Data, More Knowledge: Building Next Generation Semantic
Communication Networks [180.82142885410238]
本稿では、スケーラブルなエンドツーエンドセマンティック通信ネットワークの最初の厳密なビジョンを示す。
まず、セマンティック・コミュニケーション・ネットワークの設計は、データ駆動型ネットワークから知識駆動型ネットワークへどのように移行する必要があるかについて議論する。
意味表現と言語を用いることで、従来の送信機と受信機が教師と見習いになることを示す。
論文 参考訳（メタデータ） (2022-11-25T19:03:25Z) - Interpretable agent communication from scratch(with a generic visual
processor emerging on the side) [29.722833768572805]
我々は、2つのディープネットをスクラッチからトレーニングし、教師なし緊急通信を通じて現実的な参照識別を行う。
ほぼ解釈可能な創発的プロトコルにより、トレーニング時に見なかったオブジェクトタイプであっても、ネットがうまく通信できることが示される。
以上の結果から,従来考えられていたよりも現実的な状況下での(解釈可能な)深層ネット通信の実現可能性に関する具体的な証拠が得られた。
論文 参考訳（メタデータ） (2021-06-08T11:32:11Z) - Joint Learning of Neural Transfer and Architecture Adaptation for Image
Recognition [77.95361323613147]
現在の最先端の視覚認識システムは、大規模データセット上でニューラルネットワークを事前トレーニングし、より小さなデータセットでネットワーク重みを微調整することに依存している。
本稿では,各ドメインタスクに適応したネットワークアーキテクチャの動的適応と,効率と効率の両面で重みの微調整の利点を実証する。
本手法は,ソースドメインタスクでスーパーネットトレーニングを自己教師付き学習に置き換え,下流タスクで線形評価を行うことにより,教師なしパラダイムに容易に一般化することができる。
論文 参考訳（メタデータ） (2021-03-31T08:15:17Z) - Fast Concept Mapping: The Emergence of Human Abilities in Artificial
Neural Networks when Learning Embodied and Self-Supervised [0.0]
本稿では,人工エージェントが自己教師による探索を通じて,まず模擬世界で学習する仕組みを提案する。
我々は、ニューロンの相関した発火パターンを用いて意味概念を定義し、検出する高速概念マッピングと呼ばれる手法を用いる。
論文 参考訳（メタデータ） (2021-02-03T17:19:49Z) - Analyzing Representations inside Convolutional Neural Networks [8.803054559188048]
本稿では,ネットワークが学習する概念を,一連の入力例をクラスタリングする方法に基づいて分類するフレームワークを提案する。
このフレームワークは教師なしで、入力機能のためのラベルなしで機能する。
提案手法を広範に評価し,人間の理解しやすさとコヒーレントな概念を創出することを示す。
論文 参考訳（メタデータ） (2020-12-23T07:10:17Z) - Understanding the Role of Individual Units in a Deep Neural Network [85.23117441162772]
本稿では,画像分類と画像生成ネットワーク内の隠れ単位を系統的に同定する分析フレームワークを提案する。
まず、シーン分類に基づいて訓練された畳み込みニューラルネットワーク(CNN)を分析し、多様なオブジェクト概念にマッチするユニットを発見する。
第2に、シーンを生成するために訓練されたGANモデルについて、同様の分析手法を用いて分析する。
論文 参考訳（メタデータ） (2020-09-10T17:59:10Z) - Detecting Communities in Heterogeneous Multi-Relational Networks:A
Message Passing based Approach [89.19237792558687]
コミュニティは、ソーシャルネットワーク、生物学的ネットワーク、コンピュータおよび情報ネットワークを含むネットワークの共通の特徴である。
我々は,全同種ネットワークのコミュニティを同時に検出する効率的なメッセージパッシングに基づくアルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-04-06T17:36:24Z) - Who2com: Collaborative Perception via Learnable Handshake Communication [34.29310680302486]
本稿では,ロボットが周囲のエージェントと局所的な観察を組み合わせて学習可能な方法で認識タスクの精度を向上する,協調的知覚の問題を提案する。
ネットワーク通信プロトコルにヒントを得た多段階ハンドシェイク通信機構を提案する。
セマンティックセグメンテーションタスクにおいて、ハンドシェイク通信方式は、分散ベースラインよりも約20%精度が向上し、帯域幅の4分の1を使用した集中型セグメンテーションに匹敵することを示す。
論文 参考訳（メタデータ） (2020-03-21T04:16:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。