論文の概要: SimSiam Naming Game: A Unified Approach for Representation Learning and Emergent Communication

• arxiv url: http://arxiv.org/abs/2410.21803v1
• Date: Tue, 29 Oct 2024 07:16:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-30 13:41:02.695526
• Title: SimSiam Naming Game: A Unified Approach for Representation Learning and Emergent Communication
• Title（参考訳）: SimSiam Naming Game: 表現学習と創発的コミュニケーションのための統一的なアプローチ
• Authors: Nguyen Le Hoang, Tadahiro Taniguchi, Fang Tianwei, Akira Taniguchi,
• Abstract要約: 表現学習と創発的コミュニケーションのための統一的なアプローチであるSimSiam+VAEを提案する。 SimSiam+VAEは変分オートエンコーダをSimSiamネットワークの予測器に統合し、表現学習を強化し、不確実性を捉える。 我々はこのモデルをSimSiam Naming Game(SSNG)と呼ばれるコミュニケーションフレームワークに拡張する。
• 参考スコア（独自算出の注目度）: 6.712251433139411
• License:
• Abstract: Emergent communication, driven by generative models, enables agents to develop a shared language for describing their individual views of the same objects through interactions. Meanwhile, self-supervised learning (SSL), particularly SimSiam, uses discriminative representation learning to make representations of augmented views of the same data point closer in the representation space. Building on the prior work of VI-SimSiam, which incorporates a generative and Bayesian perspective into the SimSiam framework via variational inference (VI) interpretation, we propose SimSiam+VAE, a unified approach for both representation learning and emergent communication. SimSiam+VAE integrates a variational autoencoder (VAE) into the predictor of the SimSiam network to enhance representation learning and capture uncertainty. Experimental results show that SimSiam+VAE outperforms both SimSiam and VI-SimSiam. We further extend this model into a communication framework called the SimSiam Naming Game (SSNG), which applies the generative and Bayesian approach based on VI to develop internal representations and emergent language, while utilizing the discriminative process of SimSiam to facilitate mutual understanding between agents. In experiments with established models, despite the dynamic alternation of agent roles during interactions, SSNG demonstrates comparable performance to the referential game and slightly outperforms the Metropolis-Hastings naming game.
• Abstract（参考訳）: 生成モデルによって駆動される創発的コミュニケーションにより、エージェントは同じオブジェクトの個々のビューを対話を通して記述するための共有言語を開発することができる。 一方、自己教師付き学習(SSL)、特にSimSiamは、差別的な表現学習を使用して、同じデータポイントの拡張ビューの表現を表現空間に近づける。 生成的およびベイズ的視点を変分推論(VI)解釈によりSimSiamフレームワークに組み込んだVI-SimSiamの先行研究に基づいて、表現学習と創発的コミュニケーションの両方のための統一的なアプローチであるSimSiam+VAEを提案する。 SimSiam+VAEは、可変オートエンコーダ(VAE)をSimSiamネットワークの予測器に統合し、表現学習を強化し、不確実性を捉える。 実験の結果,SimSiam+VAEはSimSiamとVI-SimSiamの両方に優れていた。 我々はさらに、このモデルをSimSiam Naming Game(SSNG)と呼ばれるコミュニケーションフレームワークに拡張し、エージェント間の相互理解を促進するためにSimSiamの識別プロセスを活用しながら、VIに基づく生成的およびベイズ的アプローチを用いて内部表現と創発的言語を開発する。 確立されたモデルを用いた実験では、エージェントの役割の動的変更にもかかわらず、SSNGは参照ゲームに匹敵する性能を示し、メトロポリス・ハスティングスの命名ゲームより若干優れていた。

関連論文リスト

• SimMAT: Exploring Transferability from Vision Foundation Models to Any Image Modality [136.82569085134554]
  大量のデータを訓練するChatGPTやSoraのような基礎的なモデルは、革命的な社会的影響をもたらしている。 様々な分野のセンサーが、同じ規模の自然画像を集め、強力な基礎モデルを訓練することは極めて困難である。 この研究は、自然のRGB画像に基づいて訓練された視覚基盤モデルから、異なる物理特性の他の画像モダリティへの転送可能性という、オープンな問題を研究するための、シンプルで効果的なフレームワークであるSimMATを提示する。
  論文  参考訳（メタデータ） (2024-09-12T14:38:21Z)
• A Probabilistic Model Behind Self-Supervised Learning [53.64989127914936]
  自己教師付き学習(SSL)では、アノテートラベルなしで補助的なタスクを通じて表現が学習される。 自己教師型学習のための生成潜在変数モデルを提案する。 対照的な方法を含む識別的SSLのいくつかのファミリーは、表現に匹敵する分布を誘導することを示した。
  論文  参考訳（メタデータ） (2024-02-02T13:31:17Z)
• Symbol emergence as interpersonal cross-situational learning: the emergence of lexical knowledge with combinatoriality [5.350057408744861]
  本稿では,認知・発達ロボティクスにおけるシンボル出現システムの計算モデルを提案する。 提案手法は,カテゴリー形成を行うことにより,メトロポリスティの語彙的知識の出現を促進する。 本研究は,提案モデルを用いて開発した語彙知識が,新たな状況における性能を示すことを示すものである。
  論文  参考訳（メタデータ） (2023-06-27T23:55:33Z)
• Towards More Realistic Generation of Information-Seeking Conversations [28.00273990499349]
  まず、情報対称会話のための強力なシミュレータSimSeek-symを紹介し、質問者と回答者がすべての知識を共有する。 本研究では,2つのエージェント間の情報非対称性を仮定するSimSeek-asymを提案する。 実験の結果,SimSeek-asymは,CQAと会話検索という2つの下流タスクに対して,情報検索の会話を生成することができた。
  論文  参考訳（メタデータ） (2022-05-25T09:33:00Z)
• SimAN: Exploring Self-Supervised Representation Learning of Scene Text via Similarity-Aware Normalization [66.35116147275568]
  自己指導型表現学習は、現場テキスト認識コミュニティからかなりの注目を集めている。 表現学習スキームを生成的手法で定式化することで,この問題に対処する。 そこで我々は,異なるパターンを識別し,対応するスタイルを誘導パッチから整列するSimANモジュールを提案する。
  論文  参考訳（メタデータ） (2022-03-20T08:43:10Z)
• VIRT: Improving Representation-based Models for Text Matching through Virtual Interaction [50.986371459817256]
  本稿では,VIRT と呼ばれる新しいtextitVirtual InteRacTion 機構を提案する。 VIRTは、表現ベースのエンコーダに、対話ベースのモデルのように振舞いを模倣する仮想インタラクションを実行するよう要求する。
  論文  参考訳（メタデータ） (2021-12-08T09:49:28Z)
• Learning to Improve Representations by Communicating About Perspectives [0.0]
  本稿では,多数のオートエンコーダからなるミニマルアーキテクチャを提案する。 提案したアーキテクチャは整列表現の出現を許容することを示す。 その結果、主観的パースペクティブからのコミュニケーションが、マルチエージェントシステムにおけるより抽象的な表現の獲得につながることを示す。
  論文  参考訳（メタデータ） (2021-09-20T09:30:13Z)
• TrafficSim: Learning to Simulate Realistic Multi-Agent Behaviors [74.67698916175614]
  リアル交通シミュレーションのためのマルチエージェント行動モデルであるTrafficSimを提案する。 特に、暗黙の潜在変数モデルを利用して、共同アクターポリシーをパラメータ化する。 TrafficSimは、多様なベースラインと比較して、より現実的で多様なトラフィックシナリオを生成します。
  論文  参考訳（メタデータ） (2021-01-17T00:29:30Z)
• Point Cloud Based Reinforcement Learning for Sim-to-Real and Partial Observability in Visual Navigation [62.22058066456076]
  強化学習(Reinforcement Learning, RL)は、複雑なロボットタスクを解決する強力なツールである。 RL は sim-to-real transfer problem として知られる現実世界では直接作用しない。 本稿では,点雲と環境ランダム化によって構築された観測空間を学習する手法を提案する。
  論文  参考訳（メタデータ） (2020-07-27T17:46:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。