論文の概要: It's About Time: Temporal References in Emergent Communication
- arxiv url: http://arxiv.org/abs/2310.06555v2
- Date: Fri, 3 May 2024 09:44:44 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-06 17:57:02.024916
- Title: It's About Time: Temporal References in Emergent Communication
- Title(参考訳): 時間の問題:創発的コミュニケーションにおける時間的参照
- Authors: Olaf Lipinski, Adam J. Sobey, Federico Cerutti, Timothy J. Norman,
- Abstract要約: 創発的コミュニケーションにおける時間的参照に関する研究は行われていない。
我々は、環境、外部、建築の変化という、時間的基準の出現に対する3つの潜在的影響を分析する。
エージェントアーキテクチャの最小限の変更は、異なるメソッドを使用して、時間的参照の出現を可能にする。
- 参考スコア(独自算出の注目度): 7.093487315282338
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Emergent communication studies the development of language between autonomous agents, aiming to improve understanding of natural language evolution and increase communication efficiency. While temporal aspects of language have been considered in computational linguistics, there has been no research on temporal references in emergent communication. This paper addresses this gap, by exploring how agents communicate about temporal relationships. We analyse three potential influences for the emergence of temporal references: environmental, external, and architectural changes. Our experiments demonstrate that altering the loss function is insufficient for temporal references to emerge; rather, architectural changes are necessary. However, a minimal change in agent architecture, using a different batching method, allows the emergence of temporal references. This modified design is compared with the standard architecture in a temporal referential games environment, which emphasises temporal relationships. The analysis indicates that over 95\% of the agents with the modified batching method develop temporal references, without changes to their loss function. We consider temporal referencing necessary for future improvements to the agents' communication efficiency, yielding a closer to optimal coding as compared to purely compositional languages. Our readily transferable architectural insights provide the basis for their incorporation into other emergent communication settings.
- Abstract(参考訳): 創発的なコミュニケーションは、自然言語の進化の理解を改善し、コミュニケーション効率を向上させることを目的として、自律エージェント間の言語開発を研究する。
言語の時間的側面は計算言語学では検討されているが、創発的コミュニケーションにおける時間的参照についての研究は行われていない。
本稿では、エージェントが時間的関係についてどのようにコミュニケーションするかを探索することによって、このギャップに対処する。
我々は、環境、外部、建築の変化という、時間的基準の出現に対する3つの潜在的影響を分析する。
我々の実験は、時間的参照が現れるには損失関数の変更が不十分であることを示し、むしろアーキテクチャ上の変更が必要である。
しかし、異なるバッチ方式を使用するエージェントアーキテクチャの最小限の変更は、時間的参照の出現を可能にする。
この修正されたデザインは、時間的関係を重視した時間的参照ゲーム環境における標準アーキテクチャと比較される。
分析の結果,修正バッチ方式のエージェントの95%以上は,損失関数を変更せずに時間的参照を発生させることがわかった。
エージェントの通信効率を向上するためには,時間的参照が必要であると考え,純粋に構成言語と比較して最適なコーディングに近づいた。
我々の容易に伝達可能なアーキテクチャの洞察は、他の緊急通信設定への組み入れの基礎となる。
関連論文リスト
- Syntactic Language Change in English and German: Metrics, Parsers, and Convergences [56.47832275431858]
本論文は,過去160年間の議会討論のコーパスを用いて,英語とドイツ語の統語的言語変化のダイアクロニックな傾向を考察する。
私たちは、広く使われているStanford Coreと、新しい4つの選択肢を含む5つの依存関係をベースとしています。
文長分布の尾部では,構文的尺度の変化が頻繁であることが明らかとなった。
論文 参考訳(メタデータ) (2024-02-18T11:46:16Z) - The Problem of Alignment [1.2277343096128712]
大規模言語モデルは、大きなコーパスから統計的パターンとして学習されたシーケンスを生成する。
最初のトレーニングモデルが人間の価値観と一致しなくてはならない場合、他のモデルよりも一定の継続が望ましい。
ユーザとモデル間の双方向インタラクションとして,この構造化の実践について検討する。
論文 参考訳(メタデータ) (2023-12-30T11:44:59Z) - DemaFormer: Damped Exponential Moving Average Transformer with
Energy-Based Modeling for Temporal Language Grounding [32.45280955448672]
時間的言語グラウンディングは、自然言語クエリに意味的に対応するビデオモーメントをローカライズすることを目指している。
モーメントクエリ分布を明示的に学習するためのエネルギーモデルフレームワークを提案する。
また、指数移動平均と学習可能な減衰係数を利用するトランスフォーマーベースの新しいアーキテクチャであるDemaFormerを提案する。
論文 参考訳(メタデータ) (2023-12-05T07:37:21Z) - An Overview Of Temporal Commonsense Reasoning and Acquisition [20.108317515225504]
時間的コモンセンス推論(英: Temporal Commonsense reasoning)とは、フレーズ、行動、出来事の典型的な時間的文脈を理解する能力である。
大規模言語モデルの性能に関する最近の研究は、しばしば推論においてショートカットを行い、単純な言語トラップに陥ることが示唆されている。
論文 参考訳(メタデータ) (2023-07-28T01:30:15Z) - Generic Temporal Reasoning with Differential Analysis and Explanation [61.96034987217583]
時間差分解析でギャップを埋めるTODAYという新しいタスクを導入する。
TODAYは、システムがインクリメンタルな変化の効果を正しく理解できるかどうかを評価する。
共同学習においてTODAYの指導スタイルと説明アノテーションが有効であることを示す。
論文 参考訳(メタデータ) (2022-12-20T17:40:03Z) - Color Overmodification Emerges from Data-Driven Learning and Pragmatic
Reasoning [53.088796874029974]
話者の指示表現は、実践的な言語使用の性質を照らし出すのに役立つ方法で、コミュニケーションイデアルから逸脱していることを示す。
ニューラルネットワークを学習エージェントとして採用することにより、過度な修正は、頻度の低い、あるいは正常な環境特性に結びつく可能性が高いことを示す。
論文 参考訳(メタデータ) (2022-05-18T18:42:43Z) - GATE: Graph Attention Transformer Encoder for Cross-lingual Relation and
Event Extraction [107.8262586956778]
言語に依存しない文表現を学習するために、普遍的な依存解析を伴うグラフ畳み込みネットワーク(GCN)を導入する。
GCNは、長い範囲の依存関係を持つ単語をモデル化するのに苦労する。
そこで本研究では,構文的距離の異なる単語間の依存関係を学習するための自己認識機構を提案する。
論文 参考訳(メタデータ) (2020-10-06T20:30:35Z) - Multi-channel Transformers for Multi-articulatory Sign Language
Translation [59.38247587308604]
本稿では,多調な手話翻訳課題に取り組み,新しいマルチチャネルトランスフォーマアーキテクチャを提案する。
提案アーキテクチャにより、異なる手話調節間の文脈内関係をトランスフォーマネットワーク内でモデル化することができる。
論文 参考訳(メタデータ) (2020-09-01T09:10:55Z) - Probing Linguistic Features of Sentence-Level Representations in Neural
Relation Extraction [80.38130122127882]
ニューラルリレーション抽出(RE)に関連する言語特性を対象とした14の探索タスクを導入する。
私たちは、40以上の異なるエンコーダアーキテクチャと2つのデータセットでトレーニングされた言語的特徴の組み合わせによって学習された表現を研究するためにそれらを使用します。
アーキテクチャによって引き起こされるバイアスと言語的特徴の含意は、探索タスクのパフォーマンスにおいて明らかに表現されている。
論文 参考訳(メタデータ) (2020-04-17T09:17:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。