Fugu-MT 論文翻訳(概要): Emergent Language Generalization and Acquisition Speed are not tied to Compositionality

論文の概要: Emergent Language Generalization and Acquisition Speed are not tied to Compositionality

arxiv url: http://arxiv.org/abs/2004.03420v2
Date: Sat, 25 Apr 2020 14:46:24 GMT
ステータス: 処理完了
システム内更新日: 2022-12-15 22:53:51.027506
Title: Emergent Language Generalization and Acquisition Speed are not tied to Compositionality
Title（参考訳）: 創発的言語一般化と獲得速度は構成性に結びついていない
Authors: Eugene Kharitonov and Marco Baroni
Abstract要約: これらの有益性は構成性にのみゆるやかに結びついていると論じる。 2つの実験において、タスクによっては、非構成言語が等しく、より良く、一般化性能と獲得速度を示すことを示した。
参考スコア（独自算出の注目度）: 31.6793931695019
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Studies of discrete languages emerging when neural agents communicate to solve a joint task often look for evidence of compositional structure. This stems for the expectation that such a structure would allow languages to be acquired faster by the agents and enable them to generalize better. We argue that these beneficial properties are only loosely connected to compositionality. In two experiments, we demonstrate that, depending on the task, non-compositional languages might show equal, or better, generalization performance and acquisition speed than compositional ones. Further research in the area should be clearer about what benefits are expected from compositionality, and how the latter would lead to them.
Abstract（参考訳）: ニューラルエージェントが結合タスクを解くために通信する際に現れる離散言語の研究は、しばしば構成構造の証拠を探す。このことは、そのような構造がエージェントによって言語をより早く取得し、より一般化できることを期待している。これらの有益性は構成性にのみゆるく結びついている。 2つの実験において、非構成言語は、そのタスクによって、構成言語と同等かそれ以上の一般化性能と獲得速度を示すことを示した。この分野のさらなる研究は、構成性から何の利益が期待できるか、そして後者がどのようにそれらに結びつくかを明確にする必要がある。

関連論文リスト

SHINE: Saliency-aware HIerarchical NEgative Ranking for Compositional Temporal Grounding [52.98133831401225]
時間的グラウンドディング(英: Temporal grounding、ビデオモーメント検索(英語版))は、所定のクエリ文に対応するビデオセグメントを特定することを目的としている。本稿では, GPT-3.5-Turbo を用いた負のクエリ構築のための大規模言語モデル駆動手法を提案する。本稿では,ビデオと階層的負のクエリ間の多粒度意味的関係を学習するモデルを提案する。
論文参考訳（メタデータ） (2024-07-06T16:08:17Z)
On Evaluating Multilingual Compositional Generalization with Translated Datasets [34.51457321680049]
構成一般化能力は言語によって異なることを示す。我々は、MCWQデータセットを英語から中国語、日本語に忠実に翻訳する。 MCWQ-Rとよばれるロバストなベンチマークが得られたとしても、構成の分布は言語的な相違によって依然として苦しんでいることが示される。
論文参考訳（メタデータ） (2023-06-20T10:03:57Z)
How Do In-Context Examples Affect Compositional Generalization? [86.57079616209474]
本稿では,コンテクスト内構成一般化を検証するためのテストスイートであるCoFeを提案する。構成一般化性能は、文脈内例の選択によって容易に影響を受けることが判明した。我々の系統実験は、文脈内サンプルは、テストケースと構造的に似ており、互いに異なっており、個別に単純であることを示します。
論文参考訳（メタデータ） (2023-05-08T16:32:18Z)
Are Representations Built from the Ground Up? An Empirical Examination of Local Composition in Language Models [91.3755431537592]
構成的・非構成的句を表現することは言語理解にとって重要である。まず,より長いフレーズのLM-内部表現を,その構成成分から予測する問題を定式化する。意味的構成性の人間の判断と相関する予測精度を期待するが、大部分はそうではない。
論文参考訳（メタデータ） (2022-10-07T14:21:30Z)
Defending Compositionality in Emergent Languages [3.04585143845864]
いくつかの結論は強すぎる、あるいは不完全である、と我々は主張する。 2エージェント通信ゲームの場合、適切なデータセット上で評価を行う場合、構成性は実際に一般化に不可欠であることを示す。
論文参考訳（メタデータ） (2022-06-09T20:13:46Z)
Compositional Generalization Requires Compositional Parsers [69.77216620997305]
直近のCOGSコーパスにおける構成原理によって導かれるシーケンス・ツー・シーケンスモデルとモデルを比較した。構造一般化は構成一般化の重要な尺度であり、複雑な構造を認識するモデルを必要とする。
論文参考訳（メタデータ） (2022-02-24T07:36:35Z)
The paradox of the compositionality of natural language: a neural machine translation case study [15.37696298313134]
文献から3つの構成性テストを再確認し、ニューラルマシン翻訳(NMT)のために修正する。 NMTモデルの一貫性のない動作と(正しく)局所的処理と大域的処理の間を変調できないことの2つの主要な課題を浮き彫りにしている。
論文参考訳（メタデータ） (2021-08-12T17:57:23Z)
Compositional Processing Emerges in Neural Networks Solving Math Problems [100.80518350845668]
人工知能の最近の進歩は、大きなモデルが十分な言語データに基づいて訓練されると、文法構造が表現に現れることを示している。我々は、この研究を数学的推論の領域にまで拡張し、どのように意味を構成するべきかについての正確な仮説を定式化することができる。私たちの研究は、ニューラルネットワークがトレーニングデータに暗黙的に構造化された関係について何かを推測できるだけでなく、個々の意味の合成を合成全体へと導くために、この知識を展開できることを示している。
論文参考訳（メタデータ） (2021-05-19T07:24:42Z)
On (Emergent) Systematic Generalisation and Compositionality in Visual Referential Games with Straight-Through Gumbel-Softmax Estimator [0.30458514384586394]
2人(またはそれ以上)のエージェントが非視覚的な参照ゲームを行うと、構成性のドライバが現れる。本稿では,ST-GSの文脈において,これまでフィールドで認識されてきた構成性の要因がどの程度適用されているかを検討する。 st-gsアプローチを小さなバッチサイズとオーバーコンプリート通信チャネルで使用することで、新興言語のコンポジション性が向上する。
論文参考訳（メタデータ） (2020-12-19T20:40:09Z)
Compositionality and Generalization in Emergent Languages [42.68870559695238]
深層マルチエージェントシミュレーションで現れる言語が、新しいプリミティブの組み合わせに類似する能力を持っているかどうかを考察する。創発的言語の合成度合いと一般化能力の相関関係は見つからない。構成的な言語が多ければ多いほど、新しい学習者が習得しやすくなります。
論文参考訳（メタデータ） (2020-04-20T08:30:14Z)
Probing Linguistic Features of Sentence-Level Representations in Neural Relation Extraction [80.38130122127882]
ニューラルリレーション抽出(RE)に関連する言語特性を対象とした14の探索タスクを導入する。私たちは、40以上の異なるエンコーダアーキテクチャと2つのデータセットでトレーニングされた言語的特徴の組み合わせによって学習された表現を研究するためにそれらを使用します。アーキテクチャによって引き起こされるバイアスと言語的特徴の含意は、探索タスクのパフォーマンスにおいて明らかに表現されている。
論文参考訳（メタデータ） (2020-04-17T09:17:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。