論文の概要: Inductive Bias and Language Expressivity in Emergent Communication
- arxiv url: http://arxiv.org/abs/2012.02875v1
- Date: Fri, 4 Dec 2020 22:20:55 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-22 20:43:14.372766
- Title: Inductive Bias and Language Expressivity in Emergent Communication
- Title(参考訳): 創発的コミュニケーションにおける誘導バイアスと言語表現性
- Authors: Shangmin Guo, Yi Ren, Agnieszka S{\l}owik, Kory Mathewson
- Abstract要約: 言語ゲームの種類が創発言語に与える影響について検討する。
異なるゲームから出現した言語は、異なる構成性を持ち、さらに異なる表現性を持つことを示す。
- 参考スコア(独自算出の注目度): 6.043034177891378
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Referential games and reconstruction games are the most common game types for
studying emergent languages. We investigate how the type of the language game
affects the emergent language in terms of: i) language compositionality and ii)
transfer of an emergent language to a task different from its origin, which we
refer to as language expressivity. With empirical experiments on a handcrafted
symbolic dataset, we show that languages emerged from different games have
different compositionality and further different expressivity.
- Abstract(参考訳): レファレンシャルゲームとレコンストラクションゲームは、創発言語を研究するための最も一般的なゲームタイプである。
言語ゲームの種類が創発的言語にどのように影響するかを,言語構成性および<i>i)言語の起源とは異なるタスクへの創発的言語移行の観点から検討する。
手作りのシンボリックデータセットを用いた実証実験により、異なるゲームから出現する言語は構成性とさらに異なる表現性を持つことを示した。
関連論文リスト
- Analyzing The Language of Visual Tokens [48.62180485759458]
我々は、離散的な視覚言語を分析するために、自然言語中心のアプローチをとる。
トークンの高度化はエントロピーの増大と圧縮の低下を招き,トークンが主にオブジェクト部品を表すことを示す。
また、視覚言語には結合的な文法構造が欠如していることが示され、自然言語と比較して難易度が高く、階層構造が弱いことが判明した。
論文 参考訳(メタデータ) (2024-11-07T18:59:28Z) - Multilingual Multi-Figurative Language Detection [14.799109368073548]
比喩的言語理解は多言語環境では 非常に過小評価されています
我々は,多言語多言語言語モデリングを導入し,文レベル図形言語検出のためのベンチマークを提供する。
テンプレートに基づく即時学習に基づく図形言語検出のためのフレームワークを開発する。
論文 参考訳(メタデータ) (2023-05-31T18:52:41Z) - Multi-lingual and Multi-cultural Figurative Language Understanding [69.47641938200817]
図形言語は人間のコミュニケーションに浸透するが、NLPでは比較的過小評価されている。
Hindi, Indonesian, Javanese, Kannada, Sundanese, Swahili, Yorubaの7つの多様な言語に関するデータセットを作成しました。
我々のデータセットから,各言語は,同じ領域から派生した言語間で最も高い重なり合いを持つ,図形表現の文化的・地域的概念に依存していることが明らかとなった。
全ての言語は、事前学習データと微調整データの可用性を反映した性能の変化により、英語と比較して大きな欠陥がある。
論文 参考訳(メタデータ) (2023-05-25T15:30:31Z) - Transparency Helps Reveal When Language Models Learn Meaning [71.96920839263457]
合成データを用いた体系的な実験により,すべての表現が文脈に依存しない意味を持つ言語では,自己回帰型とマスキング型の両方の言語モデルが,表現間の意味的関係をエミュレートする。
自然言語に目を向けると、特定の現象(参照不透明さ)による実験は、現在の言語モデルが自然言語の意味論をうまく表現していないという証拠を増大させる。
論文 参考訳(メタデータ) (2022-10-14T02:35:19Z) - Analyzing Gender Representation in Multilingual Models [59.21915055702203]
実践的なケーススタディとして,ジェンダーの区別の表現に焦点をあてる。
ジェンダーの概念が、異なる言語で共有された部分空間にエンコードされる範囲について検討する。
論文 参考訳(メタデータ) (2022-04-20T00:13:01Z) - Discovering Representation Sprachbund For Multilingual Pre-Training [139.05668687865688]
多言語事前学習モデルから言語表現を生成し、言語分析を行う。
すべての対象言語を複数のグループにクラスタリングし、表現のスプラックバンドとして各グループに名前を付ける。
言語間ベンチマークで実験を行い、強いベースラインと比較して大幅な改善が達成された。
論文 参考訳(メタデータ) (2021-09-01T09:32:06Z) - Expressivity of Emergent Language is a Trade-off between Contextual
Complexity and Unpredictability [7.765925231148388]
本稿では,異なる言語ゲーム間での一般化性能に基づく表現性間の部分順序の定義を提案する。
また、創発的言語の表現性は文脈の複雑さと予測不可能性のトレードオフであるという仮説を検証した。
コントラスト損失を用いることで、標準的な参照損失関数を用いたメッセージタイプの崩壊が軽減されることを示す。
論文 参考訳(メタデータ) (2021-06-07T21:57:11Z) - Emergent Communication of Generalizations [13.14792537601313]
共有された視覚的コンテキストにおける1つのオブジェクトのコミュニケーションは、過度に適合する傾向があり、具体的な参照を超えて、言語が役に立つことを奨励しない、と我々は主張する。
抽象的な視覚概念を表すオブジェクトの集合上での通信一般化を必要とするゲームを提案する。
これらのゲームは学習言語の体系性と解釈可能性を大幅に向上させる。
論文 参考訳(メタデータ) (2021-06-04T19:02:18Z) - Rediscovering the Slavic Continuum in Representations Emerging from
Neural Models of Spoken Language Identification [16.369477141866405]
音声信号におけるスラヴ語識別のためのニューラルモデルを提案する。
本稿では,言語関連性の客観的尺度を反映しているかどうかを調査するために,その創発的表現を分析した。
論文 参考訳(メタデータ) (2020-10-22T18:18:19Z) - Bridging Linguistic Typology and Multilingual Machine Translation with
Multi-View Language Representations [83.27475281544868]
特異ベクトル標準相関解析を用いて、各情報源からどのような情報が誘導されるかを調べる。
我々の表現は類型学を組み込み、言語関係と相関関係を強化する。
次に、多言語機械翻訳のための多視点言語ベクトル空間を利用して、競合する全体的な翻訳精度を実現する。
論文 参考訳(メタデータ) (2020-04-30T16:25:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。