論文の概要: Towards Interactive Language Modeling

• arxiv url: http://arxiv.org/abs/2112.11911v1
• Date: Tue, 14 Dec 2021 18:35:02 GMT
• ステータス: 処理完了
• システム内更新日: 2021-12-26 12:26:43.319131
• Title: Towards Interactive Language Modeling
• Title（参考訳）: 対話型言語モデリングに向けて
• Authors: Maartje ter Hoeve, Evgeny Kharitonov, Dieuwke Hupkes, Emmanuel Dupoux
• Abstract要約: これらの考察に感銘を受け、対話型言語モデリングの分野を開拓した。 本稿では,対話型言語モデリングに向けたステップを詳述する。 この研究は、対話型言語モデリングに関するより大きな研究課題の始まりである。
• 参考スコア（独自算出の注目度）: 18.925337115380703
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Interaction between caregivers and children plays a critical role in human language acquisition and development. Given this observation, it is remarkable that explicit interaction plays little to no role in artificial language modeling -- which also targets the acquisition of human language, yet by artificial models. Moreover, an interactive approach to language modeling has the potential to make language models substantially more versatile and to considerably impact downstream applications. Motivated by these considerations, we pioneer the space of interactive language modeling. As a first contribution we present a road map in which we detail the steps that need to be taken towards interactive language modeling. We then lead by example and take the first steps on this road map, showing the initial feasibility of our approach. As such, this work aims to be the start of a larger research agenda on interactive language modeling.
• Abstract（参考訳）: 介護者と子供の相互作用は、人間の言語習得と発達において重要な役割を果たす。 この観察を踏まえると、明示的な相互作用が人工言語モデリングにおいてほとんど役に立たないことは注目に値する。 さらに、言語モデリングに対するインタラクティブなアプローチは、言語モデルをはるかに汎用性を高め、下流アプリケーションに大きな影響を与える可能性がある。 これらの考察により,対話型言語モデリングの分野を開拓した。 最初のコントリビューションとして、対話型言語モデリングに向けて取るべきステップを詳述するロードマップを提示する。 次に、事例を導いて、このロードマップの第一歩を踏み出し、私たちのアプローチの最初の実現可能性を示します。 そこで本研究は,対話型言語モデリングに関するより大きな研究課題の出発点となる。

関連論文リスト

• Modeling language contact with the Iterated Learning Model [0.0]
  反復学習モデルは言語変化のエージェントベースモデルである。 最近導入された反復学習モデルであるSemi-Supervised ILMは、言語接触をシミュレートするために使われている。
  論文  参考訳（メタデータ） (2024-06-11T01:43:23Z)
• LVLM-Interpret: An Interpretability Tool for Large Vision-Language Models [50.259006481656094]
  本稿では,大規模視覚言語モデルの内部メカニズムの理解を目的とした対話型アプリケーションを提案する。 このインタフェースは, 画像パッチの解釈可能性を高めるために設計されており, 応答の生成に有効である。 本稿では,一般的な大規模マルチモーダルモデルであるLLaVAにおける障害機構の理解に,アプリケーションがどのように役立つかのケーススタディを示す。
  論文  参考訳（メタデータ） (2024-04-03T23:57:34Z)
• RT-2: Vision-Language-Action Models Transfer Web Knowledge to Robotic Control [140.48218261864153]
  本研究では,インターネット規模のデータに基づいて学習した視覚言語モデルを,エンドツーエンドのロボット制御に直接組み込む方法について検討する。 提案手法は,インターネット規模のトレーニングから,RT-2による創発的能力の獲得を可能にした。
  論文  参考訳（メタデータ） (2023-07-28T21:18:02Z)
• Feature Interactions Reveal Linguistic Structure in Language Models [2.0178765779788495]
  本研究では,ポストホック解釈における特徴帰属手法の文脈における特徴的相互作用について検討した。 私たちは、正規言語分類タスクで完璧にモデルをトレーニングする灰色のボックスの方法論を開発します。 特定の構成下では、いくつかの手法が実際にモデルが獲得した文法規則を明らかにすることができることを示す。
  論文  参考訳（メタデータ） (2023-06-21T11:24:41Z)
• PaLM-E: An Embodied Multimodal Language Model [101.29116156731762]
  本研究では,実世界の連続型センサを言語モデルに組み込むための具体的言語モデルを提案する。 我々は、複数の具体的タスクのために、事前訓練された大規模言語モデルとともに、これらのエンコーディングをエンドツーエンドにトレーニングする。 562Bパラメータを持つ大モデル PaLM-E-562B は、OK-VQA 上での最先端性能を持つ視覚言語ジェネラリストである。
  論文  参考訳（メタデータ） (2023-03-06T18:58:06Z)
• Learning Joint Representation of Human Motion and Language [22.29342443400645]
  人間の動作と言語を協調的に表現するためのMoLang(MoLang:Motion-Language Connecting Model)を提案する。 本研究では,人間の動作領域のより一般化可能な表現を学習するために,コントラスト学習を用いた動き言語モデルを提案する。
  論文  参考訳（メタデータ） (2022-10-27T05:32:20Z)
• Cross-Align: Modeling Deep Cross-lingual Interactions for Word Alignment [63.0407314271459]
  提案したCross-Alignは、5つの言語ペアのうち4つで最先端(SOTA)のパフォーマンスを達成する。 実験の結果,提案したCross-Alignは5つの言語ペアのうち4つで最先端(SOTA)のパフォーマンスを達成することがわかった。
  論文  参考訳（メタデータ） (2022-10-09T02:24:35Z)
• Language Models are General-Purpose Interfaces [109.45478241369655]
  本稿では,様々な基礎モデルに対する汎用インタフェースとして言語モデルを提案する。 事前訓練されたエンコーダのコレクションは、様々なモダリティ(ビジョンや言語など)を知覚する インタフェースとモジュールエンコーダを協調的に事前学習するための半因果言語モデリング手法を提案する。
  論文  参考訳（メタデータ） (2022-06-13T17:34:22Z)
• Towards Zero-shot Language Modeling [90.80124496312274]
  人間の言語学習に誘導的に偏りを持つニューラルモデルを構築した。 類型的に多様な訓練言語のサンプルからこの分布を推測する。 我々は、保留言語に対する遠隔監視として、追加の言語固有の側情報を利用する。
  論文  参考訳（メタデータ） (2021-08-06T23:49:18Z)
• Language Acquisition is Embodied, Interactive, Emotive: a Research Proposal [2.639737913330821]
  音声対話の対話的設定における具体化と感情の役割に関する文献を,児童の言語学習に必要な前提条件として検討する。 我々は,現在のトランスフォーマーモデルと単語レベルの基底モデルを利用する意味論のモデルをスケッチし,私たちの意味モデルを利用するロボット対話システムを説明する。
  論文  参考訳（メタデータ） (2021-05-10T19:40:17Z)
• Multi-agent Communication meets Natural Language: Synergies between Functional and Structural Language Learning [16.776753238108036]
  本稿では,マルチエージェント通信と従来のデータ駆動型アプローチを組み合わせた自然言語学習手法を提案する。 私たちの出発点は、タスク固有の言語データではなく、ジェネリックに基づいて訓練された言語モデルです。 次に、このモデルをマルチエージェントのセルフプレイ環境に配置し、モデルへの適応や修正に使用するタスク固有の報酬を生成する。
  論文  参考訳（メタデータ） (2020-05-14T15:32:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。