論文の概要: Modular Networks for Compositional Instruction Following
- arxiv url: http://arxiv.org/abs/2010.12764v2
- Date: Tue, 13 Apr 2021 05:34:01 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-03 11:52:39.479854
- Title: Modular Networks for Compositional Instruction Following
- Title(参考訳): 合成命令追従のためのモジュラーネットワーク
- Authors: Rodolfo Corona, Daniel Fried, Coline Devin, Dan Klein, Trevor Darrell
- Abstract要約: 本稿では,多様なサブゴールのシーケンスを記述する自然言語命令に従うモジュールアーキテクチャを提案する。
実行すべきモジュールのシーケンスは、命令をセグメント化し、各セグメントのサブゴール型を予測することを学ぶことで選択される。
ALFREDの標準の非モジュラー列列列列法と比較すると、モジュラー化は新たなサブゴラル合成への一般化を改善することが判明した。
- 参考スコア(独自算出の注目度): 102.152217117883
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Standard architectures used in instruction following often struggle on novel
compositions of subgoals (e.g. navigating to landmarks or picking up objects)
observed during training. We propose a modular architecture for following
natural language instructions that describe sequences of diverse subgoals. In
our approach, subgoal modules each carry out natural language instructions for
a specific subgoal type. A sequence of modules to execute is chosen by learning
to segment the instructions and predicting a subgoal type for each segment.
When compared to standard, non-modular sequence-to-sequence approaches on
ALFRED, a challenging instruction following benchmark, we find that
modularization improves generalization to novel subgoal compositions, as well
as to environments unseen in training.
- Abstract(参考訳): 命令の後に使用される標準的なアーキテクチャは、訓練中に観察される(例えばランドマークへのナビゲートやオブジェクトの拾い上げなど)サブゴールの新たな構成に苦しむことが多い。
多様なサブゴールのシーケンスを記述する自然言語命令に従うモジュールアーキテクチャを提案する。
提案手法では,各サブゴールモジュールが特定のサブゴールタイプに対して自然言語命令を実行する。
実行すべきモジュールのシーケンスは、命令をセグメント化し、各セグメントのサブゴール型を予測することによって選択される。
ALFREDの標準の非モジュラー列列列列アプローチと比較すると、モジュラー化は新しいサブゴラル構成やトレーニングで見つからない環境への一般化を改善することが分かる。
関連論文リスト
- Chain-of-Instructions: Compositional Instruction Tuning on Large
Language Models [16.21920606888427]
チェーン・オブ・インストラクション(CoI)と呼ばれる新しい構成命令の概念を提案する。
従来の単一命令タスクの解法とは異なり,提案手法では各サブタスクを段階的に解き,最終的な解答に到達するまで解き明かす。
CoIチューニングは、複数のサブタスクからなる命令を処理するモデルの能力を改善する。
論文 参考訳(メタデータ) (2024-02-18T10:10:40Z) - From Language Modeling to Instruction Following: Understanding the
Behavior Shift in LLMs after Instruction Tuning [66.82960120533544]
そこで本研究では,本質的な変化に着目した事前学習モデルの調整方法について検討する。
次に、事前訓練されたモデルと命令調整されたモデルから導かれた説明を比較して、命令チューニングの影響について研究する。
論文 参考訳(メタデータ) (2023-09-30T21:16:05Z) - Compositional Program Generation for Few-Shot Systematic Generalization [59.57656559816271]
コンポジションプログラムジェネレータ(CPG)と呼ばれるニューロシンボリックアーキテクチャに関する研究
CPGには3つの重要な特徴がある: 文法規則の形で、テキストモジュラリティ、テキストコンポジション、テキストタストラクションである。
SCAN と COGS のベンチマークでは,SCAN の14例と COGS の22例を使用して,完全な一般化を実現している。
論文 参考訳(メタデータ) (2023-09-28T14:33:20Z) - Modular Deep Learning [120.36599591042908]
トランスファーラーニングは近年、機械学習の主要なパラダイムとなっている。
負の干渉を伴わずに複数のタスクを専門とするモデルを開発する方法はまだ不明である。
これらの課題に対する有望な解決策として、モジュール型ディープラーニングが登場した。
論文 参考訳(メタデータ) (2023-02-22T18:11:25Z) - Learning Label Modular Prompts for Text Classification in the Wild [56.66187728534808]
そこで本研究では,非定常学習/テスト段階の異なるテキスト分類手法を提案する。
複雑なタスクをモジュラー成分に分解することで、そのような非定常環境下での堅牢な一般化が可能になる。
テキスト分類タスクのためのラベルモジュール型プロンプトチューニングフレームワークMODcularPROMPTを提案する。
論文 参考訳(メタデータ) (2022-11-30T16:26:38Z) - Compositional Generalization in Grounded Language Learning via Induced
Model Sparsity [81.38804205212425]
グリッド環境における単純な言語条件のナビゲーション問題について考察する。
本研究では,オブジェクトの指示文と属性のスパース相関を助長するエージェントを設計し,それらを組み合わせて目的を導出する。
我々のエージェントは、少数のデモンストレーションから学習した場合でも、新しいプロパティの組み合わせを含む目標に対して高いレベルのパフォーマンスを維持している。
論文 参考訳(メタデータ) (2022-07-06T08:46:27Z) - Neuro-Symbolic Hierarchical Rule Induction [12.610497441047395]
Inductive Logic Programming (ILP) 問題を解決するために, 効率的な解釈可能なニューロシンボリックモデルを提案する。
階層構造で組織されたメタルールの集合から構築されたこのモデルでは、メタルールの事実や体述と一致するように埋め込みを学習することで、一階規則が発明される。
我々は, 様々な課題(ILP, 視覚ゲノム, 強化学習)において, 最先端の手法に対して, モデルの有効性を実証的に検証した。
論文 参考訳(メタデータ) (2021-12-26T17:02:14Z) - Towards Evaluating Plan Generation Approaches with Instructional Texts [0.0]
83のテキスト命令からなるデータセットを英語で導入し、より構造化された形に改良し、各命令に対して手作業で計画を立てる。
論文 参考訳(メタデータ) (2020-01-13T12:35:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。