論文の概要: Can Transformers Reason About Effects of Actions?
- arxiv url: http://arxiv.org/abs/2012.09938v1
- Date: Thu, 17 Dec 2020 21:12:58 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-02 07:40:49.277442
- Title: Can Transformers Reason About Effects of Actions?
- Title（参考訳）: トランスフォーマーはアクションの効果を判断できるのか?
- Authors: Pratyay Banerjee, Chitta Baral, Man Luo, Arindam Mitra, Kuntal Pal,
Tran C. Son, Neeraj Varshney
- Abstract要約: 自然言語では4つのアクションドメイン(ブロックワールド、ロジスティクス、ドックワーカーロボット、ジェネリックドメイン)を考える。
これらのドメインにおけるアクションの影響を推論するQAデータセットを作成します。
- 参考スコア（独自算出の注目度）: 20.13112331868946
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: A recent work has shown that transformers are able to "reason" with facts and
rules in a limited setting where the rules are natural language expressions of
conjunctions of conditions implying a conclusion. Since this suggests that
transformers may be used for reasoning with knowledge given in natural
language, we do a rigorous evaluation of this with respect to a common form of
knowledge and its corresponding reasoning -- the reasoning about effects of
actions. Reasoning about action and change has been a top focus in the
knowledge representation subfield of AI from the early days of AI and more
recently it has been a highlight aspect in common sense question answering. We
consider four action domains (Blocks World, Logistics, Dock-Worker-Robots and a
Generic Domain) in natural language and create QA datasets that involve
reasoning about the effects of actions in these domains. We investigate the
ability of transformers to (a) learn to reason in these domains and (b)
transfer that learning from the generic domains to the other domains.
- Abstract（参考訳）: 最近の研究では、トランスフォーマーは、ルールが結論を暗示する条件の結合の自然言語表現である限定された環境で、事実とルールを「合理化」することができることが示されている。
これは、トランスフォーマーが自然言語で与えられた知識を推論するために使われることを示唆するので、我々は、共通の知識の形式とその対応する推論、すなわち行動の影響に関する推論に関して、厳密な評価を行う。
行動と変化に関する推論は、AIの初期からAIの知識表現サブフィールドにおける最重要課題であり、最近では常識的質問応答において目立った側面となっている。
我々は、自然言語で4つのアクションドメイン(Blocks World、Logistics、Dock-Worker-Robots、Generic Domain)を検討し、これらのドメインにおけるアクションの効果を推論するQAデータセットを作成します。
a)これらの領域における推論を学習するトランスフォーマーの能力について検討し、(b)一般的なドメインから他のドメインへの学習を伝達する。
関連論文リスト
- Adventures of Trustworthy Vision-Language Models: A Survey [54.76511683427566]
本稿では,バイス,ロバスト性,解釈可能性の3つの基本原理を用いて,視覚言語変換器の徹底的な検証を行う。
本研究の主な目的は, トランスフォーマーの実用化に伴う複雑さと複雑さを掘り下げることであり, 信頼性と説明責任を高める方法の理解を深めることである。
論文 参考訳（メタデータ） (2023-12-07T11:31:20Z) - What Formal Languages Can Transformers Express? A Survey [11.068780109935277]
一部の研究者は、問題を形式言語として扱うことによって、彼らが解決できる問題とできない問題について理論的に研究してきた。
本稿では,この研究を包括的に調査し,異なる結果の基盤となる多様な仮定を文書化し,一見矛盾する発見を調和させる統一的な枠組みを提供する。
論文 参考訳（メタデータ） (2023-11-01T00:38:26Z) - Improving Attention-Based Interpretability of Text Classification
Transformers [7.027858121801477]
テキスト分類における変圧器の注意に基づく解釈可能性手法の有効性について検討する。
適切な設定で、最新技術に匹敵する結果が得られるようなタスクに注意を向けることが示される。
論文 参考訳（メタデータ） (2022-09-22T09:19:22Z) - Perceiver-Actor: A Multi-Task Transformer for Robotic Manipulation [52.94101901600948]
マルチタスク6-DoF操作のための言語条件付き行動閉鎖エージェントPerActを開発した。
PerActはPerceiver Transformerを用いて言語目標とRGB-Dボクセル観測を符号化し、"次の最良のボクセル動作を検出する"ことで識別された動作を出力する。
以上の結果から,PerActは多様なテーブルトップタスクにおいて,非構造化イメージ・ツー・アクション・エージェントと3D ConvNetベースラインを著しく上回っていることがわかった。
論文 参考訳（メタデータ） (2022-09-12T17:51:05Z) - Synthesis and Execution of Communicative Robotic Movements with
Generative Adversarial Networks [59.098560311521034]
我々は、繊細な物体を操作する際に人間が採用するのと同じキネマティクス変調を2つの異なるロボットプラットフォームに転送する方法に焦点を当てる。
我々は、ロボットのエンドエフェクターが採用する速度プロファイルを、異なる特徴を持つ物体を輸送する際に人間が何をするかに触発されて調整する。
我々は、人体キネマティクスの例を用いて訓練され、それらを一般化し、新しい有意義な速度プロファイルを生成する、新しいジェネレーティブ・アドバイサル・ネットワークアーキテクチャを利用する。
論文 参考訳（メタデータ） (2022-03-29T15:03:05Z) - AbductionRules: Training Transformers to Explain Unexpected Inputs [2.2630663834223763]
AbductionRulesは、自然言語の知識ベース上で一般的な推論を訓練し、テストするために設計されたデータセットのグループです。
本稿では,帰納的推論へのこのアプローチの適用可能性と今後の作業で改善される可能性について論じる。
論文 参考訳（メタデータ） (2022-03-23T04:18:30Z) - On the validity of pre-trained transformers for natural language
processing in the software engineering domain [78.32146765053318]
ソフトウェア工学データを用いて訓練されたBERT変換器モデルと一般領域データに基づく変換器との比較を行った。
ソフトウェアエンジニアリングのコンテキストを理解するために必要なタスクに対しては,ソフトウェアエンジニアリングデータの事前学習が重要であることを示す。
論文 参考訳（メタデータ） (2021-09-10T08:46:31Z) - Combining Transformers with Natural Language Explanations [13.167758466408825]
本稿では,外部記憶を利用して自然言語記述を記憶し,それらを分類結果の説明に利用するトランスフォーマーモデルの拡張を提案する。
法的なテキスト分析と議論マイニングという2つの領域を実験的に評価し,分類性能を維持したり改善したりしながら,本手法が関連する説明を得られることを示す。
論文 参考訳（メタデータ） (2021-09-02T09:17:04Z) - Learning Chess Blindfolded: Evaluating Language Models on State Tracking [69.3794549747725]
私たちはチェスのゲームのための言語モデリングのタスクを検討します。
自然言語とは異なり、チェス表記法は単純で制約のある決定論的領域を記述する。
トランスフォーマー言語モデルでは,移動シーケンスのみを訓練することで,ピースの追跡や法的動作の予測を高精度に行うことができる。
論文 参考訳（メタデータ） (2021-02-26T01:16:23Z) - Explainable Object-induced Action Decision for Autonomous Vehicles [53.59781838748779]
自動運転の新しいパラダイムが提案されている。
それは人間がその問題を解決する方法にインスパイアされている。
この問題を解決するためにCNNアーキテクチャを提案する。
論文 参考訳（メタデータ） (2020-03-20T17:33:44Z) - Transformers as Soft Reasoners over Language [33.291806251021185]
本稿では,事実と規則を自然言語文として提供し,形式表現をバイパスする問題について検討する。
我々は、合成されたデータを用いて、これらの文に対する推論(または推論)をエミュレートするようにトランスフォーマーを訓練する。
RuleTakersと呼ばれる私たちのモデルは、この種の言語に対するソフトな推論が学習可能であるという、最初の実証的なデモンストレーションを提供します。
論文 参考訳（メタデータ） (2020-02-14T04:23:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。