論文の概要: ProTo: Program-Guided Transformer for Program-Guided Tasks
- arxiv url: http://arxiv.org/abs/2110.00804v1
- Date: Sat, 2 Oct 2021 13:46:32 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-06 13:12:25.334541
- Title: ProTo: Program-Guided Transformer for Program-Guided Tasks
- Title(参考訳): proto:プログラム誘導タスクのためのプログラム誘導トランスフォーマー
- Authors: Zelin Zhao, Karan Samel, Binghong Chen, Le Song
- Abstract要約: 我々は,学習者が与えられたタスク仕様に基づいて所定のプログラムを実行することを要求されるプログラム誘導タスクを定式化する。
本稿では,プログラムの意味的ガイダンスと構造的ガイダンスを統合したProTo(Proto)を提案する。
ProToは学習された潜在空間でプログラムを実行し、従来のニューラルシンボリックアプローチよりも強力な表現能力を持っている。
- 参考スコア(独自算出の注目度): 59.34258016795216
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Programs, consisting of semantic and structural information, play an
important role in the communication between humans and agents. Towards learning
general program executors to unify perception, reasoning, and decision making,
we formulate program-guided tasks which require learning to execute a given
program on the observed task specification. Furthermore, we propose the
Program-guided Transformer (ProTo), which integrates both semantic and
structural guidance of a program by leveraging cross-attention and masked
self-attention to pass messages between the specification and routines in the
program. ProTo executes a program in a learned latent space and enjoys stronger
representation ability than previous neural-symbolic approaches. We demonstrate
that ProTo significantly outperforms the previous state-of-the-art methods on
GQA visual reasoning and 2D Minecraft policy learning datasets. Additionally,
ProTo demonstrates better generalization to unseen, complex, and human-written
programs.
- Abstract(参考訳): 意味的および構造的情報からなるプログラムは、人間とエージェント間のコミュニケーションにおいて重要な役割を果たす。
認識,推論,意思決定を統一する汎用プログラム実行者の学習に向けて,観察されたタスク仕様に基づいて与えられたプログラムを実行することを求めるプログラム誘導タスクを定式化する。
さらに,クロス・アテンションとマスキング・セルフアテンションを活用し,プログラムの意味的および構造的ガイダンスを統合したプログラムガイドトランスフォーマ(proto)を提案する。
ProToは学習された潜在空間でプログラムを実行し、従来のニューラルシンボリックアプローチよりも強力な表現能力を持っている。
我々は,従来のGQAビジュアル推論と2次元Minecraftポリシー学習データセットにおいて,ProToが従来の最先端手法を大幅に上回っていることを実証した。
さらにProToは、目に見えない、複雑で、人間書きのプログラムにより良い一般化を示す。
関連論文リスト
- A brief overview of programmed instructions for quantum software
education [0.0]
本稿では,STEM分野におけるプログラム命令法と最近の成功について述べる。
取り組まれている要素には、プログラムされた命令のコアコンポーネント、そのルーツ、早期使用、複雑なSTEM材料への適応などが含まれる。
本研究の目的は、量子スキルと概念をより効率的に普及させることを目的として、量子教育にプログラムされた指導を組み込むための高レベルのガイドラインを提供することである。
論文 参考訳(メタデータ) (2023-12-13T08:47:08Z) - Understanding Programs by Exploiting (Fuzzing) Test Cases [26.8259045248779]
プログラムのより深い意味理解を実現するために,入力と出力/振る舞いの関係を学習に取り入れることを提案する。
コードの大部分の実行をトリガーするのに十分な入力を得るために,ファズテストを採用し,ファズチューニングを提案する。
提案手法の有効性は,コードクローン検出とコード分類を含む2つのプログラム理解タスクにおいて検証され,最先端技術よりも大きなマージンで優れている。
論文 参考訳(メタデータ) (2023-05-23T01:51:46Z) - Hierarchical Programmatic Reinforcement Learning via Learning to Compose
Programs [58.94569213396991]
プログラムポリシーを作成するための階層型プログラム強化学習フレームワークを提案する。
提案するフレームワークは,プログラム作成の学習を通じて,アウト・オブ・ディストリビュータの複雑な動作を記述するプログラムポリシーを作成することができる。
Karel ドメインの実験結果から,提案するフレームワークがベースラインより優れていることが示された。
論文 参考訳(メタデータ) (2023-01-30T14:50:46Z) - UniRPG: Unified Discrete Reasoning over Table and Text as Program
Generation [32.74302320558048]
セマンティックパーシングに基づくアプローチであるUniRPGを提案する。
UniRPGは異種知識リソース、すなわち表とテキストをプログラム生成として統一的な個別推論を行う。
最先端の手法と比較して、非常に改善され、解釈可能性とスケーラビリティが向上します。
論文 参考訳(メタデータ) (2022-10-15T10:17:52Z) - Learning from Self-Sampled Correct and Partially-Correct Programs [96.66452896657991]
そこで本研究では,モデルが学習中にサンプリングを行い,自己サンプリングされた完全正当プログラムと部分正当プログラムの両方から学習することを提案する。
自己サンプリング型プログラムと部分修正型プログラムを併用することで,学習とサンプリングプロセスのガイドに役立てることができることを示す。
提案手法は,MLEを用いた単一の参照プログラムからの学習と比較して,パス@kの性能を3.1%から12.3%向上させる。
論文 参考訳(メタデータ) (2022-05-28T03:31:07Z) - Procedures as Programs: Hierarchical Control of Situated Agents through
Natural Language [81.73820295186727]
エージェント命令と制御のための階層的な手続き的知識を表現する強力な手法である,プログラムとしての手続きの形式化を提案する。
NL命令に対するIQAおよびALFREDデータセット上で、このフレームワークをインスタンス化する。
論文 参考訳(メタデータ) (2021-09-16T20:36:21Z) - Learning to Synthesize Programs as Interpretable and Generalizable
Policies [25.258598215642067]
本稿では,プログラムの合成を学習するフレームワークについて述べる。
実験の結果,提案フレームワークは,タスク解決プログラムを確実に合成するだけでなく,DRLやプログラム合成ベースラインよりも優れていることがわかった。
論文 参考訳(メタデータ) (2021-08-31T07:03:06Z) - How could Neural Networks understand Programs? [67.4217527949013]
ソースコードにnlpプリトレーニング技術を直接適用するか、あるいはtheshelfによってモデルに機能を追加するかで、プログラムをより理解するためのモデルを構築するのは難しい。
本研究では,(1)操作セマンティクスの基本操作とよく一致する表現と(2)環境遷移の情報からなる情報から,モデルが学ぶべき新しいプログラムセマンティクス学習パラダイムを提案する。
論文 参考訳(メタデータ) (2021-05-10T12:21:42Z) - Broader terms curriculum mapping: Using natural language processing and
visual-supported communication to create representative program planning
experiences [62.997667081978825]
学部と非学部間のコミュニケーションの困難さは、未発見のコラボレーションの可能性を秘めている。
本稿では,プログラム計画表現の普遍的,自己説明的,権限付与的な提供方法を提案する。
論文 参考訳(メタデータ) (2021-02-09T13:27:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。