論文の概要: Neural Program Synthesis with Query
- arxiv url: http://arxiv.org/abs/2205.07857v1
- Date: Sun, 8 May 2022 13:53:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-22 11:43:40.725218
- Title: Neural Program Synthesis with Query
- Title(参考訳): クエリを用いたニューラルプログラム合成
- Authors: Di Huang, Rui Zhang, Xing Hu, Xishan Zhang, Pengwei Jin, Nan Li,
Zidong Du, Qi Guo, Yunji Chen
- Abstract要約: 本稿では,ニューラルネットワークをトレーニングして情報入力を自動生成するクエリベースのフレームワークを提案する。
本稿では,Karelタスクとリスト処理タスクにおいて,提案したクエリベースのフレームワークの有効性と一般化を評価する。
実験結果から、クエリベースのフレームワークは、よく設計されたインプット・アウトプット・インプット・インプット・インプット・インプット・インプット・インプット・インプット・アウトプット・インプット・インプット・インプット・インプット・インプット・アウトプット・インプット・インプット・アウトプット・インプット・インプット・インプット・アウトプット・インプット・
- 参考スコア(独自算出の注目度): 27.212984312375166
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Aiming to find a program satisfying the user intent given input-output
examples, program synthesis has attracted increasing interest in the area of
machine learning. Despite the promising performance of existing methods, most
of their success comes from the privileged information of well-designed
input-output examples. However, providing such input-output examples is
unrealistic because it requires the users to have the ability to describe the
underlying program with a few input-output examples under the training
distribution. In this work, we propose a query-based framework that trains a
query neural network to generate informative input-output examples
automatically and interactively from a large query space. The quality of the
query depends on the amount of the mutual information between the query and the
corresponding program, which can guide the optimization of the query framework.
To estimate the mutual information more accurately, we introduce the functional
space (F-space) which models the relevance between the input-output examples
and the programs in a differentiable way. We evaluate the effectiveness and
generalization of the proposed query-based framework on the Karel task and the
list processing task. Experimental results show that the query-based framework
can generate informative input-output examples which achieve and even
outperform well-designed input-output examples.
- Abstract(参考訳): 入力出力の例でユーザ意図を満たすプログラムを見つけることを目的として、プログラム合成は機械学習分野への関心が高まっている。
既存の手法の有望な性能にもかかわらず、その成功の大部分は、よく設計された入出力例の特権情報に由来する。
しかし、そのような入力出力の例を提供するには、トレーニング分布の下でいくつかの入力出力の例を使って、基礎となるプログラムを記述できることが必要となるため、現実的ではない。
本研究では,問合せニューラルネットワークを学習し,大量の問合せ空間から情報入力出力サンプルを自動的かつインタラクティブに生成する,問合せベースのフレームワークを提案する。
クエリの品質は、クエリと対応するプログラム間の相互情報の量に依存し、クエリフレームワークの最適化を導くことができる。
相互情報をより正確に推定するために、入力出力例とプログラムの関連性を異なる方法でモデル化する関数空間(F空間)を導入する。
本稿では,Karelタスクとリスト処理タスクにおけるクエリベースのフレームワークの有効性と一般化を評価する。
実験の結果、クエリベースのフレームワークは、適切に設計された入力出力の例よりも優れた結果を得る、有益な入力出力の例を生成できることが示されている。
関連論文リスト
- Likelihood as a Performance Gauge for Retrieval-Augmented Generation [78.28197013467157]
言語モデルの性能の効果的な指標としての可能性を示す。
提案手法は,より優れた性能をもたらすプロンプトの選択と構築のための尺度として,疑似可能性を利用する2つの手法を提案する。
論文 参考訳(メタデータ) (2024-11-12T13:14:09Z) - XPrompt:Explaining Large Language Model's Generation via Joint Prompt Attribution [26.639271355209104]
LLM(Large Language Models)は複雑なテキスト生成タスクにおいて顕著なパフォーマンスを示す。
生成したコンテンツに対する入力プロンプトの寄与は、まだ人間には明らかでない。
本稿では,共同プロンプト帰属型XPromptに基づく実例説明フレームワークを提案する。
論文 参考訳(メタデータ) (2024-05-30T18:16:41Z) - Localized RETE for Incremental Graph Queries [1.3858051019755282]
局所的かつ完全にインクリメンタルな実行グラフクエリを可能にする拡張セマンティクスを提案する。
提案手法は, メモリ消費や実行時間に関する性能を良好に向上させることができるが, 顕著な線形オーバーヘッドが生じる可能性がある。
論文 参考訳(メタデータ) (2024-05-02T10:00:37Z) - Generating Pragmatic Examples to Train Neural Program Synthesizers [20.819451354452085]
優れたシンセサイザーは、与えられたサンプルセットと整合した多くのプログラムから意図したプログラムを選択する必要がある。
本稿では,ニューラルネットワークを用いた新しい検索手法を提案する。
論文 参考訳(メタデータ) (2023-11-09T20:53:00Z) - Efficient Prompting via Dynamic In-Context Learning [76.83516913735072]
ブラックボックスジェネリストモデルを用いた効率的なプロンプト法であるDynaICLを提案する。
DynaICLは入力複雑性と計算予算に応じてコンテキスト内の例を動的に割り当てる。
DynaICLは、各入力に同じテキスト内サンプルを割り当てる一般的な慣行と比較して、最大46%のトークン予算を節約している。
論文 参考訳(メタデータ) (2023-05-18T17:58:31Z) - Automated Concatenation of Embeddings for Structured Prediction [75.44925576268052]
本稿では, 埋め込みの自動結合(ACE)を提案し, 構造予測タスクにおける埋め込みのより優れた結合を見つけるプロセスを自動化する。
我々は、強化学習の戦略に従い、制御器のパラメータを最適化し、タスクモデルの精度に基づいて報酬を計算する。
論文 参考訳(メタデータ) (2020-10-10T14:03:20Z) - BUSTLE: Bottom-Up Program Synthesis Through Learning-Guided Exploration [72.88493072196094]
プログラムのボトムアップ検索に学習を活用する新しい合成手法を提案する。
特に、入力出力例のセットに基づいて、探索条件中の中間値の合成を優先順位付けするようにモデルを訓練する。
単純な教師付き学習アプローチであっても,学習とボトムアップ検索の組み合わせは極めて効果的であることを示す。
論文 参考訳(メタデータ) (2020-07-28T17:46:18Z) - Information-theoretic User Interaction: Significant Inputs for Program
Synthesis [11.473616777800318]
重要質問問題を導入し、一般には困難であることを示す。
我々はその問題を解決するための情報理論の欲求的アプローチを開発する。
対話型プログラム合成の文脈では、上記の結果を用いてプログラム学習者を開発する。
私たちのアクティブな学習者は、偽陰性と偽陽性をトレードオフし、現実のデータセット上で少数の反復に収束することができます。
論文 参考訳(メタデータ) (2020-06-22T21:46:40Z) - IReEn: Reverse-Engineering of Black-Box Functions via Iterative Neural
Program Synthesis [70.61283188380689]
ブラックボックスエージェントの機能を明らかにする際の問題点について検討する。
我々はブラックボックスの特権情報に頼るのではなく、プログラムの入力と出力のみにアクセスするというより弱い仮定の下で問題を調査する。
その結果, 提案手法は, 78%の症例において, ほぼ機能的な等価プログラムを見出すことにより, 現状よりも優れていることがわかった。
論文 参考訳(メタデータ) (2020-06-18T17:50:48Z) - Creating Synthetic Datasets via Evolution for Neural Program Synthesis [77.34726150561087]
いくつかのプログラム合成手法は、ランダムに生成された例と異なるデータ分布によく一般化されていることを示す。
本稿では, 合成データ分布のバイアスを制御し, 現在の手法より優れていることを示すための, 新たな敵対的手法を提案する。
論文 参考訳(メタデータ) (2020-03-23T18:34:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。