論文の概要: Information-theoretic User Interaction: Significant Inputs for Program
Synthesis
- arxiv url: http://arxiv.org/abs/2006.12638v1
- Date: Mon, 22 Jun 2020 21:46:40 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-18 06:42:00.780268
- Title: Information-theoretic User Interaction: Significant Inputs for Program
Synthesis
- Title(参考訳): 情報理論ユーザーインタラクション:プログラム合成のための重要な入力
- Authors: Ashish Tiwari, Arjun Radhakrishna, Sumit Gulwani, and Daniel Perelman
- Abstract要約: 重要質問問題を導入し、一般には困難であることを示す。
我々はその問題を解決するための情報理論の欲求的アプローチを開発する。
対話型プログラム合成の文脈では、上記の結果を用いてプログラム学習者を開発する。
私たちのアクティブな学習者は、偽陰性と偽陽性をトレードオフし、現実のデータセット上で少数の反復に収束することができます。
- 参考スコア(独自算出の注目度): 11.473616777800318
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Programming-by-example technologies are being deployed in industrial products
for real-time synthesis of various kinds of data transformations. These
technologies rely on the user to provide few representative examples of the
transformation task. Motivated by the need to find the most pertinent question
to ask the user, in this paper, we introduce the {\em significant questions
problem}, and show that it is hard in general. We then develop an
information-theoretic greedy approach for solving the problem. We justify the
greedy algorithm using the conditional entropy result, which informally says
that the question that achieves the maximum information gain is the one that we
know least about.
In the context of interactive program synthesis, we use the above result to
develop an {\em{active program learner}} that generates the significant inputs
to pose as queries to the user in each iteration. The procedure requires
extending a {\em{passive program learner}} to a {\em{sampling program learner}}
that is able to sample candidate programs from the set of all consistent
programs to enable estimation of information gain. It also uses clustering of
inputs based on features in the inputs and the corresponding outputs to sample
a small set of candidate significant inputs. Our active learner is able to
tradeoff false negatives for false positives and converge in a small number of
iterations on a real-world dataset of %around 800 string transformation tasks.
- Abstract(参考訳): プログラミング・バイ・サンプル技術は様々な種類のデータ変換をリアルタイムに合成するために工業製品にデプロイされている。
これらの技術は、トランスフォーメーションタスクの代表的な例をほとんど提供するために、ユーザに依存しています。
ユーザに質問するために最も適切な質問を見つける必要性に動機づけられた本論文では、"em significant question problem"という問題を紹介し、一般に難しいことを示します。
次に,その問題を解決するための情報理論的欲求的アプローチを開発する。
我々は条件付きエントロピー結果を用いて欲求的アルゴリズムを正当化するが、これは非公式に、最大情報ゲインを達成する問題は、我々が少なくとも知っている問題である、と述べる。
対話型プログラム合成の文脈では、上記の結果を用いて、各イテレーションでユーザに対してクエリーとしてポーズする重要な入力を生成する {\em{active program learner}} を開発した。
この手順では、全ての一貫したプログラムのセットから候補プログラムをサンプリングし、情報ゲインを推定できるように、.em{passive program learner}} を {\em{sampling program learner}} に拡張する必要がある。
また、入力の特徴と対応する出力に基づく入力のクラスタリングを使用して、少数の重要な入力候補をサンプリングする。
我々の活発な学習者は、偽陽性に対する偽陰性と、実世界の約800の文字列変換タスクのデータセット上で少数の反復に収束することができる。
関連論文リスト
- Likelihood as a Performance Gauge for Retrieval-Augmented Generation [78.28197013467157]
言語モデルの性能の効果的な指標としての可能性を示す。
提案手法は,より優れた性能をもたらすプロンプトの選択と構築のための尺度として,疑似可能性を利用する2つの手法を提案する。
論文 参考訳(メタデータ) (2024-11-12T13:14:09Z) - Incrementally-Computable Neural Networks: Efficient Inference for
Dynamic Inputs [75.40636935415601]
ディープラーニングは、センサーデータやユーザ入力などの動的入力を効率的に処理するという課題に直面していることが多い。
インクリメンタルな計算アプローチを採用し、入力の変化に応じて計算を再利用する。
本稿では,この手法をトランスフォーマーアーキテクチャに適用し,修正入力の分数に比例した複雑性を持つ効率的なインクリメンタル推論アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-07-27T16:30:27Z) - Multi-Intent Detection in User Provided Annotations for Programming by
Examples Systems [3.265146857386153]
Programming by Example (PBE) は、コンピュータプログラムの自動推論を目標とし、ユーザが提供する入力および出力サンプルからフォーマットまたは文字列変換タスクを達成する技術である。
本稿では,入力出力文字列を解析し,複数の目的に責任を負う特性の異なるセットにマッピングする,ディープニューラルネットワークに基づくあいまいさ予測モデルを提案する。
論文 参考訳(メタデータ) (2023-07-08T12:35:10Z) - Neural Program Synthesis with Query [27.212984312375166]
本稿では,ニューラルネットワークをトレーニングして情報入力を自動生成するクエリベースのフレームワークを提案する。
本稿では,Karelタスクとリスト処理タスクにおいて,提案したクエリベースのフレームワークの有効性と一般化を評価する。
実験結果から、クエリベースのフレームワークは、よく設計されたインプット・アウトプット・インプット・インプット・インプット・インプット・インプット・インプット・インプット・アウトプット・インプット・インプット・インプット・インプット・インプット・アウトプット・インプット・インプット・アウトプット・インプット・インプット・インプット・アウトプット・インプット・
論文 参考訳(メタデータ) (2022-05-08T13:53:18Z) - Less is More: Summary of Long Instructions is Better for Program
Synthesis [20.66688303609522]
事前学習された言語モデル(LM)は、複雑な質問の要約版から恩恵を受けることを示す。
この結果から,問題記述に多量の情報が存在することは,課題理解のモデルには役に立たないことがわかった。
Codexの実験結果から,提案手法の精度は平均8.13%向上した。
論文 参考訳(メタデータ) (2022-03-16T13:04:12Z) - Recent Developments in Program Synthesis with Evolutionary Algorithms [1.8047694351309207]
関連する進化的プログラム合成手法を同定し,その性能を詳細に解析する。
私たちが特定する最も影響力のあるアプローチは、スタックベース、文法誘導、および線形遺伝プログラミングである。
今後の研究のために、研究者は、プログラムのアウトプットを使用して、ソリューションの品質を評価するだけでなく、ソリューションへの道を開くことを奨励します。
論文 参考訳(メタデータ) (2021-08-27T11:38:27Z) - ProtoTransformer: A Meta-Learning Approach to Providing Student Feedback [54.142719510638614]
本稿では,フィードバックを数発の分類として提供するという課題について考察する。
メタラーナーは、インストラクターによるいくつかの例から、新しいプログラミング質問に関する学生のコードにフィードバックを与えるように適応します。
本手法は,第1段階の大学が提供したプログラムコースにおいて,16,000名の学生試験ソリューションに対するフィードバックの提供に成功している。
論文 参考訳(メタデータ) (2021-07-23T22:41:28Z) - When is Memorization of Irrelevant Training Data Necessary for
High-Accuracy Learning? [53.523017945443115]
我々は,十分な精度のトレーニングアルゴリズムが,予測モデルにおいて,そのトレーニング例の大規模サブセットに関する情報を本質的にすべてエンコードしなければならない自然予測問題を記述する。
私たちの結果は、トレーニングアルゴリズムや学習に使用されるモデルのクラスに依存しません。
論文 参考訳(メタデータ) (2020-12-11T15:25:14Z) - BUSTLE: Bottom-Up Program Synthesis Through Learning-Guided Exploration [72.88493072196094]
プログラムのボトムアップ検索に学習を活用する新しい合成手法を提案する。
特に、入力出力例のセットに基づいて、探索条件中の中間値の合成を優先順位付けするようにモデルを訓練する。
単純な教師付き学習アプローチであっても,学習とボトムアップ検索の組み合わせは極めて効果的であることを示す。
論文 参考訳(メタデータ) (2020-07-28T17:46:18Z) - The Variational Bandwidth Bottleneck: Stochastic Evaluation on an
Information Budget [164.65771897804404]
多くのアプリケーションにおいて、複雑な入力データから関連する情報のみを抽出することが望ましい。
情報ボトルネック法は、これを情報理論最適化問題として定式化する。
本稿では,特権情報の推定値について,各例について決定する帯域幅のばらつきボトルネックを提案する。
論文 参考訳(メタデータ) (2020-04-24T18:29:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。