論文の概要: DreamCoder: Growing generalizable, interpretable knowledge with
wake-sleep Bayesian program learning
- arxiv url: http://arxiv.org/abs/2006.08381v1
- Date: Mon, 15 Jun 2020 13:06:29 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-21 02:38:54.692557
- Title: DreamCoder: Growing generalizable, interpretable knowledge with
wake-sleep Bayesian program learning
- Title(参考訳): DreamCoder: 覚醒学習による一般化可能な解釈可能な知識の育成
- Authors: Kevin Ellis, Catherine Wong, Maxwell Nye, Mathias Sable-Meyer, Luc
Cary, Lucas Morales, Luke Hewitt, Armando Solar-Lezama, Joshua B. Tenenbaum
- Abstract要約: 本稿では,プログラム記述による問題解決学習システムであるDreamCoderを紹介する。
ニューラルネットワークとともに、ドメイン概念を表現するためのプログラミング言語を作成することで、専門知識を構築する。
ウェイクスリープの学習アルゴリズムは、新しいシンボル抽象化で言語を交互に拡張し、想像と再生の問題でニューラルネットワークをトレーニングする。
- 参考スコア(独自算出の注目度): 47.910312960048174
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Expert problem-solving is driven by powerful languages for thinking about
problems and their solutions. Acquiring expertise means learning these
languages -- systems of concepts, alongside the skills to use them. We present
DreamCoder, a system that learns to solve problems by writing programs. It
builds expertise by creating programming languages for expressing domain
concepts, together with neural networks to guide the search for programs within
these languages. A ``wake-sleep'' learning algorithm alternately extends the
language with new symbolic abstractions and trains the neural network on
imagined and replayed problems. DreamCoder solves both classic inductive
programming tasks and creative tasks such as drawing pictures and building
scenes. It rediscovers the basics of modern functional programming, vector
algebra and classical physics, including Newton's and Coulomb's laws. Concepts
are built compositionally from those learned earlier, yielding multi-layered
symbolic representations that are interpretable and transferrable to new tasks,
while still growing scalably and flexibly with experience.
- Abstract(参考訳): エキスパート問題解決は、問題とその解決策を考えるための強力な言語によって推進される。
専門知識の獲得とは,これらの言語 – 概念体系 – を,使用するスキルとともに学ぶことです。
本稿では,プログラム記述による問題解決学習システムであるDreamCoderを紹介する。
ドメイン概念を表現するためのプログラミング言語と、これらの言語内のプログラムの検索をガイドするニューラルネットワークを作成することで、専門知識を構築する。
学習アルゴリズムは、新しいシンボリック抽象化で言語を交互に拡張し、想像と再生の問題でニューラルネットワークをトレーニングする。
dreamcoderは、古典的なインダクティブなプログラミングタスクと、絵を描く、シーンを作るといった創造的なタスクの両方を解決します。
ニュートンの法則やクーロンの法則を含む、現代的な関数型プログラミング、ベクトル代数、古典物理学の基礎を再発見する。
概念は、以前に学んだものから構成的に構築され、新しいタスクに解釈可能で転送可能な、多層的な象徴表現を生み出す。
関連論文リスト
- Neuromorphic Programming: Emerging Directions for Brain-Inspired Hardware [0.0]
現在、ニューロモルフィックハードウェアはディープラーニングに適応した機械学習手法に依存していることが多い。
ニューロモルフィックコンピュータは、そのエネルギー効率と完全な計算能力しか利用できない場合、ディープラーニングをはるかに超える可能性を持っている。
本稿では,ニューロモルフィックコンピューティングの文脈におけるプログラミングの概念解析について述べる。
論文 参考訳(メタデータ) (2024-10-15T10:08:15Z) - CodeGRAG: Bridging the Gap between Natural Language and Programming Language via Graphical Retrieval Augmented Generation [58.84212778960507]
我々は,LLMの性能を高めるため,グラフィカル検索拡張コード生成フレームワークであるCodeGRAGを提案する。
CodeGRAGは、制御フローとデータフローに基づいて、コードブロックのグラフィカルなビューを構築し、プログラミング言語と自然言語のギャップを埋める。
ハードメタグラフプロンプト、ソフトプロンプト技術、事前訓練されたGNN専門家の目的の有効性を検証するために、C++言語とピソン言語の両方を含む4つのデータセットで様々な実験と改善が行われた。
論文 参考訳(メタデータ) (2024-05-03T02:48:55Z) - Language Evolution with Deep Learning [49.879239655532324]
計算モデリングは言語の出現の研究において重要な役割を担っている。
構造化言語の出現を誘発する可能性のある条件と学習プロセスをシミュレートすることを目的としている。
この章では、最近機械学習の分野に革命をもたらした別の種類の計算モデル、ディープ・ラーニング・モデルについて論じる。
論文 参考訳(メタデータ) (2024-03-18T16:52:54Z) - Linguacodus: A Synergistic Framework for Transformative Code Generation in Machine Learning Pipelines [0.0]
本稿では,自然言語のタスク記述を高レベルなデータ生成命令によってコードに変換する動的パイプラインを提案する。
本稿では、微調整過程を詳述し、自然言語記述を関数型コードに変換する方法について光を当てる。
本稿では,MLタスクの自然な記述を人間のインタラクションを最小限に抑えたコードに変換するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-03-18T08:58:47Z) - PwR: Exploring the Role of Representations in Conversational Programming [17.838776812138626]
PwR(Programming with Representations)は、自然言語でシステムの理解をユーザに伝えるために表現を使用する手法である。
その結果,表現は理解可能性を大幅に向上させ,参加者の間にエージェンシーの感覚を植え付けることができた。
論文 参考訳(メタデータ) (2023-09-18T05:38:23Z) - Promptly: Using Prompt Problems to Teach Learners How to Effectively
Utilize AI Code Generators [5.458849730200646]
本稿では,「プロンプト問題」として知られる新しい教育概念を紹介する。
プロンプト問題(英: Prompt Problem)は、学生が自然言語のプロンプトを作成し、LLMが特定の問題に対して正しいコードを生成するよう促す問題である。
Promptlyを初年度のPythonプログラミングコースに導入したフィールドスタディから経験的知見を報告する。
論文 参考訳(メタデータ) (2023-07-31T01:46:42Z) - Retentive or Forgetful? Diving into the Knowledge Memorizing Mechanism
of Language Models [49.39276272693035]
大規模事前学習型言語モデルは、顕著な記憶能力を示している。
プレトレーニングのないバニラニューラルネットワークは、破滅的な忘れ物問題に悩まされていることが長年観察されてきた。
1)バニラ言語モデルは忘れがちである; 2)事前学習は暗黙の言語モデルにつながる; 3)知識の妥当性と多様化は記憶形成に大きな影響を及ぼす。
論文 参考訳(メタデータ) (2023-05-16T03:50:38Z) - Improving Compositionality of Neural Networks by Decoding
Representations to Inputs [83.97012077202882]
我々は、ニューラルネットワークのアクティベーションを制約し、入力に"デコード"するように生成モデルを共同で訓練することで、従来のディープラーニングプログラムの利点を橋渡しする。
本稿では,デオード可能な表現の分布外検出,逆例,校正,公平性への応用を実証する。
論文 参考訳(メタデータ) (2021-06-01T20:07:16Z) - Neurocoder: Learning General-Purpose Computation Using Stored Neural
Programs [64.56890245622822]
ニューロコーダ(Neurocoder)は、汎用計算機の全く新しいクラスである。
共有可能なモジュール型プログラムのセットから関連するプログラムを構成することで、データ応答性のある方法で“コード”を行う。
モジュールプログラムを学習し、パターンシフトを厳しく処理し、新しいプログラムが学習されると、古いプログラムを記憶する新しい能力を示す。
論文 参考訳(メタデータ) (2020-09-24T01:39:16Z) - Turning 30: New Ideas in Inductive Logic Programming [18.581514902689346]
帰納論理プログラミングは、データから論理プログラムを誘導する機械学習の一種である。
少数の事例から一般化したプログラムの学習方法に焦点をあてる。
また、帰納論理プログラミングにおける今後の研究の方向性についても論じる。
論文 参考訳(メタデータ) (2020-02-25T16:23:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。