論文の概要: Incorporating domain knowledge into neural-guided search

• arxiv url: http://arxiv.org/abs/2107.09182v1
• Date: Mon, 19 Jul 2021 22:34:43 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-21 14:56:48.321960
• Title: Incorporating domain knowledge into neural-guided search
• Title（参考訳）: 神経誘導探索へのドメイン知識の導入
• Authors: Brenden K. Petersen, Claudio P. Santiago, Mikel Landajuela Larma
• Abstract要約: AutoMLの問題は、ブラックボックスの報酬の下で離散オブジェクトを最適化することである。 ニューラル誘導探索は、自己回帰リカレントニューラルネットワークを用いてこれらの空間を探索する柔軟な手段を提供する。 我々は,ニューラルネットワークによる探索にそのようなin situの事前と制約を組み込むための枠組みを定式化する。
• 参考スコア（独自算出の注目度）: 3.1542695050861544
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Many AutoML problems involve optimizing discrete objects under a black-box reward. Neural-guided search provides a flexible means of searching these combinatorial spaces using an autoregressive recurrent neural network. A major benefit of this approach is that builds up objects sequentially--this provides an opportunity to incorporate domain knowledge into the search by directly modifying the logits emitted during sampling. In this work, we formalize a framework for incorporating such in situ priors and constraints into neural-guided search, and provide sufficient conditions for enforcing constraints. We integrate several priors and constraints from existing works into this framework, propose several new ones, and demonstrate their efficacy in informing the task of symbolic regression.
• Abstract（参考訳）: 多くのAutoML問題は、ブラックボックスの報酬の下で離散オブジェクトを最適化することを含む。 ニューラル誘導探索は、自己回帰リカレントニューラルネットワークを用いてこれらの組合せ空間を探索する柔軟な手段を提供する。 このアプローチの大きな利点は、オブジェクトを順次構築することである。これは、サンプリング中に放出されるロジットを直接修正することで、検索にドメイン知識を組み込む機会を提供する。 本研究では,このようなin situ前処理と制約をニューラルネットワーク検索に組み込むための枠組みを定式化し,制約を強制するための十分な条件を提供する。 我々は,既存の作業の事前と制約をこの枠組みに統合し,新しい作業を提案し,その効果を象徴的回帰の課題に示す。

関連論文リスト

• Amortizing intractable inference in large language models [56.92471123778389]
  難治性後部分布のサンプルとして, 償却ベイズ推定を用いる。 我々は,LLMファインチューニングの分散マッチングパラダイムが,最大習熟の代替となることを実証的に実証した。 重要な応用として、チェーン・オブ・ソート推論を潜在変数モデリング問題として解釈する。
  論文  参考訳（メタデータ） (2023-10-06T16:36:08Z)
• Zonotope Domains for Lagrangian Neural Network Verification [102.13346781220383]
  我々は、ディープニューラルネットワークを多くの2層ニューラルネットワークの検証に分解する。 我々の手法は線形プログラミングとラグランジアンに基づく検証技術の両方により改善された境界を与える。
  論文  参考訳（メタデータ） (2022-10-14T19:31:39Z)
• Learning with Algorithmic Supervision via Continuous Relaxations [19.437400671428737]
  エンドツーエンドのトレーニング可能なニューラルネットワークアーキテクチャにアルゴリズムを統合するアプローチを提案する。 有意義な勾配を得るために、各変数はロジスティック分布を介して摂動される。 提案した連続緩和モデルを4つの課題に対して評価し,各課題に特化して設計された緩和に追従できることを示す。
  論文  参考訳（メタデータ） (2021-10-11T23:52:42Z)
• Sensitive Samples Revisited: Detecting Neural Network Attacks Using Constraint Solvers [0.0]
  ニューラルネットワークは多くのセキュリティ関連および安全性関連ドメインで使用されている。 それらは、その分類能力を覆す攻撃の標的として人気がある。 本稿では,シンボリック制約解法を用いた代替案を提案する。
  論文  参考訳（メタデータ） (2021-09-07T01:34:02Z)
• Improving exploration in policy gradient search: Application to symbolic optimization [6.344988093245026]
  多くの機械学習戦略は、ニューラルネットワークを利用して数学記号の大きな空間を探索する。 従来の進化的アプローチとは対照的に、検索のコアでニューラルネットワークを使用することで、より高いレベルのシンボルパターンを学習することができる。 これらの手法は, 性能の向上, サンプル効率の向上, シンボル回帰の課題に対する解の複雑さの低減を図っている。
  論文  参考訳（メタデータ） (2021-07-19T21:11:07Z)
• Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
  ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。 本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
  論文  参考訳（メタデータ） (2021-06-17T17:26:31Z)
• Differentiable Causal Discovery from Interventional Data [141.41931444927184]
  本稿では、介入データを活用可能なニューラルネットワークに基づく理論的基盤化手法を提案する。 提案手法は,様々な環境下での美術品の状態と良好に比較できることを示す。
  論文  参考訳（メタデータ） (2020-07-03T15:19:17Z)
• Sequential Transfer in Reinforcement Learning with a Generative Model [48.40219742217783]
  本稿では,従来の課題から知識を移譲することで,新たな課題を学習する際のサンプルの複雑さを軽減する方法について述べる。 この種の事前知識を使用することのメリットを明確に示すために,PAC境界のサンプル複雑性を導出する。 簡単なシミュレートされた領域における理論的な発見を実証的に検証する。
  論文  参考訳（メタデータ） (2020-07-01T19:53:35Z)
• Zero-shot Neural Passage Retrieval via Domain-targeted Synthetic Question Generation [10.324402925019946]
  ニューラルネットワークモデルの普及に対する大きな障害は、従来の用語ベースのテクニックを超えるために、大規模な教師付きトレーニングセットが必要であることである。 本稿では,このギャップを埋めるために合成質問生成を用いる経路探索のためのゼロショット学習手法を提案する。
  論文  参考訳（メタデータ） (2020-04-29T22:21:31Z)
• Local Propagation in Constraint-based Neural Network [77.37829055999238]
  ニューラルネットワークアーキテクチャの制約に基づく表現について検討する。 本稿では,いわゆるアーキテクチャ制約を満たすのに適した簡単な最適化手法について検討する。
  論文  参考訳（メタデータ） (2020-02-18T16:47:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。