論文の概要: Generating Symbolic Reasoning Problems with Transformer GANs

• arxiv url: http://arxiv.org/abs/2110.10054v3
• Date: Fri, 5 May 2023 09:13:00 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-08 18:10:16.930437
• Title: Generating Symbolic Reasoning Problems with Transformer GANs
• Title（参考訳）: 変圧器ganを用いた記号推論問題の生成
• Authors: Jens U. Kreber and Christopher Hahn
• Abstract要約: 本稿では,Transformerエンコーダを内蔵したGANとWasserstein GANを用いて,記号的推論領域に対する有意義で困難なトレーニングデータを生成する能力について検討する。
• 参考スコア（独自算出の注目度）: 3.04585143845864
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study the capabilities of GANs and Wasserstein GANs equipped with Transformer encoders to generate sensible and challenging training data for symbolic reasoning domains. We conduct experiments on two problem domains where Transformers have been successfully applied recently: symbolic mathematics and temporal specifications in verification. Even without autoregression, our GAN models produce syntactically correct instances. We show that the generated data can be used as a substitute for real training data when training a classifier, and, especially, that training data can be generated from a dataset that is too small to be trained on directly. Using a GAN setting also allows us to alter the target distribution: We show that by adding a classifier uncertainty part to the generator objective, we obtain a dataset that is even harder to solve for a temporal logic classifier than our original dataset.
• Abstract（参考訳）: トランスエンコーダを備えたgansおよびwasserstein gansの記号推論領域における有能かつ挑戦的なトレーニングデータを生成する能力について検討した。 我々は最近トランスフォーマーの応用が成功した2つの問題領域(記号数学と検証における時間的仕様)について実験を行った。 自己回帰がなくても、我々のGANモデルは構文的に正しいインスタンスを生成する。 その結果, 生成したデータは, 分類器を訓練する場合に, 実際の訓練データの代用として使用できること, 特に, 直接訓練するには小さすぎるデータセットから訓練データを生成できることが確認された。 我々は、ジェネレータの目的に分類器の不確かさ部分を追加することで、元のデータセットよりも時間的論理分類器の解くのがさらに難しいデータセットが得られることを示す。

関連論文リスト

• Generating Realistic Tabular Data with Large Language Models [49.03536886067729]
  大規模言語モデル(LLM)は多様なタスクに使われてきたが、特徴と対象変数の正確な相関は捉えていない。 そこで本研究では,LLMに基づく3つの重要な改良を加えて,実データの特徴クラス相関を正しく把握する手法を提案する。 実験の結果,本手法は下流タスクにおいて,20個のデータセット上で10個のSOTAベースラインを著しく上回っていることがわかった。
  論文  参考訳（メタデータ） (2024-10-29T04:14:32Z)
• Challenging Gradient Boosted Decision Trees with Tabular Transformers for Fraud Detection at Booking.com [1.6702285371066043]
  自己監視学習(SSL)によって強化されたトランスフォーマーベースのニューラルネットワークは、さまざまなドメインで前例のないパフォーマンスを示している。 本稿では,電子商取引における典型的な課題である不正検出において,表型変換器を用いたGBDTに挑戦することを目的とする。 我々の手法はトランスフォーマーの能力を利用して、SSLを使ってすべての利用可能なデータを使って転送可能な表現を学習する。 提案手法は、平均精度(AP)スコアのかなりのマージンで、調整されたGBDTよりも優れている。
  論文  参考訳（メタデータ） (2024-05-22T14:38:48Z)
• SMaRt: Improving GANs with Score Matching Regularity [94.81046452865583]
  生成的敵ネットワーク(GAN)は通常、基礎となる多様体が複雑である非常に多様なデータから学ぶのに苦労する。 スコアマッチングは、生成したデータポイントを実データ多様体へ持続的にプッシュする能力のおかげで、この問題に対する有望な解決策であることを示す。 スコアマッチング規則性(SMaRt)を用いたGANの最適化を提案する。
  論文  参考訳（メタデータ） (2023-11-30T03:05:14Z)
• TTS-GAN: A Transformer-based Time-Series Generative Adversarial Network [4.989480853499916]
  時系列データは、医療機械学習アプリケーションで使用される最も一般的なタイプのデータの1つである。 本稿では,現実的な合成時系列データ列を生成可能な変換器ベースのGANであるTS-GANを紹介する。 実時間と生成した時系列データの類似性を実証するために,可視化と次元削減技術を用いている。
  論文  参考訳（メタデータ） (2022-02-06T03:05:47Z)
• Improving the quality of generative models through Smirnov transformation [1.3492000366723798]
  本稿では,ジェネレータの出力として使用される新しいアクティベーション関数を提案する。 これはスミルノフ確率変換に基づいており、生成されたデータの品質を改善するために特別に設計されている。
  論文  参考訳（メタデータ） (2021-10-29T17:01:06Z)
• Discriminative and Generative Transformer-based Models For Situation Entity Classification [8.029049649310211]
  我々は、状況エンティティ(SE)分類タスクを、利用可能なトレーニングデータの量に応じて再検討する。 変換器を用いた変分オートエンコーダを用いて文を低次元の潜在空間に符号化する。
  論文  参考訳（メタデータ） (2021-09-15T17:07:07Z)
• Domain Transformer: Predicting Samples of Unseen, Future Domains [1.7310589008573272]
  教師なしの方法でドメイントランスフォーマーを学習し、目に見えないドメインのデータを生成する。 提案手法はまず,Cycle-GANを用いて自動エンコーダから得られた2つの領域の潜在表現を独立に学習する。 逆に、元のサンプルの変換を学習して、未確認領域への外挿を反復的に適用することができる。
  論文  参考訳（メタデータ） (2021-06-10T21:20:00Z)
• Category-Learning with Context-Augmented Autoencoder [63.05016513788047]
  実世界のデータの解釈可能な非冗長表現を見つけることは、機械学習の鍵となる問題の一つである。 本稿では,オートエンコーダのトレーニングにデータ拡張を利用する新しい手法を提案する。 このような方法で変分オートエンコーダを訓練し、補助ネットワークによって変換結果を予測できるようにする。
  論文  参考訳（メタデータ） (2020-10-10T14:04:44Z)
• Unsupervised Controllable Generation with Self-Training [90.04287577605723]
  GANによる制御可能な世代は依然として困難な研究課題である。 本稿では,自己学習を通じてジェネレータを制御する潜伏符号の分布を学習するための教師なしフレームワークを提案する。 我々のフレームワークは、変分オートエンコーダのような他の変種と比較して、より良い絡み合いを示す。
  論文  参考訳（メタデータ） (2020-07-17T21:50:35Z)
• On Leveraging Pretrained GANs for Generation with Limited Data [83.32972353800633]
  生成的敵ネットワーク(GAN)は、しばしば(人間によって)実際の画像と区別できない非常に現実的な画像を生成することができる。 このように生成されたほとんどの画像はトレーニングデータセットには含まれておらず、GAN生成データでトレーニングセットを増強する可能性を示唆している。 我々は、大規模なデータセットで事前訓練された既存のGANモデルを活用し、トランスファーラーニングの概念に従って追加の知識を導入する。 限られたデータを用いた生成における提案手法の有効性を示すため, 広範囲な実験を行った。
  論文  参考訳（メタデータ） (2020-02-26T21:53:36Z)
• DeGAN : Data-Enriching GAN for Retrieving Representative Samples from a Trained Classifier [58.979104709647295]
  我々は、トレーニングされたネットワークの将来の学習タスクのために、利用可能なデータの豊富さと関連するデータの欠如の間のギャップを埋める。 利用可能なデータは、元のトレーニングデータセットまたは関連するドメインデータセットの不均衡なサブセットである可能性があるため、代表サンプルを検索するために使用します。 関連ドメインからのデータを活用して最先端のパフォーマンスを実現することを実証する。
  論文  参考訳（メタデータ） (2019-12-27T02:05:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。