論文の概要: Polyjuice: Automated, General-purpose Counterfactual Generation
- arxiv url: http://arxiv.org/abs/2101.00288v1
- Date: Fri, 1 Jan 2021 18:34:22 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-16 11:10:21.915402
- Title: Polyjuice: Automated, General-purpose Counterfactual Generation
- Title(参考訳): polyjuice: 自動化された汎用の反事実生成
- Authors: Tongshuang Wu, Marco Tulio Ribeiro, Jeffrey Heer, Daniel S. Weld
- Abstract要約: 用途から反実数生成を解き放ち、まず汎用的な反実数を収集し、特定の用途に選定することを提案する。
我々は, 自動逆ファクト生成をテキスト生成とし, GPT-2を生成器Polyjuiceにファインチューンし, 流動的で多様な反ファクト生成を行う。
- 参考スコア(独自算出の注目度): 37.152326506591876
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Counterfactual examples have been shown to be useful for many applications,
including calibrating, evaluating, and explaining model decision boundaries.
However, previous methods for generating such counterfactual examples have been
tightly tailored to a specific application, used a limited range of linguistic
patterns, or are hard to scale. We propose to disentangle counterfactual
generation from its use cases, i.e., gather general-purpose counterfactuals
first, and then select them for specific applications. We frame the automated
counterfactual generation as text generation, and finetune GPT-2 into a
generator, Polyjuice, which produces fluent and diverse counterfactuals. Our
method also allows control over where perturbations happen and what they do. We
show Polyjuice supports multiple use cases: by generating diverse
counterfactuals for humans to label, Polyjuice helps produce high-quality
datasets for model training and evaluation, requiring 40% less human effort.
When used to generate explanations, Polyjuice helps augment feature attribution
methods to reveal models' erroneous behaviors.
- Abstract(参考訳): モデル決定境界の校正、評価、説明など、多くのアプリケーションでカウンターファクト例が有用であることが示されている。
しかし、そのような反実例を生成するための従来の方法は、特定のアプリケーションに密に調整され、限られた言語パターンを使用したり、スケールするのが困難であった。
そこで本研究では,まず汎用のファクトファクトファクトを収集し,それらを特定の用途に選択することを提案する。
我々は, 自動逆ファクト生成をテキスト生成とし, GPT-2を生成器Polyjuiceにファインチューンし, 流動的で多様な反ファクト生成を行う。
提案手法では,摂動の発生場所と行動の制御も可能である。
我々は、Polyjuiceが複数のユースケースをサポートすることを示した: 人間がラベルを付けるための多様なカウンターファクトを生成することにより、Polyjuiceはモデルトレーニングと評価のための高品質なデータセットの作成を支援し、人間の労力を40%削減する。
説明を生成するために使用されると、polyjuiceはモデルの誤った振る舞いを明らかにするために機能帰属法を強化するのに役立つ。
関連論文リスト
- Improving Conditional Level Generation using Automated Validation in Match-3 Games [39.887603099741696]
本稿では,既存のレベル設計から学習するモデルを改善する新しい手法であるAvalonを提案する。
条件付き変分オートエンコーダを用いて,Match-3レベルのレイアウトを生成する。
条件付けの困難さを伴わないアブレーションモデルと比較することにより,我々のアプローチを定量的に評価する。
論文 参考訳(メタデータ) (2024-09-10T09:07:47Z) - Manipulating and Mitigating Generative Model Biases without Retraining [49.60774626839712]
モデル再学習を伴わないリッチ言語埋め込み空間を利用して,T2Iモデルバイアスの動的かつ効率的な操作を提案する。
基礎ベクトル代数を利用することで、T2Iモデルの出力をシフトさせる言語モデルの埋め込みを便利に制御できることを示す。
副産物として、この制御は正確なプロンプト工学の一形態として機能し、通常のテキストプロンプトを使って一般的には理解できない画像を生成する。
論文 参考訳(メタデータ) (2024-04-03T07:33:30Z) - Generative Multi-modal Models are Good Class-Incremental Learners [51.5648732517187]
クラス増分学習のための新しい生成型マルチモーダルモデル(GMM)フレームワークを提案する。
提案手法は適応生成モデルを用いて画像のラベルを直接生成する。
Few-shot CIL設定では、現在の最先端のすべてのメソッドに対して少なくとも14%精度が向上し、忘れてはならない。
論文 参考訳(メタデータ) (2024-03-27T09:21:07Z) - The Integer Linear Programming Inference Cookbook [108.82092464025231]
このサーベイは、整数線形プログラムのインスタンスとして新しい推論問題をフレーミングするプロセスを通じて、読者を導くことを目的としている。
最後に、これらのレシピの使用例を2つ紹介する。
論文 参考訳(メタデータ) (2023-06-30T23:33:11Z) - Twist Decoding: Diverse Generators Guide Each Other [116.20780037268801]
様々なモデルの恩恵を受けながらテキストを生成するシンプルで一般的な推論アルゴリズムであるTwist decodingを導入する。
我々の方法は、語彙、トークン化、あるいは生成順序が共有されていると仮定しない。
論文 参考訳(メタデータ) (2022-05-19T01:27:53Z) - Reframing Human-AI Collaboration for Generating Free-Text Explanations [46.29832336779188]
少数の人間が記述した例を用いて,自由テキストの説明を生成する作業について考察する。
クラウドソースによる説明よりも,GPT-3による説明の方が好まれる。
我々は、GPT-3と教師付きフィルタを組み合わせたパイプラインを作成し、二項受理性判定を介し、ループ内人間を組み込む。
論文 参考訳(メタデータ) (2021-12-16T07:31:37Z) - Evaluating the Disentanglement of Deep Generative Models through
Manifold Topology [66.06153115971732]
本稿では,生成モデルのみを用いた乱れの定量化手法を提案する。
複数のデータセットにまたがるいくつかの最先端モデルを実証的に評価する。
論文 参考訳(メタデータ) (2020-06-05T20:54:11Z) - Generating Natural Adversarial Hyperspectral examples with a modified
Wasserstein GAN [0.0]
本稿では,第2パラダイムに従う真のデータから,自然な逆例を生成できる新しい手法を提案する。
リモートセンシングデータセット上で逆スペクトル超スペクトルシグネチャを生成することによって,本手法の概念実証を行う。
論文 参考訳(メタデータ) (2020-01-27T07:32:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。