論文の概要: AutoCAD: Automatically Generating Counterfactuals for Mitigating
Shortcut Learning
- arxiv url: http://arxiv.org/abs/2211.16202v1
- Date: Tue, 29 Nov 2022 13:39:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-30 14:42:17.064049
- Title: AutoCAD: Automatically Generating Counterfactuals for Mitigating
Shortcut Learning
- Title(参考訳): AutoCAD:ショートカット学習の軽減のための対物自動生成
- Authors: Jiaxin Wen, Yeshuang Zhu, Jinchao Zhang, Jie Zhou and Minlie Huang
- Abstract要約: 完全自動かつタスクに依存しないCAD生成フレームワークであるAutoCADについて述べる。
本稿では,完全に自動化されたタスクに依存しないCAD生成フレームワークであるAutoCADを提案する。
- 参考スコア(独自算出の注目度): 70.70393006697383
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent studies have shown the impressive efficacy of counterfactually
augmented data (CAD) for reducing NLU models' reliance on spurious features and
improving their generalizability. However, current methods still heavily rely
on human efforts or task-specific designs to generate counterfactuals, thereby
impeding CAD's applicability to a broad range of NLU tasks. In this paper, we
present AutoCAD, a fully automatic and task-agnostic CAD generation framework.
AutoCAD first leverages a classifier to unsupervisedly identify rationales as
spans to be intervened, which disentangles spurious and causal features. Then,
AutoCAD performs controllable generation enhanced by unlikelihood training to
produce diverse counterfactuals. Extensive evaluations on multiple
out-of-domain and challenge benchmarks demonstrate that AutoCAD consistently
and significantly boosts the out-of-distribution performance of powerful
pre-trained models across different NLU tasks, which is comparable or even
better than previous state-of-the-art human-in-the-loop or task-specific CAD
methods. The code is publicly available at https://github.com/thu-coai/AutoCAD.
- Abstract(参考訳): 近年の研究では、NLUモデルが突発的特徴への依存を減らし、一般化性を向上させるために、反実的拡張データ(CAD)の顕著な効果が示されている。
しかしながら、現在の手法は、反事実を生成するための人的努力やタスク固有の設計に大きく依存しているため、CADが幅広いNLUタスクに適用可能であることを妨げている。
本稿では,完全に自動化されたタスクに依存しないCAD生成フレームワークであるAutoCADを提案する。
AutoCADはまず分類器を利用して、意味を介入すべきスパンとして教師なしで識別する。
次に、AutoCADは、異種訓練によって強化された制御可能な生成を行い、多様な偽物を生成する。
複数のout-of-domainとchallengeベンチマークの広範な評価は、autocadが、さまざまなnluタスクをまたいだ強力な事前学習モデルの分散性能を一貫して大幅に向上させることを示している。
コードはhttps://github.com/thu-coai/AutoCADで公開されている。
関連論文リスト
- Text2CAD: Text to 3D CAD Generation via Technical Drawings [45.3611544056261]
Text2CADは、生成プロセスを自動化するために調整された安定した拡散モデルを利用する新しいフレームワークである。
テキスト2CADは,高品質な3次元CADモデルに正確に変換された技術図面を効果的に生成することを示す。
論文 参考訳(メタデータ) (2024-11-09T15:12:06Z) - CAD-MLLM: Unifying Multimodality-Conditioned CAD Generation With MLLM [39.113795259823476]
マルチモーダル入力に条件付きパラメトリックCADモデルを生成可能な最初のシステムであるCAD-MLLMを導入する。
先進的な大規模言語モデル (LLM) を用いて,多様なマルチモーダルデータとCADモデルのベクトル化表現に特徴空間を整合させる。
得られたデータセットはOmni-CADと呼ばれ、CADモデル毎にテキスト記述、多視点画像、ポイント、コマンドシーケンスを含む最初のマルチモーダルCADデータセットである。
論文 参考訳(メタデータ) (2024-11-07T18:31:08Z) - Self-supervised Graph Neural Network for Mechanical CAD Retrieval [29.321027284348272]
GC-CADは、機械的CAD検索のための、自己教師付きコントラストグラフニューラルネットワークに基づく手法である。
提案手法は, 精度を向上し, ベースライン法よりも100倍の効率向上を実現している。
論文 参考訳(メタデータ) (2024-06-13T06:56:49Z) - PairCFR: Enhancing Model Training on Paired Counterfactually Augmented Data through Contrastive Learning [49.60634126342945]
Counterfactually Augmented Data (CAD)は、既存のデータサンプルのラベルを他のクラスに戻すのに、最小限かつ十分な修正を適用することで、新しいデータサンプルを作成する。
近年の研究では、CADを用いたトレーニングが、他の重要な文脈情報を無視しながら、モデルが修正機能に過度にフォーカスする可能性があることが示されている。
我々は、対実的手がかりの学習に加えて、グローバルな特徴アライメントを促進するために、対照的な学習を採用する。
論文 参考訳(メタデータ) (2024-06-09T07:29:55Z) - PS-CAD: Local Geometry Guidance via Prompting and Selection for CAD Reconstruction [86.726941702182]
再構成ネットワークPS-CADに幾何学的ガイダンスを導入する。
我々は、現在の再構成が点雲としての完備モデルと異なる曲面の幾何学を提供する。
第二に、幾何学的解析を用いて、候補面に対応する平面的プロンプトの集合を抽出する。
論文 参考訳(メタデータ) (2024-05-24T03:43:55Z) - ContrastCAD: Contrastive Learning-based Representation Learning for Computer-Aided Design Models [0.7373617024876725]
本稿では,ContrastCAD という,CAD モデルを学習するための対照的な学習手法を提案する。
コントラストCADはCADモデルの構成シーケンス内の意味情報を効果的にキャプチャする。
また,RRE法(Random Replace and Extrude)と呼ばれる新しいCADデータ拡張手法を提案し,モデルの学習性能を向上させる。
論文 参考訳(メタデータ) (2024-04-02T05:30:39Z) - Geometric Deep Learning for Computer-Aided Design: A Survey [85.79012726689511]
本調査では,コンピュータ支援設計における学習手法の概要について概観する。
類似性解析と検索、2Dおよび3DCADモデル合成、点雲からのCAD生成を含む。
ベンチマークデータセットとその特性の完全なリストと、この領域の研究を推進しているオープンソースコードを提供する。
論文 参考訳(メタデータ) (2024-02-27T17:11:35Z) - People Make Better Edits: Measuring the Efficacy of LLM-Generated
Counterfactually Augmented Data for Harmful Language Detection [35.89913036572029]
NLPモデルは、刺激的な特徴に対して堅牢であることは必須である。
過去の作業は、トレーニングデータ拡張を使用して、このような急激な機能に対処しようと試みてきた。
生成NLPモデルを用いて,このタスクが自動化可能かどうかを評価する。
論文 参考訳(メタデータ) (2023-11-02T14:31:25Z) - Design Automation for Fast, Lightweight, and Effective Deep Learning
Models: A Survey [53.258091735278875]
本調査では,エッジコンピューティングを対象としたディープラーニングモデルの設計自動化技術について述べる。
これは、有効性、軽量性、計算コストの観点からモデルの習熟度を定量化するために一般的に使用される主要なメトリクスの概要と比較を提供する。
この調査は、ディープモデル設計自動化技術の最先端の3つのカテゴリをカバーしている。
論文 参考訳(メタデータ) (2022-08-22T12:12:43Z) - How Does Counterfactually Augmented Data Impact Models for Social
Computing Constructs? [35.29235215101502]
本研究では、感情、性差別、ヘイトスピーチという3つのソーシャル・コンピューティング構造に着目し、社会的NLPモデルに対する反実的強化データ(CAD)の利点について検討する。
CADでトレーニングしたモデルではドメイン内性能が低下するが、ドメイン外性能は向上する。
論文 参考訳(メタデータ) (2021-09-14T23:46:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。