論文の概要: Best of Both Worlds: A Pliable and Generalizable Neuro-Symbolic Approach
for Relation Classification
- arxiv url: http://arxiv.org/abs/2403.03305v1
- Date: Tue, 5 Mar 2024 20:08:32 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-07 16:54:37.174063
- Title: Best of Both Worlds: A Pliable and Generalizable Neuro-Symbolic Approach
for Relation Classification
- Title(参考訳): 両世界の最善:関係分類のための柔軟で一般化可能な神経シンボリックアプローチ
- Authors: Robert Vacareanu, Fahmida Alam, Md Asiful Islam, Haris Riaz, Mihai
Surdeanu
- Abstract要約: 本稿では,関係分類のための新しいニューロシンボリックアーキテクチャを提案する。
ルールベースの手法と現代のディープラーニング技術を組み合わせる。
提案手法は4つの設定のうち3つで従来の最先端モデルよりも優れていることを示す。
- 参考スコア(独自算出の注目度): 17.398872494876365
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper introduces a novel neuro-symbolic architecture for relation
classification (RC) that combines rule-based methods with contemporary deep
learning techniques. This approach capitalizes on the strengths of both
paradigms: the adaptability of rule-based systems and the generalization power
of neural networks. Our architecture consists of two components: a declarative
rule-based model for transparent classification and a neural component to
enhance rule generalizability through semantic text matching. Notably, our
semantic matcher is trained in an unsupervised domain-agnostic way, solely with
synthetic data. Further, these components are loosely coupled, allowing for
rule modifications without retraining the semantic matcher. In our evaluation,
we focused on two few-shot relation classification datasets: Few-Shot TACRED
and a Few-Shot version of NYT29. We show that our proposed method outperforms
previous state-of-the-art models in three out of four settings, despite not
seeing any human-annotated training data. Further, we show that our approach
remains modular and pliable, i.e., the corresponding rules can be locally
modified to improve the overall model. Human interventions to the rules for the
TACRED relation \texttt{org:parents} boost the performance on that relation by
as much as 26\% relative improvement, without negatively impacting the other
relations, and without retraining the semantic matching component.
- Abstract(参考訳): 本稿では,ルールベース手法と現代ディープラーニング技術を組み合わせた新しい関係分類のためのニューロシンボリックアーキテクチャ(rc)を提案する。
このアプローチは、ルールベースのシステムの適応性とニューラルネットワークの一般化能力という、両方のパラダイムの強みを生かしている。
我々のアーキテクチャは、透明な分類のための宣言型ルールベースモデルと、セマンティックテキストマッチングによるルールの一般化性を高めるニューラルネットワークコンポーネントの2つのコンポーネントで構成されている。
特にsemantic matcherは、合成データのみで、教師なしのドメインに依存しない方法でトレーニングされています。
さらに、これらのコンポーネントは疎結合であり、セマンティクスマッチングを再トレーニングすることなくルールの変更を可能にする。
評価では、Few-Shot TACREDとFew-ShotバージョンのNYT29の2つの数ショット関係分類データセットに焦点を当てた。
提案手法は,人手によるトレーニングデータを見ることなく,従来の最先端モデルを4つの設定のうち3つで上回ることを示す。
さらに,提案手法はモジュール化され,柔軟性が保たれていること,すなわち,モデル全体を改善するために対応するルールを局所的に修正できることを示した。
tacredrelation \texttt{org:parents}のルールに対する人間の介入は、関係に対するパフォーマンスを最大26\%向上させ、他の関係に悪影響を及ぼすことなく、セマンティックマッチングコンポーネントを再トレーニングすることなく向上させる。
関連論文リスト
- Hierarchical Insights: Exploiting Structural Similarities for Reliable 3D Semantic Segmentation [4.480310276450028]
本稿では,抽象を通してクラス間の構造的関係を学習する3次元LiDARセマンティックセマンティックセマンティクスモデルのトレーニング戦略を提案する。
これは、階層的マルチラベル分類(HMC)のための学習規則を用いて、これらの関係を暗黙的にモデル化することで達成される。
詳細な分析により、このトレーニング戦略はモデルの信頼性校正を改善するだけでなく、融合、予測、計画といった下流タスクに有用な追加情報を保持することが示される。
論文 参考訳(メタデータ) (2024-04-09T08:49:01Z) - Scalable Learning of Latent Language Structure With Logical Offline
Cycle Consistency [71.42261918225773]
概念的には、LOCCOは、トレーニング対象のセマンティクスを使用してラベルなしテキストのアノテーションを生成する、自己学習の一形態と見なすことができる。
追加ボーナスとして、LOCCOによって生成されたアノテーションは、神経テキスト生成モデルをトレーニングするために自明に再利用することができる。
論文 参考訳(メタデータ) (2023-05-31T16:47:20Z) - TWINS: A Fine-Tuning Framework for Improved Transferability of
Adversarial Robustness and Generalization [89.54947228958494]
本稿では,様々な分類タスクにおいて,逆向きに事前訓練されたモデルの微調整に焦点を当てる。
本稿では,TWINS(Two-WIng NormliSation)ファインチューニングフレームワークを提案する。
TWINSは、一般化とロバスト性の両方の観点から、幅広い画像分類データセットに有効であることが示されている。
論文 参考訳(メタデータ) (2023-03-20T14:12:55Z) - Neural-based classification rule learning for sequential data [0.0]
本稿では,ルールに基づく二項分類のための局所パターンとグローバルパターンの両方を識別する,新しい可微分完全解釈法を提案する。
解釈可能なニューラルネットワークを備えた畳み込みバイナリニューラルネットワークと、動的に強化された間隔に基づくトレーニング戦略で構成されている。
合成データセットおよびオープンソースペプチドデータセットに対するアプローチの有効性と有用性を示す。
論文 参考訳(メタデータ) (2023-02-22T11:05:05Z) - Variational Cross-Graph Reasoning and Adaptive Structured Semantics
Learning for Compositional Temporal Grounding [143.5927158318524]
テンポラルグラウンドティング(Temporal grounding)とは、クエリ文に従って、未編集のビデオから特定のセグメントを特定するタスクである。
新たに構成時間グラウンドタスクを導入し,2つの新しいデータセット分割を構築した。
ビデオや言語に内在する構造的意味論は、構成的一般化を実現する上で重要な要素である、と我々は主張する。
論文 参考訳(メタデータ) (2023-01-22T08:02:23Z) - Federated Learning Aggregation: New Robust Algorithms with Guarantees [63.96013144017572]
エッジでの分散モデルトレーニングのために、フェデレートラーニングが最近提案されている。
本稿では,連合学習フレームワークにおける集約戦略を評価するために,完全な数学的収束解析を提案する。
損失の値に応じてクライアントのコントリビューションを差別化することで、モデルアーキテクチャを変更できる新しい集約アルゴリズムを導出する。
論文 参考訳(メタデータ) (2022-05-22T16:37:53Z) - It Takes Two Flints to Make a Fire: Multitask Learning of Neural
Relation and Explanation Classifiers [40.666590079580544]
一般化と説明可能性の間の緊張を緩和する関係抽出のための説明可能なアプローチを提案する。
提案手法では,関係抽出のための分類器を共同で訓練するマルチタスク学習アーキテクチャを用いる。
このアプローチにグローバルな説明をもたらすために、モデル出力をルールに変換する。
論文 参考訳(メタデータ) (2022-04-25T03:53:12Z) - Integrating Regular Expressions with Neural Networks via DFA [40.09868407372605]
より優れたパフォーマンスを実現するハイブリッドモデルを構築するためには、ルール知識をニューラルネットワークに統合することが非常に重要です。
具体的には、人間設計規則は正規表現(res)として定式化される。
本稿では、MDFAを中間モデルとして用いて、一致したREパターンを各入力文のルールベースの特徴として捉えることを提案する。
論文 参考訳(メタデータ) (2021-09-07T05:48:51Z) - Semantic Correspondence with Transformers [68.37049687360705]
本稿では,変換器を用いたコストアグリゲーション(CAT)を提案し,意味論的に類似した画像間の密接な対応を見出す。
初期相関マップと多レベルアグリゲーションを曖昧にするための外観親和性モデリングを含む。
提案手法の有効性を示す実験を行い,広範囲にわたるアブレーション研究を行った。
論文 参考訳(メタデータ) (2021-06-04T14:39:03Z) - Bidirectional Mapping Coupled GAN for Generalized Zero-Shot Learning [7.22073260315824]
双方向マッピングに基づく一般化ゼロショット学習(gzsl)手法は,参照データと未認識データを認識するための合成特徴の品質に依存する。
既知領域の合同分布を学習し,これらの手法においてドメイン識別の保持が重要である。
本研究では,可視クラスセマンティクスと可視クラスセマンティクスを併用し,強い視覚的セマンティック結合を通じて関節分布を学習する。
論文 参考訳(メタデータ) (2020-12-30T06:11:29Z) - Revisiting LSTM Networks for Semi-Supervised Text Classification via
Mixed Objective Function [106.69643619725652]
我々は,単純なBiLSTMモデルであっても,クロスエントロピー損失でトレーニングした場合に,競争的な結果が得られるようなトレーニング戦略を開発する。
いくつかのベンチマークデータセット上で,テキスト分類タスクの最先端結果について報告する。
論文 参考訳(メタデータ) (2020-09-08T21:55:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。