論文の概要: Avoiding Over-smoothing in Social Media Rumor Detection with Pre-trained Propagation Tree Transformer

• arxiv url: http://arxiv.org/abs/2603.22854v1
• Date: Tue, 24 Mar 2026 06:45:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.340467
• Title: Avoiding Over-smoothing in Social Media Rumor Detection with Pre-trained Propagation Tree Transformer
• Title（参考訳）: 事前学習した伝搬木変圧器を用いたソーシャルメディア噂検出における過度な平滑化の回避
• Authors: Chaoqun Cui, Caiyan Jia,
• Abstract要約: 噂検出のためのディープラーニング技術は、一般的にグラフニューラルネットワーク(GNN)を用いてポスト関係を分析する。 オーバー・スムーシングは、ほとんどのノードが1レベルノードである噂の伝搬木の構造的特性と本質的に結びついている。 そこで本研究では,純粋トランスアーキテクチャに基づく事前学習型伝搬木変換器(P2T3)を提案する。
• 参考スコア（独自算出の注目度）: 13.793083412538266
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep learning techniques for rumor detection typically utilize Graph Neural Networks (GNNs) to analyze post relations. These methods, however, falter due to over-smoothing issues when processing rumor propagation structures, leading to declining performance. Our investigation into this issue reveals that over-smoothing is intrinsically tied to the structural characteristics of rumor propagation trees, in which the majority of nodes are 1-level nodes. Furthermore, GNNs struggle to capture long-range dependencies within these trees. To circumvent these challenges, we propose a Pre-Trained Propagation Tree Transformer (P2T3) method based on pure Transformer architecture. It extracts all conversation chains from a tree structure following the propagation direction of replies, utilizes token-wise embedding to infuse connection information and introduces necessary inductive bias, and pre-trains on large-scale unlabeled datasets. Experiments indicate that P2T3 surpasses previous state-of-the-art methods in multiple benchmark datasets and performs well under few-shot conditions. P2T3 not only avoids the over-smoothing issue inherent in GNNs but also potentially offers a large model or unified multi-modal scheme for future social media research.
• Abstract（参考訳）: 噂検出のためのディープラーニング技術は、一般的にグラフニューラルネットワーク(GNN)を用いてポスト関係を分析する。 しかし、これらの手法は、噂の伝搬構造を処理する際に過度にスムースに問題があり、性能が低下する。 本研究により, 過平滑化は, ノードの大半が1レベルノードであるうわさ伝搬木の構造的特性と本質的に関係していることが明らかとなった。 さらに、GNNはこれらのツリー内の長距離依存関係をキャプチャするのに苦労している。 これらの課題を回避するために、純粋トランスフォーマアーキテクチャに基づく事前学習木変換法(P2T3)を提案する。 応答の伝播方向に沿った木構造からすべての会話チェーンを抽出し、トークンワイズ埋め込みを使用して接続情報を注入し、必要な帰納バイアスを導入し、大規模未ラベルデータセット上で事前トレーニングを行う。 実験の結果、P2T3は複数のベンチマークデータセットで従来の最先端メソッドを上回り、数ショット条件下では良好に動作していることがわかった。 P2T3は、GNNに固有の過度にスムースな問題を回避しているだけでなく、将来のソーシャルメディア研究のために大きなモデルや統合されたマルチモーダルスキームを提供する可能性がある。

関連論文リスト

• NN-Former: Rethinking Graph Structure in Neural Architecture Representation [67.3378579108611]
  グラフニューラルネットワーク(GNN)とトランスフォーマーは、ニューラルネットワークを表現する上で有望なパフォーマンスを示している。 これまでの研究で見過ごされている間、兄弟ノードは中心的であることを示す。 我々のアプローチは、精度と遅延予測の両方において、常に有望な性能を達成する。
  論文  参考訳（メタデータ） (2025-07-01T15:46:18Z)
• Physics-Inspired Binary Neural Networks: Interpretable Compression with Theoretical Guarantees [20.854288216118423]
  多くの逆問題では、自然に物理と空間を符号化するアルゴリズムアンロールネットワークが認められている。 本研究では,データ駆動型1ビット量子化と単一グローバルスケールを組み合わせたPhysical-Inspired Binary Neural Network (PIBiNN)を提案する。 この設計は、構造零点を利用することにより、重量あたり1ビット未満の圧縮率をもたらす。
  論文  参考訳（メタデータ） (2025-02-04T00:53:10Z)
• Rumor Detection on Social Media with Temporal Propagation Structure Optimization [8.502126393786611]
  ソーシャルメディア上での噂を検知する従来の手法は、主にテキストコンテンツの分析に重点を置いている。 最近の研究は、噂の伝播中に出現する階層的な会話構造をモデル化するためにグラフニューラルネットワークを活用する方向に移行している。 重み付き伝搬木を構築することで時間情報を組み込んだ新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-12-11T11:53:14Z)
• Analysing the Behaviour of Tree-Based Neural Networks in Regression Tasks [3.912345988363511]
  本稿では、回帰課題の文脈において、木に基づくニューラルネットワークモデルの振る舞いを復号化するための取り組みを行う。 我々は,ツリーベースのCNN,Code2Vec,Transformerベースのメソッドといった確立されたモデルの応用を拡張し,ASTに解析することでソースコードの実行時間を予測する。 提案するデュアルトランスは,多様なデータセットにまたがる顕著な適応性とロバストな性能を示す。
  論文  参考訳（メタデータ） (2024-06-17T11:47:14Z)
• Combating Bilateral Edge Noise for Robust Link Prediction [56.43882298843564]
  本稿では,RGIB(Robust Graph Information Bottleneck)という情報理論の原則を提案し,信頼性の高い監視信号を抽出し,表現の崩壊を回避する。 RGIB-SSLとRGIB-REPの2つのインスタンス化は、異なる手法の利点を活用するために検討されている。 6つのデータセットと3つのGNNの様々なノイズシナリオによる実験は、我々のRGIBインスタンスの有効性を検証する。
  論文  参考訳（メタデータ） (2023-11-02T12:47:49Z)
• Towards Better Out-of-Distribution Generalization of Neural Algorithmic Reasoning Tasks [51.8723187709964]
  ニューラルネットワーク推論タスクのOOD一般化について検討する。 目標は、ディープニューラルネットワークを使用して入出力ペアからアルゴリズムを学ぶことである。
  論文  参考訳（メタデータ） (2022-11-01T18:33:20Z)
• Growing Deep Forests Efficiently with Soft Routing and Learned Connectivity [79.83903179393164]
  この論文は、いくつかの重要な側面で深い森林のアイデアをさらに拡張します。 我々は、ノードがハードバイナリ決定ではなく、確率的ルーティング決定、すなわちソフトルーティングを行う確率的ツリーを採用する。 MNISTデータセットの実験は、私たちの力のある深部森林が[1]、[3]よりも優れたまたは匹敵するパフォーマンスを達成できることを示しています。
  論文  参考訳（メタデータ） (2020-12-29T18:05:05Z)
• Overcoming Catastrophic Forgetting in Graph Neural Networks [50.900153089330175]
  破滅的な忘れは、ニューラルネットワークが新しいタスクを学ぶ前に学んだ知識を「忘れる」傾向を指します。 本稿では,この問題を克服し,グラフニューラルネットワーク(GNN)における継続学習を強化するための新しいスキームを提案する。 私たちのアプローチの中心には、トポロジ認識重量保存(TWP)と呼ばれる汎用モジュールがあります。
  論文  参考訳（メタデータ） (2020-12-10T22:30:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。