論文の概要: DeTox-Fed: Detecting Toxic Conversations in the Fediverse with Federated Graph Neural Networks

• arxiv url: http://arxiv.org/abs/2605.21054v1
• Date: Wed, 20 May 2026 11:41:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-21 19:19:56.645202
• Title: DeTox-Fed: Detecting Toxic Conversations in the Fediverse with Federated Graph Neural Networks
• Title（参考訳）: DeTox-Fed:フェデレーショングラフニューラルネットを用いた逆トックス会話の検出
• Abstract要約: DeTox-Fedは、分散化されたソーシャルネットワークで有害な会話を検出するグラフ学習フレームワークである。 会話の構造、ユーザーインタラクションパターン、会話レベルの統計、感情信号の集約を組み合わせたものだ。 本研究では,限定されたローカルラベル,部分的クライアント参加,様々なモデレーションしきい値の下で,安定した有毒な会話検出を実現することを示す。
• 参考スコア（独自算出の注目度）: 0.18665975431697424
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The rise of decentralized social networks (DSNs), and in particular the rapid uptake of the Fediverse (e.g., Pleroma, Mastodon, Lemygrad), introduces new challenges in content moderation. Independent instances host their own data, follow different moderation policies, and often observe only partial views of conversations. We present DeTox-Fed, a federated graph-learning framework for detecting toxic conversations in DSNs without requiring instances to share raw conversations or moderation labels. Each instance constructs a local conversation graph, where nodes represent conversation trees and edges capture shared user participation across conversations. A Graph Neural Network (GNN) is then trained in a federated learning setup, allowing instances to collaboratively learn a toxicity classifier while preserving data locality. Unlike text-only moderation approaches, DeTox-Fed combines conversational structure, user-interaction patterns, conversation-level statistics, and aggregate sentiment signals. We evaluate the framework on a large Pleroma conversation dataset and show that it achieves stable toxic conversation detection under limited local labels, partial client participation, and varying moderation thresholds. Our results indicate that federated graph-based moderation is a promising direction for semi-automated moderation in decentralized social networks.
• Abstract（参考訳）: 分散ソーシャルネットワーク(DSN)の台頭、特にフェディヴァース(例えば、プロロマ、マストドン、レミグラード)の急速な取り込みは、コンテンツモデレーションにおける新たな課題をもたらす。 独立インスタンスは独自のデータをホストし、異なるモデレーションポリシーに従う。 DeTox-Fedは、DSNにおける有害な会話を、生の会話やモデレーションラベルの共有を必要とせずに検出する、フェデレーション付きグラフ学習フレームワークである。 各インスタンスはローカルな会話グラフを構築し、ノードは会話ツリーを表現し、エッジは会話間の共有ユーザ参加をキャプチャする。 グラフニューラルネットワーク(GNN)は、フェデレーション付き学習セットアップでトレーニングされ、データローカリティを保ちながら、有害な分類器を共同で学習することができる。 テキストのみのモデレーションアプローチとは異なり、DeTox-Fedは会話構造、ユーザインタラクションパターン、会話レベルの統計、感情信号の集約を組み合わせている。 我々は,大規模なPleroma会話データセット上でのフレームワークの評価を行い,限定されたローカルラベル,部分的クライアント参加,様々なモデレーションしきい値の下で,安定した有害な会話検出を実現することを示す。 この結果から,フェデレートされたグラフベースのモデレーションは,分散化ソーシャルネットワークにおける半自動モデレーションにとって有望な方向であることが示唆された。

関連論文リスト

• TurnBench: A Multi-Domain Benchmark for Turn-Taking Dynamics in Spoken Dialogue [79.83228182492354]
  自然な会話の話し手は、話と聞き取りを交互に行い、いつ床をつかむか、保持するか、または譲るかをリアルタイムで決める。 そこで本研究では,30時間の人的会話を手作業でラベル付けしたコーパスを,エンド・オブ・ターンと割り込み検出のための標準評価プロトコルと組み合わせたベンチマークTurnBenchを提案する。 一方、割り込み偽陽性は強く型依存的であり、バックチャネル・デンス相互作用スタイルに集中している。
  論文  参考訳（メタデータ） (2026-08-25T23:14:36Z)
• ControBench: An Interaction-Aware Benchmark for Controversial Discourse Analysis on Social Networks [17.87131765035957]
  ControBenchは議論の余地のある談話分析のベンチマークである。 RedditのTrump、中絶、宗教に関する議論から生まれたものだ。 我々はControBench上で,グラフニューラルネットワーク,事前学習言語モデル,および大規模言語モデルを評価する。
  論文  参考訳（メタデータ） (2026-05-01T08:39:26Z)
• Temporal Graph Network: Hallucination Detection in Multi-Turn Conversation [0.9064542163606172]
  幻覚は会話型AIシステムによって生成される。 本稿では,対話レベルの幻覚を検出するためのグラフベースの新しい手法を提案する。 我々のフレームワークは、各対話をノードとしてモデル化し、文変換器を用いてそれを符号化する。
  論文  参考訳（メタデータ） (2026-01-06T14:34:45Z)
• Integrating Large Language Models with Graph-based Reasoning for Conversational Question Answering [58.17090503446995]
  我々は,テキストや知識グラフ,テーブル,インフォボックスといった異質な情報源から収集された証拠について,文脈における質問の理解と推論の課題を組み合わせた会話型質問応答タスクに着目する。 提案手法はグラフ構造表現を用いて質問とその文脈に関する情報を集約する。
  論文  参考訳（メタデータ） (2024-06-14T13:28:03Z)
• Decentralised Moderation for Interoperable Social Networks: A Conversation-based Approach for Pleroma and the Fediverse [10.791075186479622]
  本稿では,分散化された対話型コンテンツモデレーション手法を提案する。 当社のアプローチでは,各サーバ上でローカルにトレーニングされたグラフ深層学習モデル(GraphNLI)を採用している。 本モデルでは, 局所的なポスト情報を用いて学習した大規模症例に対して, 毒性を効果的に検出する。
  論文  参考訳（メタデータ） (2024-04-03T20:29:40Z)
• Conversational Semantic Parsing using Dynamic Context Graphs [68.72121830563906]
  汎用知識グラフ(KG)を用いた会話意味解析の課題を,数百万のエンティティと数千のリレーショナルタイプで検討する。 ユーザ発話を実行可能な論理形式にインタラクティブにマッピングできるモデルに焦点を当てる。
  論文  参考訳（メタデータ） (2023-05-04T16:04:41Z)
• A Graph-Based Context-Aware Model to Understand Online Conversations [3.8345539498627437]
  オンライン会話では、コメントや返信は、すぐに関連する情報以外の外部のコンテキストに基づいている可能性がある。 グラフウォークを用いて会話のより広いコンテキストを組み込む新しいグラフベースのディープラーニングアーキテクチャであるGraphNLIを提案する。 極性予測と擬似的ヘイトスピーチ検出という2つのタスクでGraphNLIを評価する。
  論文  参考訳（メタデータ） (2022-11-16T20:51:45Z)
• Knowledge-Grounded Conversational Data Augmentation with Generative Conversational Networks [76.11480953550013]
  生成会話ネットワークを用いて会話データを自動的に生成する。 我々は、Topical Chatデータセット上で、知識のない会話に対するアプローチを評価した。
  論文  参考訳（メタデータ） (2022-07-22T22:37:14Z)
• GCNet: Graph Completion Network for Incomplete Multimodal Learning in Conversation [43.79770897364927]
  グラフ完全ネットワーク(GCNet)と呼ばれる会話における不完全なマルチモーダル学習のための新しいフレームワークを提案する。 我々のGCNetは、2つのよく設計されたグラフニューラルネットワークベースのモジュール、"Speaker GNN"と"Temporal GNN"を含んでおり、会話中の時間的および話者的情報をキャプチャしている。 特徴学習における完全かつ不完全なデータを完全に活用するために、分類と再構築をエンドツーエンドで共同で最適化する。
  論文  参考訳（メタデータ） (2022-03-04T08:13:18Z)
• Disentangling Online Chats with DAG-Structured LSTMs [55.33014148383343]
  DAG-LSTMはTree-LSTMの一般化であり、間接的な非循環的依存関係を処理できる。 提案する新モデルでは,リプライ・トゥ・リレーション(Repend-to-Relation)を回復する作業において,アート・ステータスの状態を達成できることが示される。
  論文  参考訳（メタデータ） (2021-06-16T18:00:00Z)
• Dual ResGCN for Balanced Scene GraphGeneration [106.7828712878278]
  本稿では,オブジェクト残差グラフ畳み込みネットワークと関係残差グラフ畳み込みネットワークからなる新しいモデルであるtextitdual ResGCNを提案する。 2つのネットワークは相互に補完的であり、前者はオブジェクトレベルのコンテキスト情報、すなわちオブジェクト間の接続をキャプチャする。 後者は、関係レベルのコンテキスト情報、すなわち関係間の関係を明示的にキャプチャするように設計されている。
  論文  参考訳（メタデータ） (2020-11-09T07:44:17Z)
• Iterative Context-Aware Graph Inference for Visual Dialog [126.016187323249]
  本稿では,新しいコンテキスト認識グラフ(CAG)ニューラルネットワークを提案する。 グラフの各ノードは、オブジェクトベース(視覚)と履歴関連(テキスト)コンテキスト表現の両方を含む、共同意味機能に対応している。
  論文  参考訳（メタデータ） (2020-04-05T13:09:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。