論文の概要: A Multi-Stage Agentic Framework for Effective Counter-Narrative Generation and Refinement

• arxiv url: http://arxiv.org/abs/2609.14178v1
• Date: Sat, 12 Sep 2026 23:00:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 07:15:05.751991
• Title: A Multi-Stage Agentic Framework for Effective Counter-Narrative Generation and Refinement
• Title（参考訳）: 効果的なカウンター・ナラティブ・ジェネレーション・リファインメントのための多段階エージェント・フレームワーク
• Abstract要約: カウンターナラティブは偏極を減らし、公的な不信を燃やし、過激主義の物語を強化する。 CNの生成、精製、評価のための多段階エージェントベースのフレームワークを提案する。 CNはウクライナとの戦争における親ロシア派の憎悪や誤報の物語に適用され、他の領域にも適応できる。
• 参考スコア（独自算出の注目度）: 1.2599533416395763
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The rapid diffusion of hate speech and misinformation on social networks challenges democratic societies, since direct suppression efforts may deepen polarization, fuel public distrusts, and strengthen extremist narratives. LLM-driven counter-narratives (CNs) offer a promising way to reduce those risks, yet their effectiveness depends on rhetorical and stylistic choices that remain poorly understood. We present a multi-stage agent-based framework for generating, refining, and evaluating CNs, applied to pro-Russian hate and misinformation narratives on the war with Ukraine and adaptable to other domains. A pilot experiment with human evaluators identifies effective technique style pairings, such as repetition with emotional framing enhancing persuasiveness. Building on these insights, we introduce a multi-agent refinement process that iteratively improves CNs for persuasiveness, emotional engagement, and shareability. After human validation confirmed improvement, an automated safety analysis shows that our refined CNs match or improve on expert-written counterspeech. A simulated experiment then shows that they reduce the perceived strength of pro-Russian narratives and consistently outperform a vanilla LLM baseline, highlighting a pathway toward scalable, narrative-specific interventions against hate speech and misinformation. Code and data accompanying this work are publicly available at https://github.com/carmelkron/inlg2026-counter-narratives.
• Abstract（参考訳）: ソーシャルメディア上でのヘイトスピーチや誤報の急速な拡散は、直接抑圧の努力が偏極性を高め、大衆の不信を高め、過激な物語を強化する可能性があるため、民主社会に挑戦する。 LLM-driven counter-narratives(英語版) (CN) はこれらのリスクを減らすための有望な方法を提供するが、その効果は、未理解の修辞的および様式的な選択に依存している。 我々は、ウクライナとの戦争における親ロシア派の憎悪や誤報の物語に適用し、他のドメインに適用可能な、CNの生成、精製、評価のための多段階エージェントベースのフレームワークを提案する。 人間の評価器を用いたパイロット実験では、感情的フレーミングによる反復のような効果的なテクニックスタイルのペアリングが説得力を高める。 これらの知見に基づいて、説得力、感情的エンゲージメント、共有性のためにCNを反復的に改善するマルチエージェント・リファインメント・プロセスを導入する。 人間の検証によって改善が確認された後、自動化された安全分析により、改良されたCNが専門家が書いた音声に一致するか、改善されていることが判明した。 シミュレーション実験により、親ロシア派の物語の強みを減らし、バニラのLLMベースラインを一貫して上回り、ヘイトスピーチや誤情報に対するスケーラブルで物語固有の介入への道のりを強調した。 この作業に伴うコードとデータはhttps://github.com/carmelkron/inlg2026-counter-narrativesで公開されている。

関連論文リスト

• Belief Cascades Drive Persuasion in LLM Agent Networks [71.17605142402785]
  本研究では,実世界のego-networkトポロジに根ざしたLLMエージェントのネットワーク上で,ゴール指向の説得者がどのようにスタンスをシフトするかを検討する。 直接露光は、競合走における次のラウンドの姿勢変化を確実に予測し、ピアリレーは小さいが測定可能な影響をもたらすことを示す。 これらの結果は、多エージェントの説得を軌跡レベルのプロセスと露出レベルのプロセスとして評価することを主張する。
  論文  参考訳（メタデータ） (2026-08-25T21:01:19Z)
• CATCH-ME if you RAG: a dataset of Contextually Annotated multi-Turn Counterspeech against Hate and Misinformation Exchanges [9.965670989893267]
  本稿では,憎悪と誤情報との交わりに対処する対話の大規模,専門家による多言語データセットについて紹介する。 5つの言語をカバーし、7つの辺境化グループに向けられた憎悪を狙うこの新たなリソースは、より説得力があり、事実に根ざした反音声モデルのトレーニングと評価を可能にする。
  論文  参考訳（メタデータ） (2026-06-18T15:32:14Z)
• Assisted Counterspeech Writing at the Crossroads of Hate Speech and Misinformation [9.965670989893267]
  ヘイトスピーチと誤報はオンラインでしばしば共起し、偏見と偏見を増幅する。 規模を考えると、専門家の反撃を支援するためにLarge Language Modelsを使用していることが注目されている。 我々は、憎悪と誤情報の両方が共起する文脈でCS生成を研究することによって、このギャップを埋める。
  論文  参考訳（メタデータ） (2026-05-21T13:02:08Z)
• STRIDE: Learnable Stepwise Language Feedback for LLM Reasoning [80.78140312980484]
  我々はSTRIDEと呼ばれる言語駆動の段階的軌道リダイレクトを提案する。 我々は、結果に基づく報酬のみを使用して生成器と生成検証器を共同で訓練し、外部アノテーションを除去する。 様々な推論ベンチマークの実験では、STRIDEが最先端のベースラインを大幅に上回っていることが示されている。
  論文  参考訳（メタデータ） (2026-05-13T11:04:31Z)
• When Agents Persuade: Propaganda Generation and Mitigation in LLMs [2.1621083698499644]
  LLMは、マニピュレータ材料を製造するために利用することができる。 テキストをプロパガンダまたは非プロパガンダに分類するモデルと、プロパガンダの修辞的手法を検出するモデルを用いて、それらの出力を分析する。 その結果, 微調整によって生成傾向が著しく低下し, ORPOが最も有効であることが判明した。
  論文  参考訳（メタデータ） (2026-03-04T21:56:29Z)
• Extend Adversarial Policy Against Neural Machine Translation via Unknown Token [66.40609413186122]
  本稿では,トークン置換に基づく既存主流対立政策の文字摂動を導入した「デックスCharポリシー」を提案する。 また、RLのフィードバックを提供する自己教師型マッチングを改善し、敵の訓練に必要な意味的制約に対処する。
  論文  参考訳（メタデータ） (2025-01-21T14:43:04Z)
• Hidden in Plain Text: Emergence & Mitigation of Steganographic Collusion in LLMs [0.600808022072121]
  他者の不利に対するコラボレーションは、望ましくないエージェント協力の中心的な形態として認識されている。 エージェント通信における情報隠蔽(ステガノグラフィー)の使用は、衝突を事実上検出できないものにする可能性がある。 このことは、ステガノグラフィーの共謀能力を監視・緩和するための評価フレームワークの必要性を浮き彫りにする。
  論文  参考訳（メタデータ） (2024-10-02T16:18:33Z)
• PropaInsight: Toward Deeper Understanding of Propaganda in Terms of Techniques, Appeals, and Intent [71.20471076045916]
  プロパガンダは世論の形成と偽情報の拡散に重要な役割を果たしている。 Propainsightはプロパガンダを体系的に、技術、覚醒的魅力、そして根底にある意図に分解する。 Propagazeは、人間の注釈付きデータと高品質な合成データを組み合わせる。
  論文  参考訳（メタデータ） (2024-09-19T06:28:18Z)
• A LLM-Based Ranking Method for the Evaluation of Automatic Counter-Narrative Generation [14.064465097974836]
  本稿では,Large Language Model (LLM) を用いた対数ナラティブ(CN)生成の評価手法を提案する。 従来の自動指標は, 人間の判断と相関が低く, 生成したCNと人間の知覚との微妙な関係を捉えることができないことを示す。
  論文  参考訳（メタデータ） (2024-06-21T15:11:33Z)
• Towards Imperceptible Document Manipulations against Neural Ranking Models [13.777462017782659]
  本稿では,Imberceptible DocumEnt Manipulation (IDEM) というフレームワークを提案する。 IDEMは、BARTのような確立された生成言語モデルに、容易に検出できるエラーを発生させることなく、接続文を生成するよう指示する。 対象文書の流速と正しさを保ちながら, IDEM が強いベースラインを上回り得ることを示す。
  論文  参考訳（メタデータ） (2023-05-03T02:09:29Z)
• Characterizing the adversarial vulnerability of speech self-supervised learning [95.03389072594243]
  我々は,ゼロ知識とリミテッド知識の両方の敵からの攻撃の下で,そのようなパラダイムの敵対的脆弱性を調査するための最初の試みを行う。 実験結果から, SUPERB が提案するパラダイムは, 限られた知識を持つ敵に対して脆弱であることが示唆された。
  論文  参考訳（メタデータ） (2021-11-08T08:44:04Z)
• Detecting Cross-Modal Inconsistency to Defend Against Neural Fake News [57.9843300852526]
  我々は、画像やキャプションを含む機械生成ニュースに対して、より現実的で挑戦的な対策を導入する。 敵が悪用できる可能性のある弱点を特定するために、4つの異なる種類の生成された記事からなるNeuralNewsデータセットを作成します。 ユーザ実験から得られた貴重な知見に加えて,視覚的意味的不整合の検出にもとづく比較的効果的なアプローチを提案する。
  論文  参考訳（メタデータ） (2020-09-16T14:13:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。