論文の概要: Simulating Hate Speech Cascades with Multi-LLM Agents: Empirical Grounding, Modeling Fidelity, and Intervention Strategies
- arxiv url: http://arxiv.org/abs/2606.18264v1
- Date: Thu, 21 May 2026 21:58:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-21 20:00:42.784844
- Title: Simulating Hate Speech Cascades with Multi-LLM Agents: Empirical Grounding, Modeling Fidelity, and Intervention Strategies
- Title（参考訳）: マルチLLMエージェントによるヘイトスピーチカスケードのシミュレーション:経験的接地, 忠実度モデリング, 介入戦略
- Authors: Fan Huang,
- Abstract要約: 我々は,3つの憎しみのあるブルースキーカスケードと,サイズが一致した良性制御について検討した。
実証データでは、97.4--99.7%の投稿者が敵対的な姿勢をとっていることがわかった。
シミュレーションにおいて、マルチLLMエージェントシミュレータは、スタンスモノカルチャーと毒性デルタ方向を再現する。
- 参考スコア（独自算出の注目度）: 5.523132953818281
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Faithful modeling of hateful content propagation on online platforms remains an open problem for moderation research. Classical cascade models that do not explicitly represent the profile, community, and content factors associated with hateful-content propagation may yield moderation strategies that behave less effectively when deployed in real-world scenarios. Multi-agent large language model (LLM) systems can, in principle, make each reshare decision depend on the user's profile, the surrounding community, and the post's content, but it remains unclear whether this added flexibility actually reproduces real hateful cascades more faithfully than classical baselines. We study three hateful Bluesky cascades and a size-matched benign control. In the empirical Bluesky data, we found that: 97.4--99.7\% of reposters take a hostile stance; toxicity-engagement homophily is higher on the diffusion tree than on the follower graph for hateful cascades; topology is star-like for the hateful cascades (most reposts come directly from the root) versus tree-like for the benign cascade (reposts propagate through multi-hop chains). In simulation, a multi-LLM-agent simulator reproduces the stance monoculture and the toxicity-delta direction. A structured ablation identifies agent heterogeneity as the leading fidelity factor, and amplifier targeting on dense networks yields 7.5--12.9\% reduction at 5.7\% benign collateral.
- Abstract（参考訳）: オンラインプラットフォーム上でのヘイトフルコンテンツ伝播の忠実なモデリングは、モデレーション研究のオープンな問題である。
古典的なカスケードモデルは、悪質なコンテンツ伝播に関連するプロファイル、コミュニティ、およびコンテンツ要素を明示的に表現していないが、現実のシナリオに展開すると、より効果的に振る舞うモデレーション戦略をもたらす可能性がある。
マルチエージェント大規模言語モデル(LLM)システムは、原則として、各リシェア決定をユーザのプロファイル、周囲のコミュニティ、および投稿の内容に依存するようにすることができるが、この柔軟性が従来のベースラインよりも忠実に実際の憎しみのあるカスケードを再現するかどうかは不明だ。
我々は,3つの憎しみのあるブルースキーカスケードと,サイズが一致した良性制御について検討した。
実証的なブルースキーのデータでは、repostersの97.4--99.7\%は敵対的な姿勢をとり、toxicity-engagement homophilyは、憎悪なカスケードの追随者グラフよりも拡散木の方が高い。
シミュレーションにおいて、マルチLLMエージェントシミュレータは、スタンスモノカルチャーと毒性デルタ方向を再現する。
構造的アブレーションは、エージェントの不均一性を主フィデリティ因子として認識し、高密度ネットワーク上でのターゲット増幅は、5.7\%の良性コラテラルで7.5--12.9\%還元する。
関連論文リスト
- The Bystander Effect in Multi-Agent Reasoning: Quantifying Cognitive Loafing in Collaborative Interactions [6.357772907811544]
我々は3つのデータセットコンテキストにまたがる22,500の決定論的軌跡を,3つの最先端(SOTA)モデルで評価した。
我々はtextitSovereignty Gap を形式化する:モデルはしばしば正しい導出を内部で計算するが、アライメント幻覚に苦しむ」。
我々は,マルチエージェントの社会的負荷が厳密に非可換であることを証明し,リード・アンカーの監査役の「ブランド」アイデンティティは群集の整合性を不当に判断する。
論文 参考訳（メタデータ） (2026-05-11T15:13:01Z) - Beyond the Attention Stability Boundary: Agentic Self-Synthesizing Reasoning Protocols [6.357772907811544]
SSRP(Self- Synthesizing Reasoning Protocols)は、アーキテクチャ計画と手続き実行の分離を実装するメタ認知フレームワークである。
提案する実験層は,浅電流に基づく検索パイロット,高エントロピーSOP,セマンティックハイジャック3ホップ多要素合成タスクの3種類である。
以上の結果から,GPT 5.4の非定常バニラ基準線が0.1%に崩壊し,SSRPは715X耐力限界を達成した。
論文 参考訳（メタデータ） (2026-04-27T14:13:30Z) - Hierarchically Robust Zero-shot Vision-language Models [74.79155369056639]
VLM(Vision-Language Models)はゼロショット分類を行うことができるが、敵攻撃の影響を受けやすい。
既存のアプローチは、固定されたテキスト埋め込みをイメージ埋め込みと整合させ、自然なパフォーマンスと堅牢性を犠牲にする。
本稿では,階層的な埋め込みと画像・テキスト・モダリティの対角的ロバストなアライメントに基づく,新しい逆方向の微調整フレームワークを提案する。
論文 参考訳（メタデータ） (2026-04-20T21:42:14Z) - MBD: A Model-Based Debiasing Framework Across User, Content, and Model Dimensions [50.00784452900918]
この課題に対処する一般モデルベースデバイアス(MBD)フレームワークを提案する。
任意のコホートに対するエンゲージメント分布の文脈平均と分散を明示的に推定する。
この統合により、フレームワークはバイアス付き生信号からバイアスなしの表現に変換することができる。
論文 参考訳（メタデータ） (2026-03-15T15:07:01Z) - From Spark to Fire: Modeling and Mitigating Error Cascades in LLM-Based Multi-Agent Collaboration [27.233204826914243]
協調的なメカニズムは、小さな不正確さを繰り返しを通じてシステムレベルの偽のコンセンサスに固化させる可能性がある。
既存の保護は、シングルエージェントの検証やコラボレーションアーキテクチャの変更を必要とすることが多い。
本稿では、協調を有向依存グラフとして抽象化するLLM-MASに適した伝搬ダイナミクスモデルを提案する。
論文 参考訳（メタデータ） (2026-03-04T11:45:27Z) - Amortized Reasoning Tree Search: Decoupling Proposal and Decision in Large Language Models [2.5170433424424874]
Reinforcement Learning with Verifiable Rewardsは、大規模言語モデルにおける厳格な推論能力を取り入れるための支配的なパラダイムとして、自らを確立している。
このアライメントプロセスにおいて重要な病理は、有効だが稀な(ベースモデル分布下での低様相)推論経路の体系的抑制である。
本稿では,ベースモデルの潜伏多様性を捨てることなく,この崩壊を防止すべく,ARTS(Amortized Reasoning Tree Search)を提案する。
論文 参考訳（メタデータ） (2026-02-13T11:52:50Z) - The Trojan in the Vocabulary: Stealthy Sabotage of LLM Composition [31.827344197678126]
トケナイザー移植はサプライチェーンの脆弱性を導入する。
係数再利用の幾何学を利用して、我々の攻撃は非対称的な実現可能性ギャップを生み出す。
実験的に、攻撃は訓練なしで、スペクトルの模倣を達成し、異常検出を回避する。
論文 参考訳（メタデータ） (2025-12-31T19:00:03Z) - DeCaFlow: A deconfounding causal generative model [48.86777554649186]
本稿では,分解因果生成モデルであるDeCaFlowを紹介する。
DeCaFlowの単一インスタンスがdo-calculusで識別可能なすべての因果クエリに対して正しい推定値を提供することを示す。
多様な設定に関する実証的な結果は、DeCaFlowが既存のアプローチよりも優れており、任意の因果グラフに適用可能であることを示している。
論文 参考訳（メタデータ） (2025-03-19T11:14:16Z) - Deep Hierarchy in Bandits [51.22833900944146]
行動の報酬は、しばしば相関する。
統計的効率を最大化するためには,これらの相関を学習に活用することが重要である。
平均作用報酬の相関が階層的ベイズモデルで表されるこの問題のバンディット変法を定式化する。
論文 参考訳（メタデータ） (2022-02-03T08:15:53Z) - Clustering Effect of (Linearized) Adversarial Robust Models [60.25668525218051]
本稿では, 敵の強靭性に対する新たな理解を提案し, ドメイン適応や頑健性向上といったタスクに適用する。
提案したクラスタリング戦略の合理性と優越性を実験的に評価した。
論文 参考訳（メタデータ） (2021-11-25T05:51:03Z) - Understanding Self-supervised Learning with Dual Deep Networks [74.92916579635336]
本稿では,2組の深層ReLUネットワークを用いたコントラスト型自己教師学習(SSL)手法を理解するための新しい枠組みを提案する。
種々の損失関数を持つSimCLRの各SGD更新において、各層の重みは共分散演算子によって更新されることを示す。
共分散演算子の役割と、そのようなプロセスでどのような特徴が学習されるかをさらに研究するために、我々は、階層的潜在木モデル(HLTM)を用いて、データ生成および増大過程をモデル化する。
論文 参考訳（メタデータ） (2020-10-01T17:51:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。