論文の概要: Cyberbullying Governance on Social Media: A Unified Framework from Content Identification to Intervention
- arxiv url: http://arxiv.org/abs/2605.27584v1
- Date: Tue, 26 May 2026 18:53:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-29 01:06:09.724269
- Title: Cyberbullying Governance on Social Media: A Unified Framework from Content Identification to Intervention
- Title（参考訳）: ソーシャルメディアにおけるサイバーいじめのガバナンス : コンテンツ識別から介入までの一貫した枠組み
- Authors: Yiting Huang, Wenting Zhu, Zekun Wang, Qingpo Yang, Yakai Chen, Zihui Xu, Yueyue Zhang, Sanchuan Guo, Xi Zhang,
- Abstract要約: ソーシャルメディアプラットフォームの普及は、サイバーいじめ、ヘイトスピーチ、その他のオンライン毒性の拡散を必然的に触媒している。
既存の研究は主に、サイバーいじめのガバナンスを、ポストレベルで受動的で孤立した検出として扱う。
本稿では,サイバーバブル管理のパラダイムを,独立した静的検出から,統合的かつ継続的かつ積極的なモデレーションへとシフトさせる,統一されたフルライフサイクルガバナンスフレームワークを提案する。
- 参考スコア（独自算出の注目度）: 9.508009782921198
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The proliferation of social media platforms and online communities has inadvertently catalyzed the spread of cyberbullying, hate speech, and other forms of online toxicity, making the effective governance of such harm a critical societal and computational challenge. While significant strides have been made in automating content moderation, existing research predominantly treats cyberbullying governance as passive, isolated detection at the post level. This reductionist view overlooks the continuous behavioral dynamics of users, the structural diffusion of toxic events, and the critical need for proactive mitigation. To bridge these gaps, this paper proposes a unified full-lifecycle governance framework that shifts the paradigm of cyberbullying governance from isolated static detection toward integrated, continuous, and proactive moderation. Drawing on cyberbullying research and adjacent fields, we systematically synthesize the state-of-the-art literature across four interconnected stages: (1) Content Identification, (2) User and Behavior Modeling, (3) Diffusion Dynamics and Early Warning, and (4) Intervention and Governance. Furthermore, we review available datasets and evaluation practices, and discuss emerging challenges including multimodality, explainability, algorithmic fairness, and the dual-use risks of generative AI, providing a roadmap for future research toward a safer and more resilient digital ecosystem.
- Abstract（参考訳）: ソーシャルメディアプラットフォームとオンラインコミュニティの拡散は、サイバーいじめ、ヘイトスピーチ、その他のオンライン毒性の拡散を必然的に触媒し、そのような害を効果的に支配することは、重要な社会的・計算的な課題となっている。
コンテンツモデレーションの自動化には大きな進歩があったが、既存の研究は主に、サイバーいじめのガバナンスをポストレベルでの受動的で孤立した検出として扱う。
このリダミストの見解は、ユーザの継続的な行動力学、有害事象の構造的拡散、および積極的な緩和の必要性を概観している。
これらのギャップを埋めるために,サイバーバブルガバナンスのパラダイムを,独立した静的検出から統合的で連続的で積極的なモデレーションへとシフトさせる,統一されたフルライフサイクルガバナンスフレームワークを提案する。
本研究は,サイバーいじめ研究と隣接分野に基づいて,(1)コンテンツ識別,(2)ユーザと行動モデリング,(3)拡散ダイナミクスと早期警戒,(4)介入とガバナンスの4段階にわたって,最先端の文献を体系的に合成する。
さらに、利用可能なデータセットと評価プラクティスをレビューし、マルチモーダル、説明可能性、アルゴリズムフェアネス、生成AIのデュアルユースリスクなど、新たな課題について論じ、より安全でレジリエントなデジタルエコシステムに向けた今後の研究のロードマップを提供する。
関連論文リスト
- Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses [168.50301366360344]
Embodied AI (Embodied AI) は、知覚、認知、計画、相互作用を、安全クリティカルな環境で機能するエージェントに統合する。
デジタルAIシステムとは異なり、エンボディエージェントは不確実な検知、不完全な知識、動的な人間とロボットの相互作用の下で行動しなければならない。
この調査は、エンボディされたAIにおける安全性研究の包括的なレビューを提供し、完全なエンボディされたパイプラインにわたる攻撃と防御を調査している。
論文 参考訳（メタデータ） (2026-03-28T13:21:44Z) - A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。
応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。
我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
論文 参考訳（メタデータ） (2026-03-11T07:40:53Z) - Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。
20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。
我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文 参考訳（メタデータ） (2026-02-23T16:28:48Z) - BEACON: A Unified Behavioral-Tactical Framework for Explainable Cybercrime Analysis with Large Language Models [0.10262304700896198]
本稿では,行動心理学とサイバー犯罪の戦術的ライフサイクルを統合した統合二重次元フレームワークBEACONを提案する。
単一の大規模言語モデルは、パラメータ効率の学習を用いて微調整され、心理的次元と戦術次元の両方で共同で多ラベル分類を行う。
実世界と総合的に強化されたサイバー犯罪物語の収集されたデータセットで実施された実験は、全体の分類精度が20%向上したことを示している。
論文 参考訳（メタデータ） (2025-12-06T19:59:24Z) - AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。
我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。
我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
論文 参考訳（メタデータ） (2025-11-27T16:56:04Z) - Rethinking Spatio-Temporal Anomaly Detection: A Vision for Causality-Driven Cybersecurity [22.491097360752903]
我々は,空間的分散インフラにおける異常検出の促進を目的とした因果学習の視点を提唱する。
我々は因果グラフプロファイリング、多視点融合、連続因果グラフ学習の3つの主要な方向を特定し定式化する。
我々の目的は、拡張性、適応性、説明性、空間的根拠を持つ異常検出システムに向けた新しい研究軌道を構築することである。
論文 参考訳（メタデータ） (2025-07-10T21:19:28Z) - The Unappreciated Role of Intent in Algorithmic Moderation of Social Media Content [2.2618341648062477]
本稿では,コンテンツモデレーションシステムにおける意図の役割について考察する。
本研究は,意識と意図を捉える能力を評価するために,オンライン虐待に対するアート検出モデルとベンチマークトレーニングデータセットの現状をレビューする。
論文 参考訳（メタデータ） (2024-05-17T18:05:13Z) - A Survey on Online User Aggression: Content Detection and Behavioral Analysis on Social Media [1.568356637037272]
ソーシャルメディアプラットフォームの普及は、サイバーいじめ、オンラインハラスメント、攻撃的およびヘイトスピーチの普及など、サイバー攻撃的な行動の増加につながっている。
これらの行動は、オンラインの匿名性から、うつ病、自殺傾向、場合によってはオフライン暴力などの現実的な結果まで、社会的な重大な結果に結びついている。
本稿では,異なる研究のギャップを埋めることを目的として,攻撃的ユーザに対する攻撃的コンテンツ検出と行動分析の分野を掘り下げる。
論文 参考訳（メタデータ） (2023-11-15T20:59:13Z) - Towards Safer Generative Language Models: A Survey on Safety Risks,
Evaluations, and Improvements [76.80453043969209]
本調査では,大規模モデルに関する安全研究の枠組みについて述べる。
まず、広範囲にわたる安全問題を導入し、その後、大型モデルの安全性評価手法を掘り下げる。
トレーニングからデプロイメントまで,大規模なモデルの安全性を高めるための戦略について検討する。
論文 参考訳（メタデータ） (2023-02-18T09:32:55Z) - Towards Ethics by Design in Online Abusive Content Detection [7.163723138100273]
研究の成果は、ヘイトスピーチの検出、毒性、サイバーいじめなど、関連するいくつかのサブエリアに広がっている。
倫理的問題を先導し、2段階のプロセスとして統一されたフレームワークを提案する。
新たなフレームワークは、Ethics by Designの原則によってガイドされており、より正確で信頼性の高いモデルを構築するためのステップである。
論文 参考訳（メタデータ） (2020-10-28T13:10:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。