論文の概要: Multi-Agent Causal Reasoning for Suicide Ideation Detection Through Online Conversations
- arxiv url: http://arxiv.org/abs/2602.23577v1
- Date: Fri, 27 Feb 2026 01:06:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-02 19:48:24.188834
- Title: Multi-Agent Causal Reasoning for Suicide Ideation Detection Through Online Conversations
- Title（参考訳）: オンライン会話による自殺思考検出のためのマルチエージェント因果推論
- Authors: Jun Li, Xiangmeng Wang, Haoyang Li, Yifei Yan, Shijie Zhang, Hong Va Leong, Ling Feng, Nancy Xiaonan Yu, Qing Li,
- Abstract要約: 自殺は依然として世界的な公衆衛生上の問題となっている。
ソーシャルメディアプラットフォームは、オンライン会話ツリーを通じて早期のリスク検出の機会を提供する。
既存のアプローチには2つの大きな制限がある。
- 参考スコア（独自算出の注目度）: 16.626899117362875
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Suicide remains a pressing global public health concern. While social media platforms offer opportunities for early risk detection through online conversation trees, existing approaches face two major limitations: (1) They rely on predefined rules (e.g., quotes or relies) to log conversations that capture only a narrow spectrum of user interactions, and (2) They overlook hidden influences such as user conformity and suicide copycat behavior, which can significantly affect suicidal expression and propagation in online communities. To address these limitations, we propose a Multi-Agent Causal Reasoning (MACR) framework that collaboratively employs a Reasoning Agent to scale user interactions and a Bias-aware Decision-Making Agent to mitigate harmful biases arising from hidden influences. The Reasoning Agent integrates cognitive appraisal theory to generate counterfactual user reactions to posts, thereby scaling user interactions. It analyses these reactions through structured dimensions, i.e., cognitive, emotional, and behavioral patterns, with a dedicated sub-agent responsible for each dimension. The Bias-aware Decision-Making Agent mitigates hidden biases through a front-door adjustment strategy, leveraging the counterfactual user reactions produced by the Reasoning Agent. Through the collaboration of reasoning and bias-aware decision making, the proposed MACR framework not only alleviates hidden biases, but also enriches contextual information of user interactions with counterfactual knowledge. Extensive experiments on real-world conversational datasets demonstrate the effectiveness and robustness of MACR in identifying suicide risk.
- Abstract（参考訳）: 自殺は依然として世界的な公衆衛生上の問題となっている。
ソーシャルメディアプラットフォームは,オンライン会話ツリーを通じて早期にリスク検出を行う機会を提供する一方で,既存のアプローチでは,(1)ユーザインタラクションの狭い範囲のみを捉えた会話をログ化するための事前定義されたルール(引用や依存など)に依存し,(2)オンラインコミュニティの自殺的表現や伝播に大きな影響を与える,ユーザの適合性や自殺的模倣行動などの隠れた影響を見落としている。
これらの制約に対処するために,ユーザインタラクションのスケールアップにReasoning Agentを併用したMulti-Agent Causal Reasoning(MACR)フレームワークと,隠れ影響による有害なバイアスを軽減するBias-Aware Decision-Making Agentを提案する。
Reasoning Agentは認知評価理論を統合し、ポストに対する反現実的なユーザー反応を生成し、ユーザーインタラクションをスケールする。
それは、これらの反応を、それぞれの次元に責任を持つ専用のサブエージェントで、認知的、感情的、行動的パターンなど、構造化された次元を通して分析する。
バイアス対応意思決定エージェントは、事前調整戦略を通じて隠れバイアスを軽減し、推論エージェントが生み出す反現実的ユーザ反応を活用する。
推論と偏見を考慮した意思決定のコラボレーションを通じて,提案するMACRフレームワークは,隠れバイアスを緩和するだけでなく,ユーザインタラクションのコンテキスト情報と反事実的知識を充実させる。
現実世界の会話データセットに対する大規模な実験は、自殺リスクの同定におけるMACRの有効性と堅牢性を示している。
関連論文リスト
- When Visibility Outpaces Verification: Delayed Verification and Narrative Lock-in in Agentic AI Discourse [2.5424331328233207]
エージェントAIシステム - 独立した計画と実行が可能な自律的なエンティティ。
本稿ではエージェントAIのオンライン議論における社会的証明と検証タイミングの相互作用について検討する。
論文 参考訳（メタデータ） (2026-02-11T22:30:12Z) - The Why Behind the Action: Unveiling Internal Drivers via Agentic Attribution [63.61358761489141]
LLM(Large Language Model)ベースのエージェントは、カスタマーサービス、Webナビゲーション、ソフトウェアエンジニアリングといった現実世界のアプリケーションで広く使われている。
本稿では,タスク結果に関係なく,エージェントの動作を駆動する内部要因を識別する,テキスト汎用エージェント属性のための新しいフレームワークを提案する。
標準ツールの使用やメモリ誘起バイアスのような微妙な信頼性リスクなど、さまざまなエージェントシナリオでフレームワークを検証する。
論文 参考訳（メタデータ） (2026-01-21T15:22:21Z) - DialogGuard: Multi-Agent Psychosocial Safety Evaluation of Sensitive LLM Responses [4.663948718816864]
本稿では,Web上での心理社会的リスクを評価するための多エージェントフレームワークであるDialogGuardを紹介する。
DialogGuardは4つのLSM-as-a-judgeパイプラインを通じて、多様なジェネリックモデルに適用することができる。
論文 参考訳（メタデータ） (2025-12-01T23:53:45Z) - The Sum Leaks More Than Its Parts: Compositional Privacy Risks and Mitigations in Multi-Agent Collaboration [72.33801123508145]
大規模言語モデル(LLM)はマルチエージェントシステムに不可欠なものである。
プライバシーリスクは、暗記、直接推論、シングルターン評価を超えて現れる。
特に、相互作用によって構成される一見無害な反応は、敵が機密情報の回復を累積的に行うことができる。
論文 参考訳（メタデータ） (2025-09-16T16:57:25Z) - H-NeiFi: Non-Invasive and Consensus-Efficient Multi-Agent Opinion Guidance [26.3381245787395]
既存のメソッドは、しばしばユーザービューを直接変更したり、グループ間の接続を強制する。
我々は階層的で非侵襲的な意見誘導フレームワークH-NeiFiを提案する。
実験の結果、H-NeiFiは専門家がいない場合でもコンセンサス速度を22.0%から30.7%増加させ、世界的な収束を維持していることがわかった。
論文 参考訳（メタデータ） (2025-07-11T09:56:33Z) - Personalized Attacks of Social Engineering in Multi-turn Conversations: LLM Agents for Simulation and Detection [19.604708321391012]
ソーシャルメディアプラットフォームに対する社会工学(SE)攻撃は重大なリスクをもたらす。
マルチターン会話を生成することで,SE攻撃機構をシミュレートするLLM-agentic framework,SE-VSimを提案する。
本研究は,被害者の人格に関する事前知識を活用することで,ユーザに対してパーソナライズされた保護を提供するための概念実証SE-OmniGuardを提案する。
論文 参考訳（メタデータ） (2025-03-18T19:14:44Z) - MM-PoisonRAG: Disrupting Multimodal RAG with Local and Global Poisoning Attacks [104.50239783909063]
Retrieval Augmented Generation (RAG) を用いた多モーダル大規模言語モデルは、多モーダル質問応答のようなかなり高度なタスクを持つ。
この外部知識への依存は、知識中毒攻撃(英語版)という、危険だが未発見の安全リスクを引き起こす。
マルチモーダルRAGにおける知識中毒を体系的に設計する最初のフレームワークであるMM-PoisonRAGを提案する。
論文 参考訳（メタデータ） (2025-02-25T04:23:59Z) - MisinfoEval: Generative AI in the Era of "Alternative Facts" [50.069577397751175]
本稿では,大規模言語モデル(LLM)に基づく誤情報介入の生成と評価を行うフレームワークを提案する。
本研究では,(1)誤情報介入の効果を測定するための模擬ソーシャルメディア環境の実験,(2)ユーザの人口動態や信念に合わせたパーソナライズされた説明を用いた第2の実験について述べる。
以上の結果から,LSMによる介入はユーザの行動の修正に極めて有効であることが確認された。
論文 参考訳（メタデータ） (2024-10-13T18:16:50Z) - AgentPoison: Red-teaming LLM Agents via Poisoning Memory or Knowledge Bases [73.04652687616286]
本稿では,RAG とRAG をベースとした LLM エージェントを標的とした最初のバックドア攻撃である AgentPoison を提案する。
従来のバックドア攻撃とは異なり、AgentPoisonは追加のモデルトレーニングや微調整を必要としない。
エージェントごとに、AgentPoisonは平均攻撃成功率を80%以上達成し、良質なパフォーマンスに最小限の影響を与える。
論文 参考訳（メタデータ） (2024-07-17T17:59:47Z) - Malicious Agent Detection for Robust Multi-Agent Collaborative Perception [52.261231738242266]
多エージェント協調(MAC)知覚は、単エージェント認識よりも敵攻撃に対して脆弱である。
MAC知覚に特異的な反応防御であるMADE(Malicious Agent Detection)を提案する。
我々は、ベンチマーク3DデータセットV2X-simとリアルタイムデータセットDAIR-V2Xで包括的な評価を行う。
論文 参考訳（メタデータ） (2023-10-18T11:36:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。