論文の概要: AgentSocialBench: Evaluating Privacy Risks in Human-Centered Agentic Social Networks
- arxiv url: http://arxiv.org/abs/2604.01487v2
- Date: Mon, 06 Apr 2026 08:32:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-07 15:49:18.462683
- Title: AgentSocialBench: Evaluating Privacy Risks in Human-Centered Agentic Social Networks
- Title（参考訳）: AgentSocialBench:人間中心のエージェントソーシャルネットワークにおけるプライバシーリスクの評価
- Authors: Prince Zizhuang Wang, Shuli Jiang,
- Abstract要約: エージェント的ソーシャルネットワークのプライバシーは、シングルエージェント設定よりも根本的に難しい。
クロスドメインとクロスユーザ調整は、永続的なリークプレッシャを生成する。
機密情報をパラドックス的に抽象化する方法をエージェントに教えるプライバシー命令は、それをもっと議論させる。
- 参考スコア（独自算出の注目度）: 2.291770711277359
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: With the rise of personalized, persistent LLM agent frameworks such as OpenClaw, human-centered agentic social networks in which teams of collaborative AI agents serve individual users in a social network across multiple domains are becoming a reality. This setting creates novel privacy challenges: agents must coordinate across domain boundaries, mediate between humans, and interact with other users' agents, all while protecting sensitive personal information. While prior work has evaluated multi-agent coordination and privacy preservation, the dynamics and privacy risks of human-centered agentic social networks remain unexplored. To this end, we introduce AgentSocialBench, the first benchmark to systematically evaluate privacy risk in this setting, comprising scenarios across seven categories spanning dyadic and multi-party interactions, grounded in realistic user profiles with hierarchical sensitivity labels and directed social graphs. Our experiments reveal that privacy in agentic social networks is fundamentally harder than in single-agent settings: (1) cross-domain and cross-user coordination creates persistent leakage pressure even when agents are explicitly instructed to protect information, (2) privacy instructions that teach agents how to abstract sensitive information paradoxically cause them to discuss it more (we call it abstraction paradox). These findings underscore that current LLM agents lack robust mechanisms for privacy preservation in human-centered agentic social networks, and that new approaches beyond prompt engineering are needed to make agent-mediated social coordination safe for real-world deployment.
- Abstract（参考訳）: OpenClawのようなパーソナライズされた永続的なLLMエージェントフレームワークの台頭により、複数のドメインにわたるソーシャルネットワークにおいて、協力的なAIエージェントのチームが個々のユーザを提供する、人間中心のエージェントネットワークが現実化しつつある。
エージェントは、機密性の高い個人情報を保護しながら、ドメインの境界を越えて調整し、人間間を仲介し、他のユーザのエージェントと対話しなければならない。
これまでの作業では、マルチエージェントのコーディネートとプライバシ保護を評価してきたが、人間中心のエージェントソーシャルネットワークのダイナミクスとプライバシリスクは未解明のままである。
この目的のために、我々はAgentSocialBenchという、この設定におけるプライバシーリスクを体系的に評価する最初のベンチマークを紹介した。
エージェントネットワークにおけるプライバシは,(1)クロスドメインとクロスユーザコーディネーションは,情報保護を明示的に指示されたエージェントであっても永続的な漏洩圧力を発生させ,(2)機密情報をパラドックス的に抽象化する方法を教えるプライバシインストラクションにより,より議論する(抽象パラドックスと呼ぶ)。
これらの知見は、現在のLLMエージェントは、人間中心のエージェントソーシャルネットワークにおいて、プライバシー保護のための堅牢なメカニズムを欠いていること、そしてエージェントを介するソーシャルコーディネーションを現実世界のデプロイメントに安全にするためには、迅速なエンジニアリング以外の新しいアプローチが必要であることを裏付けている。
関連論文リスト
- Synergy: A Next-Generation General-Purpose Agent for Open Agentic Web [23.792766952415317]
次世代のAIエージェントはエージェント市民でなければならないと我々は主張する。
Synergyは汎用エージェントアーキテクチャであり、永続的で協調的で進化するエージェントのためのランタイムハーネスである。
論文 参考訳（メタデータ） (2026-03-30T13:35:37Z) - OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。
本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
論文 参考訳（メタデータ） (2026-02-13T21:32:32Z) - The Rise of AI Agent Communities: Large-Scale Analysis of Discourse and Interaction on Moltbook [62.2627874717318]
MoltbookはRedditに似たソーシャルプラットフォームで、AIエージェントが投稿を作成し、コメントや返信を通じて他のエージェントと対話する。
ローンチから約5日後に収集された公開APIスナップショットを使用して、AIエージェントが何を議論しているか、どのように投稿するか、どのように相互作用するのかという3つの研究課題に対処する。
エージェントの執筆は、主に中立であり、コミュニティエンゲージメントや支援指向のコンテンツに肯定性があることが示される。
論文 参考訳（メタデータ） (2026-02-13T05:28:31Z) - AgentCrypt: Advancing Privacy and (Secure) Computation in AI Agent Collaboration [23.22266919684932]
AgentCryptは、きめ細かい暗号化されたエージェント通信のためのフレームワークである。
多様なインタラクションのプライバシを保証し、他のアクセス不可能なデータに対する計算を可能にする。
LanggraphとGoogle ADKを使って実装し、テストしました。
論文 参考訳（メタデータ） (2025-12-08T23:20:20Z) - ConVerse: Benchmarking Contextual Safety in Agent-to-Agent Conversations [11.177126931962443]
ConVerseはエージェントエージェントインタラクションにおけるプライバシとセキュリティリスクを評価するためのベンチマークである。
12のユーザペルソナと864以上のコンテキストベースアタックを備えた,3つの実用的なドメインにまたがる。
インタラクティブなマルチエージェントコンテキスト内にプライバシとセキュリティを統合することで、ConVerseは通信の緊急性として安全性を再設定する。
論文 参考訳（メタデータ） (2025-11-07T15:49:49Z) - Multi-Hop Privacy Propagation for Differentially Private Federated Learning in Social Networks [1.5653612447564105]
フェデレート学習は、ローカルデータを共有することなく、分散クライアント間で協調的なモデルトレーニングを可能にする。
クライアントのプライバシ損失は、そのプライバシ保護戦略だけでなく、他者のプライバシ決定にも依存する。
本稿では,間接的プライバシー漏洩を体系的に定量化する,社会的に認識されたプライバシー保護FL機構を提案する。
論文 参考訳（メタデータ） (2025-08-11T06:53:32Z) - AI Delegates with a Dual Focus: Ensuring Privacy and Strategic Self-Disclosure [40.47039082007319]
大規模言語モデル(LLM)ベースのAIデリゲートは、ユーザに代わって機能するためにますます利用されています。
プライバシーに配慮した自己開示を可能にする新しいAIデリゲートシステムを提案する。
我々のユーザー調査は、提案されたAIデリゲートがプライバシーを戦略的に保護し、多様なダイナミックなソーシャルインタラクションにおけるその利用の先駆者であることを実証している。
論文 参考訳（メタデータ） (2024-09-26T08:45:15Z) - Knowledge Boundary and Persona Dynamic Shape A Better Social Media Agent [69.12885360755408]
パーソナライズされた知識と動的ペルソナ情報に基づくソーシャルメディアエージェントを構築する。
パーソナライズされた知識に対して、外部知識ソースを追加し、エージェントのペルソナ情報とマッチングすることにより、エージェントにパーソナライズされた世界知識を与える。
動的ペルソナ情報については、現在の行動情報を用いてエージェントのペルソナ情報を内部的に検索し、現在の行動に対する多様なペルソナ情報の干渉を低減する。
論文 参考訳（メタデータ） (2024-03-28T10:01:23Z) - Cross-Network Social User Embedding with Hybrid Differential Privacy
Guarantees [81.6471440778355]
プライバシー保護方式でユーザを包括的に表現するために,ネットワーク横断型ソーシャルユーザ埋め込みフレームワークDP-CroSUEを提案する。
特に、各異種ソーシャルネットワークに対して、異種データ型に対するプライバシー期待の変化を捉えるために、まずハイブリッドな差分プライバシーの概念を導入する。
ユーザ埋め込みをさらに強化するため、新しいネットワーク間GCN埋め込みモデルは、それらの整列したユーザを介して、ネットワーク間で知識を伝達するように設計されている。
論文 参考訳（メタデータ） (2022-09-04T06:22:37Z) - Aligning to Social Norms and Values in Interactive Narratives [89.82264844526333]
我々は、インタラクティブな物語やテキストベースのゲームにおいて、社会的に有益な規範や価値観に沿って行動するエージェントを作成することに注力する。
我々は、特別な訓練を受けた言語モデルに存在する社会的コモンセンス知識を用いて、社会的に有益な値に整合した行動にのみ、その行動空間を文脈的に制限するGAALADエージェントを紹介した。
論文 参考訳（メタデータ） (2022-05-04T09:54:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。