論文の概要: Agentic Societies Need a Social Harness

• arxiv url: http://arxiv.org/abs/2609.17527v1
• Date: Tue, 15 Sep 2026 17:57:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 14:56:08.658345
• Title: Agentic Societies Need a Social Harness
• Title（参考訳）: エージェント・ソシエティは社会的ハーネスを必要とする
• Abstract要約: エージェント・ソサエティは、信頼境界を越えて自律的に協調するAIエージェントの集合体である。 正直で有能なエージェントは、しばしば既存のハーネスやメッセージングプリミティブで満足な結果に到達できないことを実験的に示す。 本研究では,(i)失敗のクラスを完全に防止し,(ii)エージェントが実行時に無効メッセージを検出できるようにし,(iii)ポストファクト調査と結果を支援するソーシャルハーネスの階層化アーキテクチャを提案する。
• 参考スコア（独自算出の注目度）: 2.960156090822011
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: An agentic society is a collection of AI agents that coordinate autonomously across trust boundaries, on behalf of different principals whose objectives may only partially align. We show experimentally that in agentic societies even honest, competent agents often fail to reach satisfactory outcomes with existing harnesses and messaging primitives, and that faulty or malicious agents can stall collaboration, influence outcomes, and pursue other harmful goals by exploiting vulnerabilities in communication (``speech''). We argue that agentic societies need a \emph{social harness} for inter-agent interactions, in addition to each agent's \emph{personal harness}, which manages its private context and communication with its principal. We propose a layered architecture for social harnesses which (i) prevents classes of failures outright, (ii) enables agents to detect invalid messages at runtime, and (iii) supports post-facto investigation and consequences, and highlight directions for future research to realize these capabilities.
• Abstract（参考訳）: エージェント・ソサエティ(英: agentic society)とは、AIエージェントの集合体で、信頼の境界を越えて自律的に協調し、目的が部分的に整合することしかできない異なるプリンシパルを代表している。 実験により,エージェント社会において,有能なエージェントは,既存のハーネスやメッセージプリミティブと満足な結果に達することができず,また,欠陥のあるエージェントは,コミュニケーションの脆弱性を悪用して,コラボレーションを中断し,成果に影響を与え,他の有害な目標を追求する(「speech'」)ことを示す。 エージェント社会はエージェント間の相互作用に,それぞれのエージェントのプライベートコンテキストを管理し,そのプリンシパルとのコミュニケーションを管理する「emph{personal harness}」に加えて,「emph{social harness}」が必要であると論じる。 ソーシャルハーネスのための階層型アーキテクチャを提案する。 (i)失敗のクラスをそのままに防ぐ。 (ii) エージェントが実行時に無効メッセージを検知し、 三 ポストファクト調査と成果を支援し、これらの能力を実現するための今後の研究の方向性を明らかにすること。

関連論文リスト

• Tool Use Enables Undetectable Steganography in Multi-Agent LLM Systems [1.0408441549844423]
  自律的なエージェントAIシステムは、隠蔽通信チャネルを介して秘密の共謀のような、新たなマルチエージェントリスクを生じさせる。 本稿では,エージェントプログラミングモデルがすでに検出不能なステゴシステムを生成できるため,これらのスキームの複雑さはもはや安全障壁ではないことを実証する。 広義のスキーム群にかなり収束するが、厳密なワンショットコーディネートが限られており、共有アーチファクト、繰り返しのインタラクション、ツールによる検索が、秘密の通信リスクが最も急性な設定であることを示唆している。
  論文  参考訳（メタデータ） (2026-06-25T19:42:39Z)
• AgentSocialBench: Evaluating Privacy Risks in Human-Centered Agentic Social Networks [2.291770711277359]
  エージェント的ソーシャルネットワークのプライバシーは、シングルエージェント設定よりも根本的に難しい。 クロスドメインとクロスユーザ調整は、永続的なリークプレッシャを生成する。 機密情報をパラドックス的に抽象化する方法をエージェントに教えるプライバシー命令は、それをもっと議論させる。
  論文  参考訳（メタデータ） (2026-04-01T23:43:23Z)
• Agents of Chaos [50.53354213047402]
  実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。 20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。 我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
  論文  参考訳（メタデータ） (2026-02-23T16:28:48Z)
• The Rise of AI Agent Communities: Large-Scale Analysis of Discourse and Interaction on Moltbook [62.2627874717318]
  MoltbookはRedditに似たソーシャルプラットフォームで、AIエージェントが投稿を作成し、コメントや返信を通じて他のエージェントと対話する。 ローンチから約5日後に収集された公開APIスナップショットを使用して、AIエージェントが何を議論しているか、どのように投稿するか、どのように相互作用するのかという3つの研究課題に対処する。 エージェントの執筆は、主に中立であり、コミュニティエンゲージメントや支援指向のコンテンツに肯定性があることが示される。
  論文  参考訳（メタデータ） (2026-02-13T05:28:31Z)
• The Why Behind the Action: Unveiling Internal Drivers via Agentic Attribution [63.61358761489141]
  LLM(Large Language Model)ベースのエージェントは、カスタマーサービス、Webナビゲーション、ソフトウェアエンジニアリングといった現実世界のアプリケーションで広く使われている。 本稿では,タスク結果に関係なく,エージェントの動作を駆動する内部要因を識別する,テキスト汎用エージェント属性のための新しいフレームワークを提案する。 標準ツールの使用やメモリ誘起バイアスのような微妙な信頼性リスクなど、さまざまなエージェントシナリオでフレームワークを検証する。
  論文  参考訳（メタデータ） (2026-01-21T15:22:21Z)
• Communication and Verification in LLM Agents towards Collaboration under Information Asymmetry [17.472005826931127]
  本稿では,タスクコラボレーションにおけるLarge Language Model (LLM)エージェントについて検討する。 シンボリックパズルであるアインシュタインパズルをテーブルトップゲームに拡張する。 実証的な結果から,コミュニケーションの整合性の重要性が浮き彫りになる。
  論文  参考訳（メタデータ） (2025-10-29T15:03:53Z)
• A Survey of LLM-Driven AI Agent Communication: Protocols, Security Risks, and Defense Countermeasures [59.43633341497526]
  大規模言語モデル駆動型AIエージェントは、前例のない知性と適応性を示している。 エージェントコミュニケーションは、未来のAIエコシステムの基礎的な柱と見なされている。 本稿では,エージェント通信セキュリティに関する包括的調査を行う。
  論文  参考訳（メタデータ） (2025-06-24T14:44:28Z)
• Preventing Rogue Agents Improves Multi-Agent Collaboration [21.955058255432974]
  本稿では,アクション予測中にエージェントを監視し,将来エラーが発生する可能性がある場合に介入することを提案する。 WhoDunitEnv、コード生成タスク、そしてリソース持続可能性のためのGovSim環境の実験は、我々のアプローチがパフォーマンスを大幅に向上させることを示している。
  論文  参考訳（メタデータ） (2025-02-09T18:35:08Z)
• Challenges in Human-Agent Communication [55.53932430345333]
  これらのシステムがもたらす12の重要なコミュニケーション課題を特定し分析する。 これには、エージェントからユーザへの情報伝達の課題、ユーザからエージェントへの情報伝達の課題、すべての人間とエージェントのコミュニケーションで考慮すべき課題の概略が含まれる。 私たちの発見は、これらのシステムの透明性と制御を支援するために、新しいデザインパターン、原則、ガイドラインを緊急に呼び出すのに役立ちます。
  論文  参考訳（メタデータ） (2024-11-28T01:21:26Z)
• Mediated Multi-Agent Reinforcement Learning [3.8581550679584473]
  社会福祉を最大化するために、政策グラデーションを持つエージェントとともに仲介者を訓練する方法を示す。 行列ゲームと反復ゲームにおける実験は,マルチエージェント強化学習におけるメディエータの適用の可能性を強調した。
  論文  参考訳（メタデータ） (2023-06-14T10:31:37Z)
• CAMEL: Communicative Agents for "Mind" Exploration of Large Language Model Society [58.04479313658851]
  本稿では,コミュニケーションエージェント間の自律的協調を支援するスケーラブルな手法の構築の可能性について検討する。 本稿では,ロールプレイングという新しいコミュニケーションエージェントフレームワークを提案する。 コントリビューションには、新しいコミュニケーティブエージェントフレームワークの導入、マルチエージェントシステムの協調行動や能力を研究するためのスケーラブルなアプローチの提供などが含まれます。
  論文  参考訳（メタデータ） (2023-03-31T01:09:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。