Fugu-MT 論文翻訳(概要): Population Physics, Population Problems: Safety and Emergence in LLM Societies

論文の概要: Population Physics, Population Problems: Safety and Emergence in LLM Societies

arxiv url: http://arxiv.org/abs/2609.33871v1
Date: Sun, 27 Sep 2026 19:48:06 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-04 16:04:51.402515
Title: Population Physics, Population Problems: Safety and Emergence in LLM Societies
Title（参考訳）: 人口物理と人口問題 : LLM社会の安全と創発
Abstract要約: 我々は,大規模言語モデル(LLM)社会システムにおいて,自己組織化を測定するための枠組みを導入する。スケジューリンググリッド、ソーシャルネットワーク(Moltbook)、Twitter風の誤情報シミュレーション(Rogue)の3つのシステムに適用する。以上の結果から, LLMの安全性が向上したり, 監視されたりしても, 集団レベルの病態が出現する可能性が示唆された。このようなシグネチャを計測することは、協調した集団行動を検出するための軽量でエージェントに依存しない診断層を提供する、と我々は主張する。
参考スコア（独自算出の注目度）: 12.037650994342664
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: The collective behaviour of large language model (LLM) societies is not the sum of their individual outputs. It yields statistically distinct, sometimes-unpredictable phenomena, for which the tools we use to study single agents may not scale. Due to recent incidents involving autonomous agentic systems, however, understanding these systems is paramount. For that we introduce a framework for measuring self-organisation in LLM social systems and apply it to three such systems: a Schelling grid, a social network (Moltbook), and a Twitter-like misinformation simulation ('Rogue'). All three exhibit statistically significant self-organisation. Moreover, their relaxation dynamics vary with the environmental information available to the agents, with open-ended systems (Moltbook, Rogue) exhibiting sharp, phase-transition-like dynamics. Further results show that population-level pathologies can emerge even when the LLMs are safety-tuned or monitored, being primarily driven by the coordinated activity of a population subset. We also show when self-organisation does \textit{not} emerge under two additional scenarios (a commons dilemma, GovSim, and a LLM-as-a-judge deliberation scheme, ChatEval). We argue that measuring signatures of this kind offers a lightweight, agent-agnostic diagnostic layer for detecting coordinated collective behaviour in deployed multi-agent systems without relying on natural language or model versioning.
Abstract（参考訳）: 大規模言語モデル(LLM)社会の集団行動は、個々のアウトプットの総和ではない。これは統計的に区別され、時には予測不可能な現象をもたらします。しかし、近年の自律型エージェントシステムに関する出来事により、これらのシステムを理解することが最重要である。そこで我々は,LLM社会システムにおける自己組織化を計測するためのフレームワークを導入し,スケジューリンググリッド,ソーシャルネットワーク(Moltbook),Twitterのような誤情報シミュレーション(Rogue)という3つのシステムに適用する。いずれも統計的に重要な自己組織化を示す。さらに、それらの緩和ダイナミクスはエージェントが利用できる環境情報によって異なり、オープンエンドシステム(モルトブック、ローグ)は鋭く相転移様のダイナミクスを示す。以上の結果から, LLMが安全チューニングされたり, 監視されたりしても, 集団レベルの病態が出現する可能性が示唆された。自己組織が \textit{not} を2つの追加シナリオ(コモンズ・ジレンマ, GovSim, LLM-as-a-judge deliberation scheme, ChatEval)の下に出現することを示す。このようなシグネチャを計測することは、自然言語やモデルバージョニングに頼ることなく、デプロイされたマルチエージェントシステムにおける協調的な集団行動を検出するための、軽量でエージェントに依存しない診断層を提供する、と我々は主張する。

関連論文リスト

Agentic World Modeling: Foundations, Capabilities, Laws, and Beyond [209.35045331678043]
2つの軸に沿って組織された「レベルx法」の分類を導入します。第一に、3つの能力レベルを定義している: 1段階の局所遷移演算子を学ぶL1 Predictor、それらをドメインの法則を尊重する多段階のアクション条件付きロールアウトに構成するL2 Simulator、新しいエビデンスに対して予測が失敗すると自己のモデルを自動で修正するL3 Evolver。我々は400以上の作品を合成し、モデルに基づく強化学習、ビデオ生成、WebおよびGUIエージェント、マルチエージェント社会シミュレーション、AIによる科学的発見にまたがる100以上の代表システムを要約する。
論文参考訳（メタデータ） (2026-04-24T17:48:47Z)
When Is Collective Intelligence a Lottery? Multi-Agent Scaling Laws for Memetic Drift in LLMs [19.42697228981973]
命名ゲームにおいて、特定のエージェントがラベルを優先しない場合でも、人口は急速に対称性を破り、コンセンサスに達することを示す。最小限のモデルであるQuantized Simplex Gossip (QSG)を導入し、この合意の微妙な起源を相互文脈学習に追従するメカニズムを明らかにする。我々は,人口規模,通信帯域幅,文脈内適応率,エージェントの内部不確実性の関数として,ドリフト誘起偏光のスケーリング法則を導出する。
論文参考訳（メタデータ） (2026-03-25T18:00:29Z)
Position: AI Agents Are Not (Yet) a Panacea for Social Simulation [62.891898598784415]
大規模言語モデル(LLM)の最近の進歩は、社会シミュレーションにLLM統合エージェントを使うことへの関心が高まっている。このポジションペーパーは、LSMをベースとしたエージェントは社会シミュレーションのパナセアではないと主張している。
論文参考訳（メタデータ） (2026-02-19T06:35:07Z)
Beyond Single-Agent Safety: A Taxonomy of Risks in LLM-to-LLM Interactions [0.0]
本稿では,大規模な言語モデルが相互に相互作用する環境に,人間-モデル相互作用用に設計された安全メカニズムがスケールしない理由について検討する。モデルレベルの安全性からシステムレベルの安全性への概念的移行を提案し,ESRH(Emergent Systemic Risk Horizon)の枠組みを導入する。 i) LLMの相互作用における集団的リスクの理論的考察,(ii)マイクロ,メソ,マクロレベルの障害モードを接続する分類法,および(iii)マルチエージェントシステムに適応的監視を組み込むアーキテクチャであるInstitutionalAIの設計を提案する。
論文参考訳（メタデータ） (2025-12-02T12:06:57Z)
The Social Cost of Intelligence: Emergence, Propagation, and Amplification of Stereotypical Bias in Multi-Agent Systems [20.359327253718718]
大規模言語モデル(LLMs)におけるバイアスは、社会集団全体でのステレオタイピングと不公平な扱いにおいて、引き続き永続的な課題である。内部特殊化, 基礎となるLCM, エージェント間通信プロトコルが, バイアス堅牢性, 伝搬, 増幅に与える影響について検討した。以上の結果から,マルチエージェントLPMシステムにおける公平性とレジリエンスを規定する重要な要因が示唆された。
論文参考訳（メタデータ） (2025-10-13T02:56:42Z)
Spiral of Silence in Large Language Model Agents [44.98734791415891]
スピラル・オブ・サイレンス(SoS)理論では、少数派の見解を持つ個人は社会的孤立を恐れて発言することをしばしば控えている。 SoSライクなダイナミクスは、大きな言語モデルで純粋に統計的な言語生成から生まれるのか? 本研究では,「歴史」と「ペルソナ」の信号の可利用性を体系的に変化させる4つの制御条件について考察する。
論文参考訳（メタデータ） (2025-09-28T08:59:54Z)
Benchmarking LLMs' Swarm intelligence [51.648605206159125]
大規模言語モデル(LLM)は複雑な推論の可能性を秘めているが、マルチエージェントシステム(MAS)における創発的協調の能力はほとんど探索されていない。分散エージェントとして機能するLDMのタスクを体系的に評価する新しいベンチマークであるSwarmBenchを紹介する。本稿では,協調効率の指標を提案し,創発的グループダイナミクスを解析する。
論文参考訳（メタデータ） (2025-05-07T12:32:01Z)
Emergence of human-like polarization among large language model agents [79.96817421756668]
我々は、何千もの大規模言語モデルエージェントを含むネットワーク化されたシステムをシミュレートし、それらの社会的相互作用を発見し、人間のような偏極をもたらす。人間とLLMエージェントの類似性は、社会的分極を増幅する能力に関する懸念を提起するだけでなく、分極を緩和するためのもっともらしい戦略を識別するための貴重なテストベッドとして機能する可能性も持っている。
論文参考訳（メタデータ） (2025-01-09T11:45:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。