論文の概要: Claims of emergence in AI should be grounded in information decomposition

• arxiv url: http://arxiv.org/abs/2610.28479v1
• Date: Tue, 20 Oct 2026 16:29:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.919917
• Title: Claims of emergence in AI should be grounded in information decomposition
• Title（参考訳）: AIの出現の主張は情報の分解に基礎を置くべきである
• Abstract要約: 我々は、AIシステムにおけるシナジーに関する評価を運用するための統一的な形式的枠組みとして、インセンフィズムの分解が役立つと主張している。 システムの振る舞いは、タスク関連の結果に関する相乗的情報を持っている場合に限って発生します。
• 参考スコア（独自算出の注目度）: 48.3833080772084
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When a language model develops capabilities not traceable to its individual components, when a multi-agent AI system outperforms each agent on its own, or when a human-AI pair succeeds where either fails in isolation, AI researchers describe it as a case of ``synergy'' or ``emergence''. However, these are usually informal assessments not supported by a theoretical framework, making these claims impossible to compare or even meaningfully dispute. Here we argue that \emph{information decomposition can serve as a unifying formal framework to operationalize assessments about synergy in AI systems}. Information decomposition provides a way to distinguish qualitatively different \emph{types} of information, including unique information available from individual components, redundant information shared across multiple components, and synergistic information accessible only from parts taken together. This gives claims of emergence a precise, falsifiable criterion: a system's behavior is emergent only if it carries synergistic information about task-relevant outcomes. We apply this lens to attention heads, autonomous agents, and human-AI teams, showing how it organizes existing knowledge across scales and substrates, while also generating cross-level conjectures that siloed fields would miss.
• Abstract（参考訳）: 言語モデルが個々のコンポーネントにトレースできない機能を開発する場合、マルチエージェントのAIシステムが各エージェントを単独で上回る場合、あるいは人間とAIのペアが単独で失敗した場合に、AI研究者はそれを‘synergy’や‘emergence’のように記述する。 しかしながら、これらの主張は通常、理論的な枠組みによって支持されない非公式な評価であり、これらの主張を比較したり、意味のある議論をすることさえ不可能である。 ここでは、AIシステムにおけるシナジーに関する評価を運用するための統一的な形式的なフレームワークとして、‘emph{information decomposition’が役立ちます。 情報分解は、個々のコンポーネントから利用可能なユニークな情報、複数のコンポーネント間で共有される冗長な情報、そして、結合された部分からのみアクセス可能な相乗的情報を含む、定性的に異なる情報のemph{types}を識別する方法を提供する。 システムの振る舞いは、タスク関連の結果に関する相乗的情報を持っている場合に限って発生します。 私たちはこのレンズを、注目の頭や自律エージェント、人間とAIのチームに適用し、スケールや基板にまたがる既存の知識をどのように整理するかを示しながら、サイロフィールドが見逃すであろうクロスレベルな予想を生み出します。

関連論文リスト

• When Do Humans and Machines Truly Complement Each Other? Formal Conditions and Empirical Evidence for Human-AI Synergy [5.119657055297124]
  我々は、依存パターンのレンズを通して人間とAIの相互作用をモデル化するための正式な枠組みを提案する。 我々は、相乗効果に数学的に必要で十分な条件を導出し、その出現はどちらのエージェントが他のエージェントの誤りを識別し、修正する能力に依存することを示した。
  論文  参考訳（メタデータ） (2026-10-20T10:09:59Z)
• The Context Access Divide: Interaction-Level Architecture as a Complementary Dimension of Agentic Inequality [0.0]
  名目上は同等のAIアクセスを持つ2人のユーザーは、質的に異なるAIユーティリティを経験することができる。 知的資本が数万のファイルにまたがる知識集約型労働者にとって、CAD(Context Access Divide)は、AIの有用性の質的なしきい値を構成する。 我々は、シャープなどのフレームワークを補完するが、再現できないAIによる不平等の次元として文脈性を提案する。
  論文  参考訳（メタデータ） (2026-07-09T13:53:40Z)
• Pitfalls in Evaluating Interpretability Agents [91.49742416116635]
  我々は,実験を反復的に設計し,仮説を洗練するエージェントシステムを構築した。 我々の研究は、複雑な自動解釈可能性システムを評価する上での根本的な課題を実証している。
  論文  参考訳（メタデータ） (2026-03-20T16:27:17Z)
• A Brain-like Synergistic Core in LLMs Drives Behaviour and Learning [50.68188138112555]
  大規模言語モデルが自然に相乗的コアを開発することを示す。 中層の領域は相乗的処理を示し, 初期層と後期層は冗長性に依存していることがわかった。 この収束は、シナジスティック情報処理が知性の基本的な性質であることを示している。
  論文  参考訳（メタデータ） (2026-01-11T10:48:35Z)
• MCP-Orchestrated Multi-Agent System for Automated Disinformation Detection [84.75972919995398]
  本稿では,関係抽出を用いてニュース記事の偽情報を検出するマルチエージェントシステムを提案する。 提案したエージェントAIシステムは、(i)機械学習エージェント(ロジスティック回帰)、(ii)Wikipedia知識チェックエージェント、(iv)Webスクラッドデータアナライザの4つのエージェントを組み合わせる。 その結果、マルチエージェントアンサンブルはF1スコア0.964で95.3%の精度を達成し、個々のエージェントや従来のアプローチよりも大幅に優れていた。
  論文  参考訳（メタデータ） (2025-08-13T19:14:48Z)
• Mechanistic understanding and validation of large AI models with SemanticLens [13.712668314238082]
  航空機のような人間工学的なシステムとは異なり、AIモデルの内部動作はほとんど不透明である。 本稿では、コンポーネントによって符号化された隠れた知識をマッピングするニューラルネットワークの普遍的説明法であるSemanticLensを紹介する。
  論文  参考訳（メタデータ） (2025-01-09T17:47:34Z)
• Quantifying Misalignment Between Agents: Towards a Sociotechnical Understanding of Alignment [2.619545850602691]
  最近の社会技術的アプローチは、複数の人間とAIエージェント間の複雑なミスアライメントを理解する必要性を強調している。 我々は、人間の競合の計算社会科学モデルをアライメント問題に適用する。 我々のモデルは、潜在的に矛盾する目標を持つ多種多様なエージェントグループにおけるミスアライメントを定量化する。
  論文  参考訳（メタデータ） (2024-06-06T16:31:22Z)
• Pangu-Agent: A Fine-Tunable Generalist Agent with Structured Reasoning [50.47568731994238]
  人工知能(AI)エージェント作成の鍵となる方法は強化学習(RL)である 本稿では,構造化推論をAIエージェントのポリシーに統合し,学習するための一般的なフレームワークモデルを提案する。
  論文  参考訳（メタデータ） (2023-12-22T17:57:57Z)
• FunnyBirds: A Synthetic Vision Dataset for a Part-Based Analysis of Explainable AI Methods [15.073405675079558]
  XAIは本質的に、根底的な説明を欠いているため、その自動評価は未解決の問題である。 本稿では,FunnyBirdsという新しい合成視覚データセットを提案する。 我々のツールを用いて、24種類のニューラルモデルとXAI手法の組み合わせの結果を報告する。
  論文  参考訳（メタデータ） (2023-08-11T17:29:02Z)
• A general framework for scientifically inspired explanations in AI [76.48625630211943]
  我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。 このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
  論文  参考訳（メタデータ） (2020-03-02T10:32:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。