論文の概要: AI Organizations are More Effective but Less Aligned than Individual Agents

• arxiv url: http://arxiv.org/abs/2604.10290v1
• Date: Sat, 11 Apr 2026 17:13:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-14 20:13:15.940606
• Title: AI Organizations are More Effective but Less Aligned than Individual Agents
• Title（参考訳）: AI組織は、より効果的だが、個々のエージェントよりもアライメントが低い
• Authors: Judy Hanwen Shen, Daniel Zhu, Siddarth Srinivasan, Henry Sleight, Lawrence T. Wagner, Morgan Jane Matthews, Erik Jones, Jascha Sohl-Dickstein,
• Abstract要約: 実験により、マルチエージェントの「AI組織」は、ビジネス目標を達成するのに同時に効果的であるが、個々のAIエージェントよりも整合性が低いことを示す。 すべての設定で、アライメントされたモデルで構成されるAI Organizationは、単一のアライメントモデルと比較して、高度なユーティリティを持つソリューションを生成するが、アライメントのミスアライメントが大きくなる。
• 参考スコア（独自算出の注目度）: 15.51438200637538
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI is increasingly deployed in multi-agent systems; however, most research considers only the behavior of individual models. We experimentally show that multi-agent "AI organizations" are simultaneously more effective at achieving business goals, but less aligned, than individual AI agents. We examine 12 tasks across two practical settings: an AI consultancy providing solutions to business problems and an AI software team developing software products. Across all settings, AI Organizations composed of aligned models produce solutions with higher utility but greater misalignment compared to a single aligned model. Our work demonstrates the importance of considering interacting systems of AI agents when doing both capabilities and safety research.
• Abstract（参考訳）: AIはますますマルチエージェントシステムにデプロイされているが、ほとんどの研究は個々のモデルの振る舞いのみを考慮している。 実験により、マルチエージェントの「AI組織」は、ビジネス目標を達成する上で同時に効果的であるが、個々のAIエージェントよりも整合性が低いことを示す。 ビジネス問題に対するソリューションを提供するAIコンサルタントと、ソフトウェア製品を開発するAIソフトウェアチームだ。 すべての設定で、アライメントされたモデルで構成されるAI Organizationは、単一のアライメントモデルと比較して、高度なユーティリティを持つソリューションを生成するが、アライメントのミスアライメントが大きくなる。 我々の研究は、能力と安全性の両方の研究を行う際に、AIエージェントの相互作用システムを検討することの重要性を実証している。

関連論文リスト

• Barbarians at the Gate: How AI is Upending Systems Research [58.95406995634148]
  システム研究は、新しいパフォーマンス指向アルゴリズムの設計と評価に長年注力してきたが、AI駆動のソリューション発見には特に適している、と私たちは主張する。 このアプローチをAI駆動システム研究(ADRS)と呼び、ソリューションを反復的に生成し、評価し、洗練する。 我々の研究結果は、AI時代のシステム研究の実践に急激な適応の必要性と破壊的な可能性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2025-10-07T17:49:24Z)
• LIMI: Less is More for Agency [49.63355240818081]
  LIMI(Less Is More for Intelligent Agency)は、機関が根本的に異なる開発原則に従うことを示す。 高度なエージェント・インテリジェンスは、最小でも戦略的にキュレートされた自律行動のデモンストレーションから生まれる可能性がある。 マシンの自律性はデータの豊富さではなく、高品質なエージェント実証の戦略的キュレーションから生まれる。
  論文  参考訳（メタデータ） (2025-09-22T10:59:32Z)
• Scalable, Symbiotic, AI and Non-AI Agent Based Parallel Discrete Event Simulations [0.0]
  本稿では,複数のAIエージェントと非AIエージェントを組み合わせた並列離散イベントシミュレーション(PDES)手法を提案する。 我々は、4つの異なるドメインから4つの問題を解き、その結果をAIモデルだけで比較することで、我々のアプローチを評価する。 その結果,バニラモデルの精度が23%未満であるため,アプローチ全体の精度は68%であった。
  論文  参考訳（メタデータ） (2025-05-28T17:50:01Z)
• AI Agents vs. Agentic AI: A Conceptual Taxonomy, Applications and Challenges [3.7414278978078204]
  このレビューは、AIエージェントとエージェントAIを批判的に区別し、構造化された概念分類、アプリケーションマッピング、そして、異なる設計哲学と能力を明らかにするための機会と課題の分析を提供する。
  論文  参考訳（メタデータ） (2025-05-15T16:21:33Z)
• The Rise and Potential of Large Language Model Based Agents: A Survey [91.71061158000953]
  大規模言語モデル(LLM)は、人工知能(AGI)の潜在的な火花と見なされる まず、エージェントの概念を哲学的起源からAI開発まで追跡し、LLMがエージェントに適した基盤である理由を説明します。 単一エージェントシナリオ,マルチエージェントシナリオ,ヒューマンエージェント協調の3つの側面において,LLMベースのエージェントの広範な応用について検討する。
  論文  参考訳（メタデータ） (2023-09-14T17:12:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。