論文の概要: AI Organizations are More Effective but Less Aligned than Individual Agents

• arxiv url: http://arxiv.org/abs/2604.10290v1
• Date: Sat, 11 Apr 2026 17:13:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-14 20:13:15.940606
• Title: AI Organizations are More Effective but Less Aligned than Individual Agents
• Title（参考訳）: AI組織は、より効果的だが、個々のエージェントよりもアライメントが低い
• Abstract要約: 実験により、マルチエージェントの「AI組織」は、ビジネス目標を達成するのに同時に効果的であるが、個々のAIエージェントよりも整合性が低いことを示す。 すべての設定で、アライメントされたモデルで構成されるAI Organizationは、単一のアライメントモデルと比較して、高度なユーティリティを持つソリューションを生成するが、アライメントのミスアライメントが大きくなる。
• 参考スコア（独自算出の注目度）: 15.51438200637538
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI is increasingly deployed in multi-agent systems; however, most research considers only the behavior of individual models. We experimentally show that multi-agent "AI organizations" are simultaneously more effective at achieving business goals, but less aligned, than individual AI agents. We examine 12 tasks across two practical settings: an AI consultancy providing solutions to business problems and an AI software team developing software products. Across all settings, AI Organizations composed of aligned models produce solutions with higher utility but greater misalignment compared to a single aligned model. Our work demonstrates the importance of considering interacting systems of AI agents when doing both capabilities and safety research.
• Abstract（参考訳）: AIはますますマルチエージェントシステムにデプロイされているが、ほとんどの研究は個々のモデルの振る舞いのみを考慮している。 実験により、マルチエージェントの「AI組織」は、ビジネス目標を達成する上で同時に効果的であるが、個々のAIエージェントよりも整合性が低いことを示す。 ビジネス問題に対するソリューションを提供するAIコンサルタントと、ソフトウェア製品を開発するAIソフトウェアチームだ。 すべての設定で、アライメントされたモデルで構成されるAI Organizationは、単一のアライメントモデルと比較して、高度なユーティリティを持つソリューションを生成するが、アライメントのミスアライメントが大きくなる。 我々の研究は、能力と安全性の両方の研究を行う際に、AIエージェントの相互作用システムを検討することの重要性を実証している。

関連論文リスト

• AI Co-Scientist for Ranking: Discovering Novel Search Ranking Models alongside LLM-based AI Agents with Cloud Computing Access [60.37646376282544]
  本稿では,全検索ランキング研究パイプラインを自動化したAI共同科学者フレームワークを提案する。 これは、AIの共同科学者フレームワークをアルゴリズム研究に利用した、ランキングコミュニティで初めての研究である。
  論文  参考訳（メタデータ） (2026-03-23T09:29:08Z)
• A Practical Guide to Agentic AI Transition in Organizations [4.085087405595323]
  エージェントAIは、組織内でのインテリジェンスの適用方法に大きな変化をもたらします。 本稿では,手動プロセスから自動エージェントAIシステムへ組織機能を移行するための実用的枠組みを提案する。
  論文  参考訳（メタデータ） (2026-01-27T10:49:59Z)
• Validity Is What You Need [3.0111718611142684]
  我々はエージェントAIの他の定義を検討し、新しい現実主義的定義を提案する。 しかし、エージェントAIシステムは基盤ではなく、主にアプリケーションである点に留意する。
  論文  参考訳（メタデータ） (2025-10-31T17:00:04Z)
• Barbarians at the Gate: How AI is Upending Systems Research [58.95406995634148]
  システム研究は、新しいパフォーマンス指向アルゴリズムの設計と評価に長年注力してきたが、AI駆動のソリューション発見には特に適している、と私たちは主張する。 このアプローチをAI駆動システム研究(ADRS)と呼び、ソリューションを反復的に生成し、評価し、洗練する。 我々の研究結果は、AI時代のシステム研究の実践に急激な適応の必要性と破壊的な可能性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2025-10-07T17:49:24Z)
• LIMI: Less is More for Agency [49.63355240818081]
  LIMI(Less Is More for Intelligent Agency)は、機関が根本的に異なる開発原則に従うことを示す。 高度なエージェント・インテリジェンスは、最小でも戦略的にキュレートされた自律行動のデモンストレーションから生まれる可能性がある。 マシンの自律性はデータの豊富さではなく、高品質なエージェント実証の戦略的キュレーションから生まれる。
  論文  参考訳（メタデータ） (2025-09-22T10:59:32Z)
• Scalable, Symbiotic, AI and Non-AI Agent Based Parallel Discrete Event Simulations [0.0]
  本稿では,複数のAIエージェントと非AIエージェントを組み合わせた並列離散イベントシミュレーション(PDES)手法を提案する。 我々は、4つの異なるドメインから4つの問題を解き、その結果をAIモデルだけで比較することで、我々のアプローチを評価する。 その結果,バニラモデルの精度が23%未満であるため,アプローチ全体の精度は68%であった。
  論文  参考訳（メタデータ） (2025-05-28T17:50:01Z)
• AI Agents vs. Agentic AI: A Conceptual Taxonomy, Applications and Challenges [3.7414278978078204]
  このレビューは、AIエージェントとエージェントAIを批判的に区別し、構造化された概念分類、アプリケーションマッピング、そして、異なる設計哲学と能力を明らかにするための機会と課題の分析を提供する。
  論文  参考訳（メタデータ） (2025-05-15T16:21:33Z)
• Modeling AI-Human Collaboration as a Multi-Agent Adaptation [0.0]
  タスクの関数としてAIと人間のコラボレーションを形式化するエージェントベースのシミュレーションを開発する。 モジュラータスクでは、AIが人間の代わりになることが多いことを示します。 また、記憶や構造が欠如している「幻覚的」AIでさえ、ローカルオプティマから逃れることによって、低能力な人間を増強することで、結果を改善することも示しています。
  論文  参考訳（メタデータ） (2025-04-29T16:19:53Z)
• Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
  エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。 本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
  論文  参考訳（メタデータ） (2024-02-28T16:09:56Z)
• The Rise and Potential of Large Language Model Based Agents: A Survey [91.71061158000953]
  大規模言語モデル(LLM)は、人工知能(AGI)の潜在的な火花と見なされる まず、エージェントの概念を哲学的起源からAI開発まで追跡し、LLMがエージェントに適した基盤である理由を説明します。 単一エージェントシナリオ,マルチエージェントシナリオ,ヒューマンエージェント協調の3つの側面において,LLMベースのエージェントの広範な応用について検討する。
  論文  参考訳（メタデータ） (2023-09-14T17:12:03Z)
• Is the Most Accurate AI the Best Teammate? Optimizing AI for Teamwork [54.309495231017344]
  AIシステムは人間中心の方法でトレーニングされ、チームのパフォーマンスに直接最適化されるべきである、と私たちは主張する。 我々は,AIレコメンデーションを受け入れるか,あるいはタスク自体を解決するかを選択する,特定のタイプのAIチームを提案する。 実世界の高精度データセット上での線形モデルと非線形モデルによる実験は、AIが最も正確であることは、最高のチームパフォーマンスに繋がらないことを示している。
  論文  参考訳（メタデータ） (2020-04-27T19:06:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。