論文の概要: Semantic Uncertainty-Guided Orchestration in Hierarchical Multi-Agent Systems
- arxiv url: http://arxiv.org/abs/2608.14707v1
- Date: Tue, 11 Aug 2026 03:55:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.041643
- Title: Semantic Uncertainty-Guided Orchestration in Hierarchical Multi-Agent Systems
- Title（参考訳）: 階層型マルチエージェントシステムにおける意味的不確実性誘導オーケストレーション
- Abstract要約: 本稿では,意味的不確実性を考慮したオーケストレーション手法HASSUMを提案する。
セマンティックエントロピーとセマンティック密度を用いて不確実性を推定し、これは出力確率ではなく、回答セマンティクスのレベルで信頼を測定する。
このアプローチは特定のエージェントアーキテクチャとは独立して動作するため、広範囲の階層的および協調的なマルチエージェントシステムに統合することができる。
- 参考スコア（独自算出の注目度）: 11.562923882714095
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As large language model (LLM)-based multi-agent systems become increasingly capable, coordinating agents under uncertainty becomes a fundamental challenge. Existing orchestration strategies typically rely on fixed interaction patterns and often lack mechanisms for assessing the reliability of intermediate reasoning steps, allowing errors and hallucinations to propagate through the system. This paper introduces a semantic-uncertainty-guided orchestration approach, HASSUM as a general framework for uncertainty-aware coordination in multi-agent systems. The method estimates uncertainty using semantic entropy and semantic density, which measure trust at the level of answer semantics rather than output probabilities. These signals enable adaptive orchestration decisions, including output verification, selective reprompting, additional deliberation, and confidence-aware response selection. Because the approach operates independently of any particular agent architecture, it can be integrated into a broad range of hierarchical and collaborative multi-agent systems. The evaluations demonstrate an implementation within a hierarchical agent framework and evaluate it on StrategyQA, JailbreakBench, and TruthfulQA benchmarks. Across tasks that require complex reasoning and are prone to ambiguity or hallucinations, uncertainty-guided orchestration yields more reliable outcomes than uncertainty-unaware coordination. Semantic entropy and semantic density in tandem outperformed either metric alone. Ablations testing different thresholds and model sizes demonstrated that both influence the effectiveness of semantic metrics. The results suggest that semantic uncertainty is a practical and general-purpose signal for improving robustness and trustworthiness in agentic AI systems.
- Abstract（参考訳）: 大規模言語モデル(LLM)ベースのマルチエージェントシステムがますます有能になるにつれて、不確実性の下でエージェントをコーディネートすることが根本的な課題となる。
既存のオーケストレーション戦略は、通常、固定された相互作用パターンに依存し、しばしば中間的推論ステップの信頼性を評価するメカニズムが欠如しており、エラーや幻覚がシステムを通して伝播することを許している。
本稿では,マルチエージェントシステムにおける不確実性認識協調のための一般的なフレームワークとして,意味的不確実性誘導型オーケストレーション手法HASSUMを提案する。
提案手法は,出力確率ではなく,回答セマンティクスのレベルで信頼度を測定する意味エントロピーと意味密度を用いて不確実性を推定する。
これらの信号は、出力検証、選択的再試行、追加の熟考、信頼性に配慮した応答選択など、適応的なオーケストレーション決定を可能にする。
このアプローチは特定のエージェントアーキテクチャとは独立して動作するため、広範囲の階層的および協調的なマルチエージェントシステムに統合することができる。
評価は階層型エージェントフレームワークの実装を示し、StrategyQA、JailbreakBench、TruthfulQAベンチマークで評価する。
複雑な推論を必要とし、曖昧さや幻覚を必要とするタスク全体にわたって、不確実性誘導オーケストレーションは、不確実性意識の調整よりも信頼性の高い結果をもたらす。
タンデムのセマンティックエントロピーとセマンティック密度は、どちらもメートル法よりも優れていた。
異なるしきい値とモデルサイズをテストするアブレーションは、どちらもセマンティックメトリクスの有効性に影響を与えることを示した。
その結果,意味的不確実性はエージェントAIシステムの堅牢性と信頼性を向上させるための実用的かつ汎用的な信号であることが示唆された。
関連論文リスト
- From Sequence to Structure: Relational Uncertainty Propagation for LLM Agents [75.44420701722915]
大規模言語モデル(LLM)エージェントのためのトラジェクトリレベルのUQフレームワークを提案する。
RuPAは、推論状態、ツールインタラクション、環境フィードバックが時間的およびセマンティックな依存関係エッジで接続されたノードである、指向的なトラジェクトリグラフとして実行履歴を表現している。
我々は,複数のモデルファミリにまたがる6つのオープンソースLCMを用いて,代用エージェントベンチマーク($2, Terminal-Bench-2, GAIA)でRUPAを評価した。
論文 参考訳（メタデータ） (2026-08-17T01:40:14Z) - Exploring Agentic Tool-Calling Decisions via Uncertainty-Aligned Reinforcement Learning [63.24624171679711]
大規模言語モデル(LLM)ベースのエージェントは、しばしば最適なツール使用の決定を行う。
本研究では、不確実性分離を維持するための推進力として、不確実性定量化を報酬設計に組み込んだTRUSTを提案する。
論文 参考訳（メタデータ） (2026-06-05T07:08:34Z) - Learning to Choose: An Empowerment-Guided Multi-Agent System with semantic communication for Adaptive Method Selection [1.321203201549798]
マルチエージェントパイプラインでは、エージェントの意図とアクションの小さな矛盾がセマンティックドリフトにつながる可能性がある。
本稿では,マルチエージェント・フレームワークを導入し,コンテキスト・バンディットと構造化されたエージェント間通信と意味的チェックポイントを組み合わせた。
信頼性の高い自律学習には,高品質な行動の特定だけでなく,伝播の完全性も必要であることを示す。
論文 参考訳（メタデータ） (2026-05-28T14:57:21Z) - Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。
この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。
各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
論文 参考訳（メタデータ） (2026-05-17T10:26:37Z) - Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。
アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。
ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文 参考訳（メタデータ） (2026-04-21T15:05:58Z) - AffectAgent: Collaborative Multi-Agent Reasoning for Retrieval-Augmented Multimodal Emotion Recognition [62.16431420189863]
LLMに基づくマルチモーダル感情認識は静的なパラメトリックメモリに依存しており、ニュアンス化された感情状態の解釈時にしばしば幻覚を与える。
本稿では,感情指向型マルチエージェント検索拡張生成フレームワークであるAffectAgentを紹介する。
AffectAgentは3つの共同最適化されたエージェント、すなわちクエリプランナー、エビデンスフィルタ、感情生成器から構成される。
論文 参考訳（メタデータ） (2026-04-14T13:49:19Z) - Every Response Counts: Quantifying Uncertainty of LLM-based Multi-Agent Systems through Tensor Decomposition [10.210978141489003]
大規模言語モデルに基づくマルチエージェントシステム(MAS)は、複雑なタスクにおいて単一エージェントシステムよりも一貫して優れている。
既存の不確実性量子化法は、MASの特異な複雑さに対処できない。
テンソル分解による不確かさを定量化する新しいフレームワークMATUを紹介する。
論文 参考訳（メタデータ） (2026-04-09T19:01:50Z) - COMPASS: The explainable agentic framework for Sovereignty, Sustainability, Compliance, and Ethics [0.0]
本稿では,値整合型AIを実現するために設計された,新しいマルチエージェントオーケストレーションシステムを提案する。
このフレームワークは、オーケストレータと、主権、カーボン・アウェア・コンピューティング、コンプライアンス、倫理に対処する4つの専門のサブエージェントで構成されている。
LLM-as-a-judge法を用いることで、定量的スコアを割り当て、各評価次元について説明可能な正当化を生成する。
論文 参考訳（メタデータ） (2026-03-11T20:14:35Z) - The Emergence of Lab-Driven Alignment Signatures: A Psychometric Framework for Auditing Latent Bias and Compounding Risk in Generative AI [0.0]
本稿では,不確実性の下での潜在特性推定を定量化する新しい監査フレームワークを提案する。
この研究は最適化バイアス、Sycophancy、Status-Quo Legitimizationを含む9つの次元にわたる主要なモデルを監査している。
論文 参考訳（メタデータ） (2026-02-19T06:56:01Z) - Agentic Uncertainty Quantification [76.94013626702183]
本稿では,言語化された不確実性をアクティブな双方向制御信号に変換する統合されたデュアルプロセスエージェントUQ(AUQ)フレームワークを提案する。
システム1(Uncertainty-Aware Memory, UAM)とシステム2(Uncertainty-Aware Reflection, UAR)は、これらの説明を合理的な手段として利用し、必要な時にのみターゲットの推論時間解決をトリガーする。
論文 参考訳（メタデータ） (2026-01-22T07:16:26Z) - Where Did It All Go Wrong? A Hierarchical Look into Multi-Agent Error Attribution [0.7226144684379191]
本稿では,階層的文脈表現,客観分析に基づく評価,コンセンサス投票を組み合わせた新しいアルゴリズムECHOを提案する。
実験の結果,ECHOは様々なマルチエージェントインタラクションシナリオにおいて既存手法よりも優れていた。
論文 参考訳（メタデータ） (2025-10-06T15:07:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。