論文の概要: Runtime Uncertainty Monitoring for LLM-Based Multi-Agent Systems Using Bayesian Networks

• arxiv url: http://arxiv.org/abs/2607.25877v1
• Date: Tue, 28 Jul 2026 15:39:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-29 20:50:42.903061
• Title: Runtime Uncertainty Monitoring for LLM-Based Multi-Agent Systems Using Bayesian Networks
• Title（参考訳）: ベイジアンネットワークを用いたLCMに基づくマルチエージェントシステムの実行時不確実性モニタリング
• Abstract要約: 本稿では,マルチエージェントシステムがアクチュアリリスクモデリングをどのようにサポートするかを検討する。 主な貢献は、トークンレベルの対数確率とベイズネットワークを用いた不確実性伝播に対する新しいアプローチである。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper investigates how multi-agent systems (MAS)-based on large language models (LLMs) can support actuarial risk modelling, with a particular focus on uncertainty quantification. Actuarial workflows represent a high-stakes decision-support setting where unreliable outputs may lead to incorrect risk assessment, unfair pricing, and regulatory non-compliance. To address uncertainty introduced by the probabilistic nature of LLMs and dependencies between agents, a multi-agent framework is proposed in which specialised agents perform data preparation, modelling, review, and explanation tasks under a central hub. The main contribution is a novel approach to uncertainty propagation using token-level log-probabilities and a Bayesian Network. Importantly, log probabilities are not treated as direct probabilities of correctness or task success. Instead, length-normalised log-probability summaries are transformed into calibrated task-level confidence estimates before incorporation into the Bayesian Network. Results show that the framework reproduces baseline actuarial performance while providing additional insight into workflow stability and runtime uncertainty propagation.
• Abstract（参考訳）: 本稿では、大規模言語モデル(LLM)に基づくマルチエージェントシステム(MAS)が、不確実性定量化に特に焦点をあて、アクチュアリリスクモデリングをどのようにサポートするかを検討する。 アクチュアリアルワークフローは、信頼できないアウトプットが誤ったリスク評価、不公平な価格設定、規制の非コンプライアンスにつながる可能性のある、高い意思決定支援環境を表している。 LLMの確率的性質とエージェント間の依存関係によってもたらされる不確実性に対処するために、データ準備、モデリング、レビュー、説明タスクを中央ハブ下で行うマルチエージェントフレームワークを提案する。 主な貢献は、トークンレベルの対数確率とベイズネットワークを用いた不確実性伝播に対する新しいアプローチである。 重要なことは、ログ確率は、正確性やタスク成功の直接的な確率として扱われない。 代わりに、長さ正規化された対数確率の要約は、ベイズネットワークに組み込む前に、キャリブレーションされたタスクレベルの信頼度推定に変換される。 その結果,このフレームワークはワークフローの安定性と実行時の不確実性に関するさらなる知見を提供しながら,ベースラインのアクチュエータ性能を再現することがわかった。

関連論文リスト

• PropUQ-MAS: Propagation-Aware Uncertainty Quantification for LLM Multi-Agent Systems [8.348628811300268]
  PropUQ-MASはマルチエージェントシステムのためのエラー伝搬対応UQフレームワークである。 上流メッセージから受け継いだローカル不確実性と不確実性を組み合わせることで、各ステップの信頼性を推定する。 PropUQ-MASはMASのUQを継続的に改善し、平均相対利得はAUROCで+6.10%、PRRで+47.58%である。
  論文  参考訳（メタデータ） (2026-08-22T23:07:39Z)
• From Sequence to Structure: Relational Uncertainty Propagation for LLM Agents [75.69180947909148]
  大規模言語モデル(LLM)エージェントのためのトラジェクトリレベルのUQフレームワークを提案する。 RuPAは、推論状態、ツールインタラクション、環境フィードバックが時間的およびセマンティックな依存関係エッジで接続されたノードである、指向的なトラジェクトリグラフとして実行履歴を表現している。 我々は,複数のモデルファミリにまたがる6つのオープンソースLCMを用いて,代用エージェントベンチマーク($2, Terminal-Bench-2, GAIA)でRUPAを評価した。
  論文  参考訳（メタデータ） (2026-08-17T01:40:14Z)
• Reliable LLM-Based Edge-Cloud-Expert Cascades for Telecom Knowledge Systems [54.916243942641444]
  大規模言語モデル(LLM)は、通信などの分野において、自動化の鍵となる存在として浮上している。 本研究では,問合せパイプラインによる意思決定を支援する,エッジクラウドに精通したLLMベースの知識システムについて検討する。
  論文  参考訳（メタデータ） (2025-12-23T03:10:09Z)
• HIP-LLM: A Hierarchical Imprecise Probability Approach to Reliability Assessment of Large Language Models [10.864272918260754]
  大規模言語モデル(LLM)は、様々な領域にまたがって展開され、厳格な信頼性評価方法の必要性が高まっている。 本稿では,LLMの信頼性をモデル化・推定するための階層的不整合確率フレームワークであるHIP-LLMを紹介する。 複数のベンチマークデータセットの実験により、HIP-LLMは既存のベンチマークや最先端アプローチよりも正確で標準化された信頼性特性を提供することが示された。
  論文  参考訳（メタデータ） (2025-11-01T12:04:30Z)
• Can LLMs Detect Their Confabulations? Estimating Reliability in Uncertainty-Aware Language Models [24.72990207218907]
  LLM(Large Language Models)は、畳み込み(confabulation)として知られる、流動的だが不正なコンテンツを生成する傾向にある。 本研究では、文脈内情報がモデル行動にどのように影響するか、LLMが信頼できない応答を識別できるかを検討する。
  論文  参考訳（メタデータ） (2025-08-11T16:12:36Z)
• TokUR: Token-Level Uncertainty Estimation for Large Language Model Reasoning [27.449948943467163]
  token-level Uncertainty Estimation framework for Reasoning (TokUR)を提案する。 TokURは、大規模言語モデルにおいて、数学的推論における応答を自己評価し、自己改善することを可能にする。 様々な難易度を持つ数学的推論データセットの実験により、TokURは答えの正しさとモデルロバストネスと強い相関を示すことが示された。
  論文  参考訳（メタデータ） (2025-05-16T22:47:32Z)
• Cycles of Thought: Measuring LLM Confidence through Stable Explanations [53.15438489398938]
  大規模言語モデル(LLM)は、様々なベンチマークで人間レベルの精度に到達し、さらに超えることができるが、不正確な応答における過度な自信は、依然として十分に文書化された障害モードである。 本稿では,LLMの不確実性を測定するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-05T16:35:30Z)
• BIRD: A Trustworthy Bayesian Inference Framework for Large Language Models [52.46248487458641]
  予測モデルは、現実世界のタスクで不完全な情報を扱う必要があることが多い。 現在の大規模言語モデル(LLM)は正確な推定には不十分である。 本稿では,新しい確率的推論フレームワークBIRDを提案する。
  論文  参考訳（メタデータ） (2024-04-18T20:17:23Z)
• Do LLMs Play Dice? Exploring Probability Distribution Sampling in Large Language Models for Behavioral Simulation [73.58618024960968]
  人間のシーケンシャルな意思決定過程をエミュレートするエージェントとして、大きな言語モデル(LLM)を採用する研究が増えている。 このことは、確率分布を理解するためにLLMエージェントの容量に関する好奇心を喚起する。 分析の結果, LLM エージェントは確率を理解できるが, 確率サンプリングに苦慮していることがわかった。
  論文  参考訳（メタデータ） (2024-04-13T16:59:28Z)
• Decomposing Uncertainty for Large Language Models through Input Clarification Ensembling [69.83976050879318]
  大規模言語モデル(LLM)では、不確実性の原因を特定することが、信頼性、信頼性、解釈可能性を改善するための重要なステップである。 本稿では,LLMのための不確実性分解フレームワークについて述べる。 提案手法は,入力に対する一連の明確化を生成し,それらをLLMに入力し,対応する予測をアンサンブルする。
  論文  参考訳（メタデータ） (2023-11-15T05:58:35Z)
• Ensemble Quantile Networks: Uncertainty-Aware Reinforcement Learning with Applications in Autonomous Driving [1.6758573326215689]
  強化学習は、自律運転のための意思決定エージェントを作成するために使用できる。 これまでのアプローチではブラックボックスソリューションのみを提供しており、エージェントがその決定に対する自信について情報を提供していない。 本稿では,分布RLとアンサンブルアプローチを組み合わせて完全不確実性推定を行うEnsemble Quantile Networks (EQN)法を提案する。
  論文  参考訳（メタデータ） (2021-05-21T10:36:16Z)
• Approaching Neural Network Uncertainty Realism [53.308409014122816]
  自動運転車などの安全クリティカルなシステムには、定量化または少なくとも上限の不確実性が不可欠です。 マハラノビス距離に基づく統計的テストにより、厳しい品質基準である不確実性リアリズムを評価します。 自動車分野に採用し、プレーンエンコーダデコーダモデルと比較して、不確実性リアリズムを大幅に改善することを示した。
  論文  参考訳（メタデータ） (2021-01-08T11:56:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。