論文の概要: Resilient Consensus in Agentic AI

• arxiv url: http://arxiv.org/abs/2606.15024v1
• Date: Fri, 12 Jun 2026 23:41:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 16:21:32.654087
• Title: Resilient Consensus in Agentic AI
• Title（参考訳）: エージェントAIにおけるレジリエント・コンセンサス
• Authors: Sribalaji C. Anand, George J. Pappas,
• Abstract要約: 大規模言語モデル(LLM)エージェントは、共有された決定を調整し、合意する必要があるマルチエージェントシステムにますますデプロイされる。 決定論的エージェントのために開発された古典的レジリエンス・コンセンサス理論が、逆向きに振る舞う可能性のあるLSMエージェントに遷移するかどうかを問う。
• 参考スコア（独自算出の注目度）: 22.283866173947278
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language model (LLM) agents are increasingly deployed in multi-agent systems where they must coordinate and agree on shared decisions. We ask whether classical resilient consensus theory, developed for deterministic agents, transfers to LLM agents that may behave adversarially. Framing LLM agreement as a Byzantine consensus game, we run controlled experiments on complete and general communication graphs. We find that prompted LLM agents fail to reach agreement that is achievable in principle: consensus can fail even in settings where classical theory guarantees that a convergent algorithm exists, and this failure persists across temperatures and horizons. At the same time, wrapping the agents with classical resilient consensus filters improves agreement. The benefit of filtering depends on how much robustness the underlying topology already provides. Our results suggest that classical resilient consensus theory is a useful lens for the safety of agentic AI.
• Abstract（参考訳）: 大規模言語モデル(LLM)エージェントは、共有された決定を調整し、合意する必要があるマルチエージェントシステムにますますデプロイされる。 決定論的エージェントのために開発された古典的レジリエンス・コンセンサス理論が、逆向きに振る舞う可能性のあるLSMエージェントに転送されるかどうかを問う。 ビザンチンのコンセンサスゲームとしてLLM契約を破り、完全および汎用的な通信グラフ上で制御された実験を行う。 古典理論が収束アルゴリズムが存在することを保証している設定でも、コンセンサスは失敗し、この失敗は温度と地平線を越えて持続する。 同時に、エージェントを古典的なレジリエントなコンセンサスフィルタでラップすることで、コンセンサスが改善される。 フィルタリングの利点は、基礎となるトポロジがもたらすロバスト性に依存する。 この結果から,古典的レジリエンス・コンセンサス理論はエージェントAIの安全性に有用なレンズであることが示唆された。

関連論文リスト

• Robust Multi-Agent LLMs under Byzantine Faults [12.778788735297288]
  大規模言語モデル(LLM)エージェントは、信頼性を向上させるためにピアツーピアネットワークを介して協力する傾向にある。 信頼性の低いエージェントやビザンティンのエージェントは、近隣のエージェントを誤った結論へと誘導し、システム全体の性能を低下させる可能性がある。 既存の手法は、リーダーベースの調整や自己報告された信頼に依存しており、どちらも敵の操作に影響を受けやすい。
  論文  参考訳（メタデータ） (2026-05-09T17:37:43Z)
• Position: agentic AI orchestration should be Bayes-consistent [92.04373485710285]
  本稿では,エージェントシステムのオーケストレーションレベルにおいて,一貫性のある意思決定にはベイズ原理が必要であることを論じる。 信念とユーティリティ対応ポリシーがエージェントAIオーケストレーションをどのように改善するかを説明するための例とデザインパターンを提供する。
  論文  参考訳（メタデータ） (2026-05-01T15:43:43Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• Can AI Agents Agree? [32.75269650141292]
  大規模言語モデルは、協調エージェントとしてますます展開されているが、敵のコンセンサス設定におけるそれらの振る舞いは研究されていない。 シンクロ・オール・ツー・オール・シミュレーションを用いて,ビザンチンのコンセンサスゲーム上でのLSMに基づくエージェントをスカラー値で評価する。 グループのサイズが大きくなるにつれて、良質な設定や劣化があっても、有効な合意が信頼できないことが分かりました。
  論文  参考訳（メタデータ） (2026-03-01T18:18:59Z)
• The Seeds of Scheming: Weakness of Will in the Building Blocks of Agentic Systems [0.0]
  大規模な言語モデルは、独特な形の矛盾を示す: 彼らは正しい答えを「知る」が、それに対して行動しない。 人間の哲学では、世界的判断と地域的衝動の間のこの緊張関係を「ウクライナ」または「意志の弱さ」と呼ぶ。 本稿では,エージェントAIシステムにおける不整合とゴールドリフトを分析するための基礎概念として,ウクライナを提案する。
  論文  参考訳（メタデータ） (2025-12-05T05:57:40Z)
• Maestro: Learning to Collaborate via Conditional Listwise Policy Optimization for Multi-Agent LLMs [23.590034731179824]
  我々は、認知モードを構造的に分離するコラボレーションのための原則的パラダイムである、ロールオーケストレーション(Maestro)を提示する。 Maestroは多様な探索のために並列実行エージェントの集合を使用し、収束的で評価的な合成のために特別中央エージェントを使用する。 数学的推論と一般的な問題解決ベンチマークの実験により、マエストロとCLPOは、既存の最先端のマルチエージェントアプローチを一貫して上回っていることが示された。
  論文  参考訳（メタデータ） (2025-11-08T21:01:27Z)
• Do LLMs trust AI regulation? Emerging behaviour of game-theoretic LLM agents [61.132523071109354]
  本稿では、異なる規制シナリオ下での戦略選択をモデル化する、AI開発者、規制当局、ユーザ間の相互作用について検討する。 我々の研究は、純粋なゲーム理論エージェントよりも「悲観的」な姿勢を採用する傾向にある戦略的AIエージェントの出現する振る舞いを特定する。
  論文  参考訳（メタデータ） (2025-04-11T15:41:21Z)
• Byzantine-Resilient Over-the-Air Federated Learning under Zero-Trust Architecture [68.83934802584899]
  我々は,セキュアな適応クラスタリング(FedSAC)を用いたフェデレーション学習(Federated Learning)と呼ばれる,無線通信のための新しいビザンチン・ロバストFLパラダイムを提案する。 FedSACは、デバイスの一部をゼロ信頼アーキテクチャ(ZTA)ベースのビザンティン識別と適応デバイスクラスタリングによる攻撃から保護することを目的としている。 実験精度と収束率の両面から,提案手法よりもFedSACの方が優れていることを示す。
  論文  参考訳（メタデータ） (2025-03-24T01:56:30Z)
• When Disagreements Elicit Robustness: Investigating Self-Repair Capabilities under LLM Multi-Agent Disagreements [56.29265568399648]
  我々は、不一致が早期のコンセンサスを防ぎ、探索されたソリューション空間を拡張することを主張する。 タスククリティカルなステップの相違は、ソリューションパスのトポロジによってコラボレーションを損なう可能性がある。
  論文  参考訳（メタデータ） (2025-02-21T02:24:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。