論文の概要: Reinforcement Learning of Communication in a Mesh of Small Language Models

• arxiv url: http://arxiv.org/abs/2609.30578v1
• Date: Thu, 24 Sep 2026 21:41:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.148165
• Title: Reinforcement Learning of Communication in a Mesh of Small Language Models
• Title（参考訳）: 小言語モデルのメッシュにおけるコミュニケーションの強化学習
• Abstract要約: 私たちは、小さな言語モデルエージェントの分散メッシュであるTalkMeshを紹介します。 各エージェントは提案をサンプリングし、訓練された信頼度ヘッドでスコア付けする。 最も自信のあるエージェントはヒントを放送し、エージェントは信頼のしきい値以下で修正し、各リビジョンは提案を上回ります。 ゴシップ・コンセンサス(Gossip consensus)は、コーディネーターを使わずに、自信によって重み付けられた票を近似する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Language models gain accuracy from more compute at test time, but majority voting over independent samples saturates: as samples grow, the vote converges to the model's most frequent answer. Communication can add what sampling cannot: an agent that solves a problem can pass the key step to the others. We present TalkMesh, a decentralized mesh of small language model agents that learns when and what to communicate. Each agent samples a proposal and scores it with a trained confidence head. The most confident agent broadcasts a hint; agents below a confidence threshold revise, keeping each revision that outscores its proposal. Gossip consensus approximates the vote weighted by confidence without a coordinator. A talk policy, trained with group relative policy optimization on the change in correctness after revision, writes hints and revisions. With three agents, which together generate at most six outputs, the mesh reaches the accuracy of majority voting over 32 samples with each of three models. Trained with at most 8 agents and evaluated with 32, it raises accuracy from 0.568 under self-consistency to 0.705 (Qwen3.5-0.8B, GSM8K) and from 0.492 to 0.722 (SmolLM3-3B, MATH-500). When 4 of 8 agents collude on a wrong answer with fabricated confidence and poisoned hints, majority vote accuracy falls to 0.000 (Qwen3.5-0.8B, GSM8K). A defended mesh, whose agents rescore solutions with their own confidence heads, retains 0.507. Across reasoning, embodied coordination, and traffic signal control, messages improve a decision when the acting agent cannot observe the information it requires and another agent can send it.
• Abstract（参考訳）: 言語モデルは、テスト時により多くの計算から正確性を得るが、独立したサンプルよりも多数投票が飽和する。 コミュニケーションは、サンプリングできないものを追加する: 問題を解決するエージェントは、重要なステップを他の人に渡すことができる。 TalkMeshは、小さな言語モデルエージェントの分散メッシュで、いつ、何と通信するかを学ぶ。 各エージェントは提案をサンプリングし、訓練された信頼度ヘッドでスコア付けする。 最も自信のあるエージェントはヒントを放送し、信頼のしきい値を下回るエージェントは修正を行い、それぞれの修正が提案を上回ります。 ゴシップ・コンセンサス(Gossip consensus)は、コーディネーターを使わずに、自信によって重み付けられた票を近似する。 修正後の正しさの変化について、グループ相対的な政策最適化で訓練されたトークポリシーは、ヒントとリビジョンを書いている。 3つのエージェントが組み合わさって少なくとも6つのアウトプットを生成することで、メッシュは3つのモデルそれぞれで32以上のサンプルを投票する多数決の精度に達する。 少なくとも8つのエージェントで訓練され、32で評価され、自己整合下で0.568から0.705(Qwen3.5-0.8B、GSM8K)、0.492から0.722(SmolLM3-3B、MATH-500)まで精度が上がる。 8人のエージェントのうち4人が偽の自信と毒のヒントで間違った答えで衝突した場合、過半数の投票精度は0.000(Qwen3.5-0.8B, GSM8K)に低下する。 防御されたメッシュは、エージェントが自身の自信でソリューションを再スコアし、0.507を維持している。 メッセージは、推論、具体化調整、交通信号制御全体にわたって、アクションエージェントが必要な情報を監視できず、他のエージェントがそれを送信できない場合、意思決定を改善する。

関連論文リスト

• Cybersecurity Detection Classification with Reasoning-enabled Language Models [50.72675435043546]
  セキュリティオペレーションセンター(SOC)の大きな問題は、警告疲労である。 以前の作業では、大きな言語モデル(LLM)がトリアージラベルを直接出力するように促すか、あるいは微調整するが、検出が真の脅威であるかどうかを判断するよう訓練することはない。 我々は、実際の人間ラベルのWindowsエンドポイント検出に対して、推論可能なトリアージ分類器(CoT)を訓練する。
  論文  参考訳（メタデータ） (2026-07-30T16:22:13Z)
• DarkForest: Less Talk, Higher Accuracy for Multi-Agent LLMs [8.797488068424181]
  我々はダークフォレストという制御通信協調フレームワークを提案する。 DarkForestはエージェントを独立に保持するため、各エージェントは他のエージェントの出力を見ることなく回答を生成する。 実験によると、DarkForestは全体的な品質をリードし、ベンチマーク指標で最強のベースラインを最大30.7%改善し、通信量の多いベースラインと比較してトークンの消費を最大6.5倍削減している。
  論文  参考訳（メタデータ） (2026-05-24T17:34:27Z)
• MARGIN: Runtime Confidence Calibration for Multi-Agent Foundation Model Coordination [0.0]
  本稿では,MARGIN(Multi-Agent Grading via Incremental Normalisation)を提案する。 18の基盤モデル、8のベンチマーク、44,000以上の観測結果から、MARGINは分布シフト時の最良の設計時ベースラインよりも3-6倍低いキャリブレーション誤差を達成している。
  論文  参考訳（メタデータ） (2026-05-21T18:25:05Z)
• EnactToM: An Evolving Benchmark for Functional Theory of Mind in Embodied Agents [75.01735520608075]
  既存のベンチマークは、直観的信念を問うことで、主にリテラル・オブ・マインド(ToM)をテストする。 EnactToMは, 3D 家庭で設定された300個のマルチエージェントタスクの進化ベンチマークである。 ハードスプリットでは、7つの評価されたフロンティアモデルすべてが機能的なタスク完了時に0.0%のPass3を獲得し、リテラルな信念プローブでは平均45.0%であった。
  論文  参考訳（メタデータ） (2026-05-11T00:04:19Z)
• Towards a Science of Scaling Agent Systems [79.64446272302287]
  エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。 協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。 ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
  論文  参考訳（メタデータ） (2025-12-09T06:52:21Z)
• Internalizing Self-Consistency in Language Models: Multi-Agent Consensus Alignment [22.305033366660187]
  言語モデル(LM)は矛盾する推論子であり、しばしば同じプロンプトに対する矛盾した応答を生成する。 適切に整合した推論モデルの本質的な性質として自己整合性を定式化し、MACA(Multi-Agent Consensus Alignment)を導入する。 MACAは、エージェントが自分自身をより決定的かつ簡潔に教えることを可能にし、外部の監督なしにマルチエージェント設定におけるピアインサイトをより活用する。
  論文  参考訳（メタデータ） (2025-09-18T17:27:28Z)
• Linguistic Fuzzy Information Evolution with Random Leader Election Mechanism for Decision-Making Systems [58.67035332062508]
  言語ファジィ情報進化はエージェント間の情報交換を理解する上で重要である。 エージェントの重みの違いは、古典的なDeGrootモデルにおいて異なる収束結果をもたらす可能性がある。 本稿では,言語ファジィ情報力学の新しい3つのモデルを提案する。
  論文  参考訳（メタデータ） (2024-10-19T18:15:24Z)
• DebUnc: Improving Large Language Model Agent Communication With Uncertainty Metrics [52.242449026151846]
  大規模言語モデル(LLM)の精度向上のためのマルチエージェント論争が紹介されている。 エージェントの信頼性を評価するために不確実性指標を用いた議論フレームワークであるDebUncを提案する。
  論文  参考訳（メタデータ） (2024-07-08T22:15:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。