論文の概要: StateBridge: Training-free Hidden-state Alignment for Latent Communication in LLM Multi-Agent Systems

• arxiv url: http://arxiv.org/abs/2608.13317v1
• Date: Thu, 13 Aug 2026 14:40:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-14 18:29:38.56169
• Title: StateBridge: Training-free Hidden-state Alignment for Latent Communication in LLM Multi-Agent Systems
• Title（参考訳）: StateBridge: LLMマルチエージェントシステムにおける遅延通信のためのトレーニング不要な隠れ状態アライメント
• Abstract要約: 本稿では,送信者の隠れ状態と受信者の入力空間をクローズドフォーム変換により整列する訓練不要の潜時通信手法を提案する。 StateBridgeは26組のモデル・タスク・ペアのうち22組でベストまたはタイト・ベストのスコアを獲得している。
• 参考スコア（独自算出の注目度）: 35.74603358195608
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language model based multi-agent systems usually communicate in text, i.e., using discrete tokens. However, text introduces a discrete bottleneck. Converting the sender's continuous hidden states into discrete tokens discards information that token identities alone cannot capture. Recent work proposes latent communication as an alternative, where agents transmit hidden representations directly without converting them to text. However, existing latent methods either inject working memory layer by layer across the transformers, or require trained projectors that limit portability. We propose StateBridge, a training-free latent communication approach that aligns the sender's final-layer hidden states to the receiver's input space via a closed-form orthogonal transformation. Lightweight norm calibration and vocabulary anchoring ensure compatibility with the pretrained input distribution. The aligned states are prepended to the input of the receiver agent as a continuous prefix. We evaluate StateBridge on math reasoning, code generation, and question answering with four models from two families. StateBridge achieves the best or tied-best score on 22 out of 26 model-task pairs, consistently outperforming the strongest baseline.
• Abstract（参考訳）: 大規模言語モデルに基づくマルチエージェントシステムは通常、テキストで通信する。 しかし、テキストは離散的なボトルネックをもたらす。 送信者の連続した隠された状態を離散トークンに変換することで、トークンIDだけでは取得できない情報を破棄する。 最近の研究は、エージェントがテキストに変換せずに直接隠された表現を送信する、潜在的コミュニケーションを代替手段として提案している。 しかし、既存の潜在メソッドは、トランスフォーマーをまたいだレイヤごとにワーキングメモリ層を注入するか、移植性を制限する訓練されたプロジェクタを必要とする。 我々は,送信者の最終層に隠された状態と受信者の入力空間とを,クローズドフォームの直交変換により整列する,トレーニング不要の潜時通信手法であるStateBridgeを提案する。 軽量ノルムキャリブレーションと語彙アンカーにより、事前訓練された入力分布との互換性が保証される。 整列状態は、受信エージェントの入力に連続プレフィックスとして前置される。 数理推論,コード生成,質問応答のStateBridgeを2つの家系の4つのモデルで評価した。 StateBridgeは26組のモデル・タスク・ペアのうち22組でベストまたはタイト・ベストのスコアを獲得し、一貫して最強のベースラインを上回っている。

関連論文リスト

• Legible-by-Construction: Attention and End-to-End Transformers [0.2663471820643486]
  トランスのフィードフォワード層は明示的なファジィ集合演算から再構築することができる。 隠れたユニットは言語モデルの品質を犠牲にすることなく、名前付き論理演算子として読み上げられた。 125Mパラメータの5つの特別なアテンション設計において、44から62%の値チャネルが正当性を持つ。
  論文  参考訳（メタデータ） (2026-07-05T14:08:59Z)
• Beyond tokens: a unified framework for latent communication in LLM-based multi-agent systems [0.65268245109828]
  大規模言語モデル(LLM)上に構築されたマルチエージェントシステムは、複雑な推論、計画、ツール使用タスクに対処するための主要なパラダイムとなっている。 このようなシステムにおける主要な通信プロトコルは自然言語である: エージェントはメッセージのトークン・バイ・トークンを交換し、同僚が読み、検証し、応答できるように内部の推論を口述する。 エージェントは、テキスト生成のボトルネックを回避して、連続的な表現を直接交換する。 本稿では,潜時コミュニケーションの急速な発展をめざした文献を整理するための統一的な枠組みを提案する。
  論文  参考訳（メタデータ） (2026-06-04T05:10:20Z)
• The Path Matters: Learning a Token-Commitment Policy for Diffusion Language Models [52.93186090124315]
  トークンのコミットメントは、再利用可能なトレースステートポリシとして学ぶことができる、と私たちは主張する。 凍結拡散言語モデルのためにこのポリシーをインスタンス化する軽量プラグインコントローラであるTraceLockを紹介する。
  論文  参考訳（メタデータ） (2026-05-23T18:23:46Z)
• Good Agentic Friends Do Not Just Give Verbal Advice: They Can Update Your Weights [58.27172968382275]
  マルチエージェントLLMシステムは、通常自然言語メッセージを交換することで協調する。 送信者のメッセージを受信者のコンテキストに付加する代わりに、送信者の隠された状態を過渡的で受信者固有の重み摂動にコンパイルする。
  論文  参考訳（メタデータ） (2026-05-13T17:58:32Z)
• Bridging Hidden States in Vision-Language Models [0.0]
  VLM(Vision-Language Models)は、画像コンテンツと自然言語を結びつける新しいモデルのファミリーである。 両エンコーダの上部付近に配置された,クロスオンリーで双方向の注意層を複数配置した軽量核融合モジュールを提案する。 エンコーダは非因果的であり、理解するために強く、生成はオプションのデコーダを介してクリーンに分離される。
  論文  参考訳（メタデータ） (2025-11-14T17:55:25Z)
• Direct Semantic Communication Between Large Language Models via Vector Translation [3.81908263930559]
  大規模言語モデル(LLM)は、メッセージをプレーントークンとして渡すことで、最も遅延したセマンティクスを破棄する。 我々は、直接意味交換を可能にする学習されたマッピングを用いて、ベクトル変換を介して潜時ブリッジを形成する。
  論文  参考訳（メタデータ） (2025-11-06T00:43:29Z)
• Augmenting Multi-Agent Communication with State Delta Trajectory [44.68954502805962]
  本稿では,自然言語トークンとトークン単位の状態遷移の両方をエージェントから別のエージェントに転送する新しい通信プロトコルを提案する。 それぞれのトークンを生成した後のLSMの状態変化のシーケンスは、推論プロセスの裏側に隠された情報をよりよく反映できることがわかった。 実験の結果,SDEを用いたマルチエージェントシステムでは,他の通信プロトコルと比較してSOTAの性能が向上していることがわかった。
  論文  参考訳（メタデータ） (2025-06-24T00:38:25Z)
• Parallel Decoding via Hidden Transfer for Lossless Large Language Model Acceleration [54.897493351694195]
  本稿では,複数連続するトークンを1つのフォワードパスで同時に復号する,新しい並列復号法,すなわちthithidden Transferを提案する。 加速度測定では,Medusa や Self-Speculative decoding など,単モデル加速技術よりも優れています。
  論文  参考訳（メタデータ） (2024-04-18T09:17:06Z)
• Self-supervised Learning with Random-projection Quantizer for Speech Recognition [51.24368930992091]
  音声認識のためのシンプルで効果的な自己教師型学習手法を提案する。 このアプローチは、離散ラベルの形で、マスキングされた音声信号を予測するモデルを学ぶ。 非ストリーミングモデルを用いた自己教師付き学習を用いて、従来の作業と同じような単語エラー率を達成する。
  論文  参考訳（メタデータ） (2022-02-03T21:29:04Z)
• Unsupervised Paraphrasing with Pretrained Language Models [85.03373221588707]
  教師なし環境で,事前学習した言語モデルを用いて高品質なパラフレーズを生成する訓練パイプラインを提案する。 提案手法は,タスク適応,自己スーパービジョン,動的ブロッキング(Dynamic Blocking)という新しい復号アルゴリズムから構成される。 提案手法は,Quora Question PairとParaNMTの両方のデータセット上で,最先端の性能を達成できることを示す。
  論文  参考訳（メタデータ） (2020-10-24T11:55:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。