論文の概要: LatBridge: Efficient and Stable Model Replacement in Latent-Communication Multi-Agent Systems
- arxiv url: http://arxiv.org/abs/2610.27813v1
- Date: Tue, 20 Oct 2026 08:06:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.713246
- Title: LatBridge: Efficient and Stable Model Replacement in Latent-Communication Multi-Agent Systems
- Title(参考訳): LatBridge: 潜在通信マルチエージェントシステムにおける効率的かつ安定なモデル置換
- Abstract要約: マルチエージェントシステムはタスクの完了に通信に依存し、遅延通信はテキスト生成と再エンコーディングを減らすために連続表現をパスする。
LatBridgeは、共有ブリッジを介してエージェントモデルを接続し、共有潜在通信プロトコルの下でインターフェイスを分離する。
実験はモデル置換後の効果的なコミュニケーションをサポートし、MATHは14.8%、ALFWorldは27.3%である。
- 参考スコア(独自算出の注目度): 38.69841221125052
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-agent systems rely on communication to complete tasks, and latent communication passes continuous representations to reduce text generation and re-encoding. However, multi-agent systems must reconfigure agent models, whereas existing latent-communication methods are built for fixed model combinations, so their interfaces may fail after replacement. Our pilot study confirms this interface failure and identifies the requirement for interface reuse after model replacement. We present LatBridge, which connects agent models through a shared Bridge and separate interfaces under a shared latent-communication protocol. After agent model replacement, LatBridge reuses unchanged interfaces, selects matching low-rank interfaces, and combines them through the Bridge, training only missing ones with all models frozen. The Bridge processes source representations in the basic mode and constructs target input without autoregressive generation in the accelerated mode. Experiments support effective communication after model replacement, with mean basic-mode accuracies of 14.8% on MATH and 27.3% on ALFWorld next-action prediction across eight small-model configurations. Analyses examine the factors supporting task accuracy and communication efficiency.
- Abstract(参考訳): マルチエージェントシステムはタスクの完了に通信に依存し、遅延通信はテキスト生成と再エンコーディングを減らすために連続表現をパスする。
しかし、マルチエージェントシステムはエージェントモデルを再構成する必要があるが、既存の潜在通信方式は固定モデルの組み合わせのために構築されているため、置換後にインターフェースがフェールする可能性がある。
本試験では, このインタフェースの故障を確認し, モデル置換後のインタフェース再利用の必要性を同定する。
本稿では,共有ブリッジを介してエージェントモデルを接続するLatBridgeについて述べる。
エージェントモデル置換の後、LatBridgeは変更のないインターフェースを再利用し、マッチするローランクインターフェースを選択し、ブリッジを通じてそれらを組み合わせ、不足しているインターフェースのみを凍結したモデルでトレーニングする。
Bridgeはソース表現を基本モードで処理し、アクセラレーションモードでは自動回帰生成なしでターゲット入力を構築する。
実験は、モデル置換後の効果的なコミュニケーションをサポートし、平均的な基本モードの精度はMATHで14.8%、ALFWorldの次のアクション予測で27.3%である。
タスクの正確さとコミュニケーション効率を支える要因について分析する。
関連論文リスト
- Think Before You Speak: Enabling Training-Free Latent Communication Between Language Models [0.6091702876917281]
CacheFuseは、上流モデルのKVキャッシュで下流モデルを拡張するためのトレーニング不要のメソッドである。
単一モデルベースラインと比較して最大8.6ポイントの精度を示し,マルチモデル推論におけるテキストベース通信に比べて最大12.2倍のTTFT高速化を示した。
論文 参考訳(メタデータ) (2026-10-12T04:40:48Z) - SuperAI: Merging Capabilities Across Heterogeneous Foundation Models [54.535999022059706]
SuperAIは、複数のソースモデルからの補完機能をホストモデルに統合する、クロスアーキテクチャなマルチモデル融合フレームワークである。
15個の機能ドメインにわたる3つのホストモデルの実験により、SuperAIは評価されたクロスアーキテクチャ融合法よりも平均的なドメインスコアを達成することが示された。
論文 参考訳(メタデータ) (2026-10-11T03:51:47Z) - Distributed Subliminal Learning: Replacing Model Updates with Random-Carrier Outputs [8.625976018987965]
協調学習は通常モデルパラメータを交換するが、独立に適応した基礎モデルはアダプタやチェックポイントを交換することによって結合される。
分散サブリミナル学習(NIST)は,共通モデルを局所的に適応させ,タスク非関連入力で探索し,結果のキャリア出力のみを送信する,協調学習プリミティブである。
論文 参考訳(メタデータ) (2026-10-04T17:07:59Z) - BACAM: Behavior-Aware Continual Agent Merging for Multi-Turn Interaction [58.08711759956845]
本研究では,従来の統合された専門家を維持しない連続的なエージェント統合について検討する。
本稿では,パラメータ的にゲートを結合する行動認識型連続エージェント・マージ(BACAM)を提案する。
4つのインタラクティブなタスクの中で、BACAMは平均成功率62.82%に達し、最も評価の高いマージベースラインを21.69ポイント上回っている。
論文 参考訳(メタデータ) (2026-10-04T05:26:08Z) - MAIL++: Multi-Modal Bi-directional Agent Layer for Vision-Language Models [25.637441137217696]
Multi-Modal Interactive Agent Layerは、視覚言語モデルの本質的な計算モジュールに直接クロスモーダル結合を埋め込む。
MAILとMAIL++は一貫して最先端のPEFTメソッドを上回っている。
論文 参考訳(メタデータ) (2026-05-25T06:35:33Z) - ChipMATE: Multi-Agent Training via Reinforcement Learning for Enhanced RTL Generation [55.947962672433675]
ChipMATEは、RTL生成のための最初の自己学習型マルチエージェントフレームワークである。
ChipMATEは産業的な実践に触発され、VerilogエージェントとPythonのリファレンスモデルエージェントをペアにし、相互に出力を検証する。
ChipMATEは、VerilogEval V2で75.0%と80.1%パス@1を4Bと9Bベースモデルで達成している。
論文 参考訳(メタデータ) (2026-05-13T01:04:21Z) - FarSkip-Collective: Unhobbling Blocking Communication in Mixture of Experts Models [17.64873155970997]
本稿では,FarSkip-Collectiveを提案する。
我々は16Bから109Bパラメータに変化する一連の最先端モデルを完全に変換し、通信の重複を可能にする。
大規模な修正モデルの保持精度の証明に加えて,最適化実装によるFarSkip-Collectiveの利点も実現した。
論文 参考訳(メタデータ) (2025-11-14T17:25:14Z) - MASS: MoErging through Adaptive Subspace Selection [55.03293736484465]
モデルマージの新しいアプローチであるMASS(MoErging through Adaptive Subspace Selection)を提案する。
MASSはタスクごとに最も健全な特異なコンポーネントのみを格納し、それらを共有モデルにマージする。
我々は,8,14,20タスクのベンチマークに対して,ViT-B-16,ViT-B-32,ViT-L-14を用いて,CLIPに基づく画像分類のMASSを評価する。
論文 参考訳(メタデータ) (2025-04-06T08:49:52Z) - Adapted Multimodal BERT with Layer-wise Fusion for Sentiment Analysis [84.12658971655253]
本稿では,マルチモーダルタスクのためのBERTベースのアーキテクチャであるAdapted Multimodal BERTを提案する。
アダプタはタスクの事前訓練された言語モデルを手動で調整し、融合層はタスク固有の層ワイドな音声視覚情報とテキストBERT表現を融合させる。
われわれは、このアプローチがより効率的なモデルにつながり、微調整されたモデルよりも優れ、ノイズの入力に堅牢であることを示した。
論文 参考訳(メタデータ) (2022-12-01T17:31:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。