論文の概要: Share the Symbol, Not the Vector: Training-Free Fact Communication Across Language Models

• arxiv url: http://arxiv.org/abs/2610.19696v1
• Date: Wed, 14 Oct 2026 07:19:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:16.001057
• Title: Share the Symbol, Not the Vector: Training-Free Fact Communication Across Language Models
• Title（参考訳）: シンボルを共有する,ベクトルではない - 言語モデル間のトレーニング不要なファクトコミュニケーション
• Abstract要約: SynC(Symbol-Indexed Neural Communication)は、微調整や学習用トランスレータなしで異種モデルを接続する。 説明だけで見ることができるので、送信者は共有リストから単語を選択し、質問を見ることなく各オブジェクトに対してインデックスを送信する。 本研究は,共有語指標とレシーバローカルな指示が,モデルファミリ間の選択的事実利用を,追加の訓練を伴わずに支援できることを示す。
• 参考スコア（独自算出の注目度）: 54.6861338458609
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-agent systems allow language models to solve tasks collaboratively by sharing complementary information. These systems typically communicate through text, while recent approaches also explore exchanging internal model states. However, sharing these states across architectures often requires learned translators or assumptions about model compatibility. We introduce SYNC (Symbol-Indexed Neural Communication), a word-indexed interface that connects heterogeneous models without fine-tuning or a learned translator. From descriptions only it can see, the sender selects words from a shared list and sends their indices for each object, without seeing the questions. The receiver writes the described facts into its hidden states using its own word directions, vectors fitted once from its activations. We test selective use by swapping one attribute between two objects and requiring correct answers about both changed and unchanged attributes before and after the swap, four answers in total. We choose an early write layer on four development receivers and then fix it. With three different senders and nine newer receivers from five families, four-answer success on new scenes reaches 72.0-98.3%, up to 96 percentage points above middle-layer writing, and the two largest receivers match plain text. A task-free probe predicted in advance which depths each new receiver can use (45 of 45 cases). Without retuning, messages listing every fact keep 89.6-100% success under new layouts, and sender messages reach 23.9-64.0% on a landmark task with multi-token symbols, below text but from 0% without a message. These results show that shared word indices and receiver-local directions can support selective fact use across model families without additional training.
• Abstract（参考訳）: マルチエージェントシステムは、補完的な情報を共有することで、言語モデルによるタスクの協調的な解決を可能にする。 これらのシステムは通常テキストを介して通信するが、最近のアプローチでは内部モデル状態の交換も検討されている。 しかしながら、これらの状態をアーキテクチャ間で共有するには、しばしばモデル互換性に関する学習した翻訳者や仮定を必要とする。 そこで,SynC (Symbol-Indexed Neural Communication) は,微調整や学習用トランスレータを使わずに異種モデルを接続するワードインデクシングインタフェースである。 説明だけで見ることができるので、送信者は共有リストから単語を選択し、質問を見ることなく各オブジェクトに対してインデックスを送信する。 受信機は、記述された事実を、そのアクティベーションから一度適合したベクトルである独自のワード方向を使って、その隠された状態に書き込む。 2つのオブジェクト間で1つの属性をスワップし、スワップ前後に変更された属性と変更されていない属性の両方について正しい回答を要求することで、選択的な利用をテストする。 4つの開発レシーバーのアーリーライト層を選択し、それを修正します。 3つの異なる送信機と9つの新しい受信機により、新しいシーンでの4つの回答が72.0-98.3%に達し、中間層書き込みの96ポイントまで上昇し、2つの大きな受信機は平文と一致している。 各受信機が使用可能なタスクフリープローブを事前に予測する(45例中45例)。 再調整なしでは、全ての事実をリストアップするメッセージは新しいレイアウトの下で89.6-100%の成功を維持し、送信側メッセージは、テキスト以下のマルチトークンシンボルを持つランドマークタスクで23.9-64.0%に達する。 これらの結果から,共有単語指標と受信者局所方向がモデル家族間の選択的事実利用を支援することができることがわかった。

関連論文リスト

• Draft-KV: Learning Useful Latent Communication Between Language Models [37.232258163056414]
  通信は、復号されたテキストではなく、言語モデル間の内部状態を渡す。 Qwen3-8Bシェアリングでは、冷凍されたQwen2.5-0.5Bインストラクト受信機はMMLU-Reduxで78.04%、37.45%が単独で36.40%が再割り当てメッセージである。
  論文  参考訳（メタデータ） (2026-09-28T09:42:01Z)
• Despite Instructions: Frontier Agents Improvise Covert Channels at Test Time [64.61749234961134]
  セキュリティに敏感なアプリケーションでは、言語モデルエージェントは機密情報を開示することなく調整する必要があることが多い。 送信者が4つの秘密状態のうちの1つを観測し、同一の公開レポートの4つの要約のうちの1つを選択する。 モデルペアは、受信機が正しく推測したかどうかを示す1ビットのフィードバックのみを使用して、秘密を伝えることができる。
  論文  参考訳（メタデータ） (2026-09-26T15:06:44Z)
• Semantic Overlays: Mitigating Prompt Injection with Annotations Beyond Tokens and Steering Vectors [0.0]
  インジェクション攻撃から言語モデルを保護する方法を示す。 モデルを保護するためにセマンティックオーバーレイと呼ばれるテクニックを使用します。 スパンを"実行不可能"とマークしたオーバーレイは、幅広いプロンプトインジェクションのクラスに対して防御する。
  論文  参考訳（メタデータ） (2026-08-24T22:26:58Z)
• StateBridge: Training-free Hidden-state Alignment for Latent Communication in LLM Multi-Agent Systems [35.74603358195608]
  本稿では,送信者の隠れ状態と受信者の入力空間をクローズドフォーム変換により整列する訓練不要の潜時通信手法を提案する。 StateBridgeは26組のモデル・タスク・ペアのうち22組でベストまたはタイト・ベストのスコアを獲得している。
  論文  参考訳（メタデータ） (2026-08-13T14:40:59Z)
• Good Agentic Friends Do Not Just Give Verbal Advice: They Can Update Your Weights [58.27172968382275]
  マルチエージェントLLMシステムは、通常自然言語メッセージを交換することで協調する。 送信者のメッセージを受信者のコンテキストに付加する代わりに、送信者の隠された状態を過渡的で受信者固有の重み摂動にコンパイルする。
  論文  参考訳（メタデータ） (2026-05-13T17:58:32Z)
• GPT4RoI: Instruction Tuning Large Language Model on Region-of-Interest [51.68383826362895]
  本稿では,空間的命令チューニングを提案し,その命令における関心領域(RoI)を参照することを提案する。 我々のモデルであるGPT4RoIは、7つのリージョンテキストペアデータセットに基づいて訓練されており、前例のない対話的かつ対話的な体験をもたらす。
  論文  参考訳（メタデータ） (2023-07-07T13:43:44Z)
• LTIatCMU at SemEval-2020 Task 11: Incorporating Multi-Level Features for Multi-Granular Propaganda Span Identification [70.1903083747775]
  本稿では,新聞記事におけるプロパガンダ・スパン識別の課題について述べる。 本稿では,BERT-BiLSTMに基づくプロパガンダ分類モデルを提案する。
  論文  参考訳（メタデータ） (2020-08-11T16:14:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。