論文の概要: Prospective Interpretation Risk: Principled Communication Control Between LLMs

• arxiv url: http://arxiv.org/abs/2609.33885v1
• Date: Sun, 27 Sep 2026 19:59:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-04 15:54:54.192199
• Title: Prospective Interpretation Risk: Principled Communication Control Between LLMs
• Title（参考訳）: 先進的解釈リスク: LLM間の原則的コミュニケーション制御
• Abstract要約: 我々は、遅延受信型で送信者-受信者問題をモデル化する。 我々は、メッセージ、意図したタスク、受信者固有の再構築に関連するブラックボックスプローブを使用する。
• 参考スコア（独自算出の注目度）: 15.854088039933439
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language model (LLM) agentic systems increasingly rely on models communicating with one another, yet existing uncertainty and multi-agent methods rarely estimate how a particular receiver will interpret a message before it is sent. This matters in heterogeneous systems, where capable receivers can reconstruct different tasks from the same message. We model this as a sender-receiver problem with a latent receiver type and define prospective interpretation risk (PIR): the probability that a receiver reconstructs a task other than intended. Rather than model an LLM's full input-output behaviour, we use black-box probes relating messages, intended tasks, and receiver-specific reconstructions, yielding scalable supervision while separating interpretation from downstream capability failure. Offline, heterogeneous frozen receivers provide supervision for receiver-conditioned risk and the effects of predefined mutable message features. At deployment, history induces a posterior over receiver types, guiding message revision and selection. We introduce value of interpretation information (VoII), querying for receiver information only when its expected communication benefit exceeds its cost. Our theory characterises when receiver information has decision value and bounds such queries. Empirically, interpretation-failure rates vary by 4-13x across receivers. Receiver information reduces PIR calibration error by 68% relative to a receiver-agnostic predictor, largely by correcting receiver-specific risk levels. PIR-guided revision reduces interpretation failure by 44% relative to the original message and 40% relative to a generic rewrite, mostly through a repair that helps every receiver. VoII outperforms information-gain and random querying at matched cost on the interpretation objective it optimises, lowering interpretation failure from 3.84% to 3.79% while querying 18.2% of episodes.
• Abstract（参考訳）: 大規模言語モデル (LLM) エージェントシステムはますます互いに通信するモデルに依存している。 これは、有能な受信者が同じメッセージから異なるタスクを再構築できる異種システムにおいて重要である。 我々は,これを潜在受信者型による送受信者問題としてモデル化し,受信者が意図しないタスクを再構築する確率である予測解釈リスク(PIR)を定義する。 LLMの完全な入出力動作をモデル化するのではなく、メッセージ、意図されたタスク、レシーバ固有の再構築に関連するブラックボックスプローブを使用して、ダウンストリーム能力障害からの解釈を分離しながら、スケーラブルな監視を行う。 オフラインで不均一な冷凍受信機は、受信者の条件付きリスクと、事前に定義された可変メッセージ機能の影響を監督する。 展開時に、履歴は受信側のタイプに後続し、メッセージのリビジョンと選択を導く。 本稿では,受信者情報に対して,その通信利益がコストを超える場合にのみクエリを行う,解釈情報(VoII)の値を導入する。 我々の理論は、受信者が決定値を持ち、そのようなクエリをバウンドする場合を特徴付ける。 経験的には、解釈障害率は受信機間で4-13倍に変化する。 レシーバ情報は、主にレシーバ固有のリスクレベルを修正することで、レシーバに依存しない予測器と比較して、PIRの校正誤差を68%削減する。 PIR誘導リビジョンは、元のメッセージに対する解釈の失敗を44%減らし、ジェネリックリライトに対する40%削減する。 VoIIは情報ゲインとランダムクエリを最適に解釈する目的で比較したコストで上回り、解釈の失敗を3.84%から3.79%に減らし、18.2%のエピソードをクエリする。

関連論文リスト

• TI-StegoAlign: Channel-Guided Post-Training for Generative Text Steganography under Tokenization Inconsistency [20.336143930874993]
  LLMエージェントはタスク関連メッセージを通じて秘密情報を交換する。 ほとんどの方法は送信側トークンのリカバリを評価するが、受信側は表面テキストのみを観察する。 脱トークン化とレシーバ側再トークン化はトークン境界を変更し、コーディング状態をデ同期させ、そのような評価をレシーバ側リカバリを過大評価する。 本稿では,チャネル誘導後学習フレームワークTI-StegoAlignを提案する。
  論文  参考訳（メタデータ） (2026-08-01T01:45:50Z)
• Learning to Persuade Privately Informed Receivers [21.585615386843628]
  本稿では,情報発信者が戦略的情報開示を通じて受信者の行動にどのように影響を与えるかを検討する。 標準モデルは受信機が唯一の情報ソースであると仮定するが、多くのアプリケーションでは外部ソースも参照する。 我々の重要な洞察は、プライベートスキームによって引き起こされる指数関数的に大きな信念空間分割の問題を、1次元の変化点検出問題に還元することである。
  論文  参考訳（メタデータ） (2026-07-30T15:08:41Z)
• Semantic Leakage and Privacy Preservation in Relay-Assisted Semantic Communications [49.494000480610225]
  セマンティックコミュニケーション (Semantic Communication, SemCom) は, タスク関連情報の伝達を生データよりも優先する, 有望なパラダイムとして登場した。 本稿では,リレー支援型SemComシステムのプライバシに関する考察を行い,中間中継ノードは学習された潜在表現を直接操作する。 リレーの強い、適応的に訓練された盗聴器を明示的に説明する対向訓練フレームワークが提案されている。
  論文  参考訳（メタデータ） (2026-06-30T17:15:23Z)
• Good Agentic Friends Do Not Just Give Verbal Advice: They Can Update Your Weights [58.27172968382275]
  マルチエージェントLLMシステムは、通常自然言語メッセージを交換することで協調する。 送信者のメッセージを受信者のコンテキストに付加する代わりに、送信者の隠された状態を過渡的で受信者固有の重み摂動にコンパイルする。
  論文  参考訳（メタデータ） (2026-05-13T17:58:32Z)
• A Novel Framework for Transmitter Privacy in Integrated Sensing and Communication [30.11438480964021]
  意図しない検知ノードは、共有電波波形を利用して通信ペイロードが安全のままでも送信機関連情報を推測することができる。 本稿では、チャネル推定による送信者関連情報の不正な制限として定義された送信者プライバシについて検討する。
  論文  参考訳（メタデータ） (2026-04-17T13:52:18Z)
• Receiver-Centric Generative Semantic Communications [35.20918451421913]
  本稿では,送信機と受信機とのセマンティック通信について検討する。 受信機への関心のビデオなどのオリジナルデータは送信機に格納される。 本稿では,レシーバ中心のセマンティックコミュニケーションシステムを提案する。
  論文  参考訳（メタデータ） (2024-11-05T14:18:09Z)
• Algorithmic Persuasion Through Simulation [51.23082754429737]
  本研究では、送信者が受信機にバイナリアクションを取るよう説得するベイズ説得ゲームについて検討する。 送信者は、製品の品質などの世界の(実価値の高い)状態について通知されるが、受信者の信念やユーティリティに関する情報は限られている。 顧客の調査やユーザスタディ、最近のAIの進歩によって、送信側は受信者についてより深く学ぶことができるようになりました。
  論文  参考訳（メタデータ） (2023-11-29T23:01:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。