論文の概要: Feedback Coding Enables Inference-Time Covert Agentic Communication

• arxiv url: http://arxiv.org/abs/2609.24994v1
• Date: Mon, 21 Sep 2026 17:58:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-24 15:19:51.798097
• Title: Feedback Coding Enables Inference-Time Covert Agentic Communication
• Title（参考訳）: エージェント通信の推測時間を実現するフィードバック符号化
• Abstract要約: textbfBurnashev textbfAdaptive Posterior textbfMatching (BAM)を導入する。 BAMは、1000回の試行で約50のトークンで8ビットペイロード上で0-0.1%のメッセージエラーを経験し、同じ長さで最強のブラックボックスベースラインでは10-17%であることを示した。
• 参考スコア（独自算出の注目度）: 19.4238061842096
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As large language models (LLMs) are increasingly used to automate digital interactions, users can leverage LLM-generated text as cover for covert communication within seemingly benign conversations. Existing LLM steganography, however, is predominantly white-box, requiring the sender and receiver to share the cover statistics, typically through access to the model weights and prompt. Black-box schemes remove this requirement by allowing the receiver to operate solely on the generated text, but current approaches rely on fixed-length, open-loop watermarking techniques that suffer from high decoding error rates under variable-length token generation. We recast black-box LLM steganography as a sequential communication problem with causal, noiseless feedback: every generated token is observed by both parties and can guide subsequent embedding. Based on this perspective, we introduce \textbf{B}urnashev \textbf{A}daptive Posterior \textbf{M}atching (BAM), a feedback-coding scheme that combines posterior matching with a decode-and-confirm phase. The design is inspired by classical information-theoretic feedback-coding principles, while its security is established through a cryptographic reduction proof. Across three open-weight language models, we demonstrate that BAM attains 0-0.1\% empirical message error on an 8-bit payload in around 50 tokens, across 1000 trials, versus 10-17\% for the strongest black-box baseline at comparable length. Building on the proposed steganography algorithm, we demonstrate the feasibility of an end-to-end communication protocol that achieves high communication rates across multiple conversational settings.
• Abstract（参考訳）: 大規模言語モデル(LLM)がデジタルインタラクションの自動化にますます利用されているため、ユーザは、一見した会話の中で隠蔽コミュニケーションのカバーとしてLLM生成テキストを利用することができる。 しかし、既存のLSMステガノグラフィーは、主にホワイトボックスであり、送信側と受信側は、通常モデルウェイトとプロンプトへのアクセスを通じて、カバー統計を共有する必要がある。 ブラックボックス方式では、受信機が生成したテキストのみを操作できるようにすることでこの要件を排除しているが、現在のアプローチは可変長トークン生成の下で高い復号エラー率に悩まされる固定長のオープンループ透かし技術に依存している。 我々は,ブラックボックスのLSMステガノグラフィーを因果的,ノイズのないフィードバックを伴う逐次通信問題として再検討した。 この観点から、後続マッチングと復号・確認フェーズを組み合わせたフィードバック符号化方式である、textbf{B}urnashev \textbf{A}daptive Posterior \textbf{M}atching (BAM)を導入する。 この設計は古典的な情報理論のフィードバックコーディング原理にインスパイアされ、そのセキュリティは暗号的還元証明によって確立されている。 3つのオープンウェイト言語モデル全体で、BAMは8ビットペイロードに対して、約50のトークンで0-0.1\%、1000のトライアルで10-17\%、同じ長さで最強のブラックボックスベースラインでは10-17\%に達することを示した。 提案するステガノグラフィーアルゴリズムを用いて,複数の対話環境において高い通信速度を実現するエンドツーエンド通信プロトコルの実現可能性を示す。

関連論文リスト

• SimSD: Simple Speculative Decoding in Diffusion Language Models [61.33773959352141]
  拡散大言語モデル (dLLMs) は、並列またはブロックワイド復号による高速な推論を提供する。 彼らのマスク付き言語モデリングの定式化は、標準的なトークンレベルの投機的復号法とは相容れないままである。 我々は,dLLMに時間的に有効なトークンレベルのコンテキストを付与する,SimSDと呼ばれるdLLMの投機的復号アルゴリズムを提案する。 提案手法は,平均生成品質を維持しつつ,最大7.46倍高い復号スループットを実現する。
  論文  参考訳（メタデータ） (2026-06-01T17:46:46Z)
• Rep2Text: Decoding Full Text from a Single LLM Token Representation [38.62008454909388]
  本稿では,最後の記述から全文を復号化するための新しいフレームワークを提案する。 Rep2Textはトレーニング可能なアダプタを使用し、ターゲットモデルの内部表現をデコード言語モデルの埋め込み空間に投影する。
  論文  参考訳（メタデータ） (2025-11-09T23:18:36Z)
• Causal2Vec: Improving Decoder-only LLMs as Versatile Embedding Models [22.02568434890804]
  Causal2Vecはデコーダのみの大規模言語モデルの性能を高めるために設計された汎用埋め込みモデルである。 まず、入力テキストを単一のコンテキストトークンにプリエンコードするために、軽量のBERTスタイルのモデルを使用します。 最後に,最後のテキスト埋め込みとしてコンテキストトークンとEOSトークンの隠れ状態を導入した。
  論文  参考訳（メタデータ） (2025-07-31T10:01:11Z)
• Grounding Language with Vision: A Conditional Mutual Information Calibrated Decoding Strategy for Reducing Hallucinations in LVLMs [51.93737995405164]
  LVLM(Large Vision-Language Models)は幻覚の影響を受けやすいモデルである。 本稿では,条件付きポイントワイド・ミューチュアル・インフォメーション(C-PMI)キャリブレーション・デコーディング・ストラテジーを導入する。 提案手法は,復号効率を保ちながら,LVLMの幻覚を著しく低減することを示す。
  論文  参考訳（メタデータ） (2025-05-26T08:36:10Z)
• Zero-Shot Detection of LLM-Generated Text using Token Cohesiveness [6.229124658686219]
  我々は,既存のゼロショット検出器を改善するために,トークン凝集性をプラグアンドプレイモジュールとして利用する汎用的なデュアルチャネル検出パラダイムを開発した。 トークンの凝集度を計算するために,ランダムなトークンの削除と意味的差分測定を数ラウンドで行う。 各種データセット,ソースモデル,評価設定の4つの最先端ベース検出器を用いた実験は,提案手法の有効性と汎用性を示す。
  論文  参考訳（メタデータ） (2024-09-25T13:18:57Z)
• Autoregressive Linguistic Steganography Based on BERT and Consistency Coding [17.881686153284267]
  言語ステガノグラフィ(LS)は、秘密情報をテキストに埋め込むことによって、コミュニケーションの存在を隠蔽する。 近年のアルゴリズムでは、言語モデル(LM)を用いてステガノグラフテキストを生成する。 本稿では,BERTと整合性符号化に基づく自己回帰型LSアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-03-26T02:36:55Z)
• Rethinking Text Line Recognition Models [57.47147190119394]
  2つのデコーダファミリー(コネクショニスト時間分類と変換器)と3つのエンコーダモジュール(双方向LSTM、自己認識、GRCL)を考える。 広く使用されているシーンと手書きテキストの公開データセットの精度とパフォーマンスを比較します。 より一般的なTransformerベースのモデルとは異なり、このアーキテクチャは任意の長さの入力を処理できる。
  論文  参考訳（メタデータ） (2021-04-15T21:43:13Z)
• Fast End-to-End Speech Recognition via a Non-Autoregressive Model and Cross-Modal Knowledge Transferring from BERT [72.93855288283059]
  LASO (Listen Attentively, and Spell Once) と呼ばれる非自動回帰音声認識モデルを提案する。 モデルは、エンコーダ、デコーダ、および位置依存集合体(PDS)からなる。
  論文  参考訳（メタデータ） (2021-02-15T15:18:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。