論文の概要: Communication between Frozen Large Language Models via Prompt Optimization in a Referential Game
- arxiv url: http://arxiv.org/abs/2609.31989v1
- Date: Fri, 25 Sep 2026 20:50:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 04:04:55.09955
- Title: Communication between Frozen Large Language Models via Prompt Optimization in a Referential Game
- Title(参考訳): 参照ゲームにおけるプロンプト最適化による凍結型大言語モデル間の通信
- Abstract要約: 我々は,APIエンドポイントを通じてアクセスされる異なるトークン化器を備えた,異なるプロバイダからの2つの凍結した大規模言語モデル間の通信について検討する。
1つはオブジェクトを見て、それを小さなアルファベット上の短い固定長メッセージで記述し、もう1つは候補セットからそのオブジェクトを選択する必要がある。
位置設定では、最適化プロンプトは共有コードを持ち、測定されたノーコードブックベースラインの上に保持対象を一般化する。
2つ目の設定では、独立したレター単位のブロックはメッセージ内に収まらないが、オブジェクト全体のプレース値のコードには当てはまらない。
送信者衝突のペナルティ, 正常な相互作用の保持, シーケンシャル
- 参考スコア(独自算出の注目度): 8.447897916557915
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study communication between two frozen large language models from different providers, with different tokenizers, accessed through their API endpoints. The two play a referential game: one sees an object and describes it in a short fixed-length message over a small alphabet; the other must pick that object out of a candidate set. Neither model's weights are updated. Each agent's prompt is rewritten by an isolated prompt optimizer whose reflection model reads that agent's scored interactions. In the positional setting, optimized prompts carry a shared code that generalizes to held-out objects above a measured no-codebook baseline, including when the memory window is removed. In a second setting, independent per-letter blocks no longer fit within the message, although a whole-object place value code does. The base system fails to establish reliable communication: the sender struggles to retain an injective rule, and the receiver has too few confirmed examples in view. A sender collision penalty, retention of successful interactions, and sequential optimization enable successful place value communication in some runs. Outcomes vary across runs and reflection models. In successful runs, the protocol is written into the optimized prompts, where it can be read and audited directly.
- Abstract(参考訳): 我々は,APIエンドポイントを通じてアクセスされる異なるトークン化器を備えた,異なるプロバイダからの2つの凍結した大規模言語モデル間の通信について検討する。
2つのゲームは参照ゲームであり、1つはオブジェクトを見て、それを小さなアルファベット上の短い固定長のメッセージで記述し、もう1つは候補セットからそのオブジェクトを選択する必要がある。
両モデルの重量は更新されていない。
各エージェントのプロンプトは分離されたプロンプトオプティマイザによって書き直され、リフレクションモデルはエージェントのスコアリングされたインタラクションを読み取る。
位置設定では、最適化プロンプトは共有コードを持ち、メモリウィンドウが削除された場合を含む、測定されたノーコードブックベースラインの上の保持対象に一般化する。
2つ目の設定では、独立したレター単位のブロックはメッセージ内に収まらないが、オブジェクト全体のプレース値のコードには当てはまらない。
送信側はインジェクティブルールを維持するのに苦労し、受信側は確認済みの事例があまりに少ない。
送信者衝突のペナルティ、成功した相互作用の保持、そして逐次最適化は、いくつかの実行において成功した位置値通信を可能にする。
アウトカムはランとリフレクションモデルによって異なる。
実行が成功すると、プロトコルは最適化されたプロンプトに書き込まれ、直接読み、監査することができる。
関連論文リスト
- Despite Instructions: Frontier Agents Improvise Covert Channels at Test Time [64.61749234961134]
セキュリティに敏感なアプリケーションでは、言語モデルエージェントは機密情報を開示することなく調整する必要があることが多い。
送信者が4つの秘密状態のうちの1つを観測し、同一の公開レポートの4つの要約のうちの1つを選択する。
モデルペアは、受信機が正しく推測したかどうかを示す1ビットのフィードバックのみを使用して、秘密を伝えることができる。
論文 参考訳(メタデータ) (2026-09-26T15:06:44Z) - StateBridge: Training-free Hidden-state Alignment for Latent Communication in LLM Multi-Agent Systems [35.74603358195608]
本稿では,送信者の隠れ状態と受信者の入力空間をクローズドフォーム変換により整列する訓練不要の潜時通信手法を提案する。
StateBridgeは26組のモデル・タスク・ペアのうち22組でベストまたはタイト・ベストのスコアを獲得している。
論文 参考訳(メタデータ) (2026-08-13T14:40:59Z) - What Should Agents Say? Action-state Communication for Efficient Multi-Agent Systems [27.11156309236441]
2つのマルチエージェントシステム間での5つの共通エージェント間通信戦略を解析する。
PACT (Protocolized Action-State Communication and Transmission) は,エージェント間通信を状態更新問題として扱う。
PACTはパフォーマンスコストのトレードオフを一貫して改善し、トークンを著しく少なくして、同等またはより強力なタスクパフォーマンスを実現しています。
論文 参考訳(メタデータ) (2026-06-03T18:00:22Z) - Pre-training Multi-party Dialogue Models with Latent Discourse Inference [85.9683181507206]
我々は、多人数対話の会話構造、すなわち、各発話が応答する相手を理解するモデルを事前訓練する。
ラベル付きデータを完全に活用するために,談話構造を潜在変数として扱い,それらを共同で推論し,談話認識モデルを事前学習することを提案する。
論文 参考訳(メタデータ) (2023-05-24T14:06:27Z) - DIONYSUS: A Pre-trained Model for Low-Resource Dialogue Summarization [127.714919036388]
DIONYSUSは、任意の新しいドメインでの対話を要約するための訓練済みエンコーダデコーダモデルである。
実験の結果,DIONYSUSは6つのデータセット上で既存の手法よりも優れていた。
論文 参考訳(メタデータ) (2022-12-20T06:21:21Z) - AutoReply: Detecting Nonsense in Dialogue Introspectively with
Discriminative Replies [71.62832112141913]
対話モデルは、不適切なメッセージを示す応答の確率を計算し、内観的に自分のメッセージの誤りを検出することができることを示す。
まず、手作りの返信は外交と同じくらい複雑なアプリケーションにおけるナンセンスを検出するタスクに有効であることを示す。
AutoReplyの生成した応答は手作りの応答よりも優れており、慎重に調整された大規模な教師付きモデルと同等に動作することがわかった。
論文 参考訳(メタデータ) (2022-11-22T22:31:34Z) - Converse, Focus and Guess -- Towards Multi-Document Driven Dialogue [53.380996227212165]
本稿では,対話を指導することで,ユーザが興味を持っている対象文書をエージェントが推測できる,MD3(Multi-Document Driven Dialogue)を提案する。
GuessMovieには16,881の文書があり、それぞれが映画と関連する13,434の対話を記述している。
提案手法はいくつかの強力なベースライン法よりも優れており,人間の性能に非常に近い。
論文 参考訳(メタデータ) (2021-02-04T06:36:11Z) - Dialog Simulation with Realistic Variations for Training Goal-Oriented
Conversational Systems [14.206866126142002]
ゴール指向のダイアログシステムにより、ユーザーは映画に関する情報をリクエストしたり、チケットを予約したりといった特定の目標を達成することができる。
本稿では,注釈付きダイアログとダイアログスキーマから,注釈付きダイアログの大規模なコーパスを自動生成する手法を提案する。
ベースラインダイアログ生成手法と比較して,ホールドアウトテストセットの50%の相対精度を実現した。
論文 参考訳(メタデータ) (2020-11-16T19:39:15Z) - "Wait, I'm Still Talking!" Predicting the Dialogue Interaction Behavior
Using Imagine-Then-Arbitrate Model [24.560203199376478]
実際の人間と人間の会話では、1ターンで長いメッセージではなく、可読性のためのいくつかの短いメッセージが順次送信されることが多い。
本稿では,エージェントが待機するか,直接応答するかを決定するのに役立つ,新しいImagine-then-Arbitrate(ITA)ニューラルダイアログモデルを提案する。
論文 参考訳(メタデータ) (2020-02-22T04:05:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。