論文の概要: A Note on the Strategic Confinement Problem

• arxiv url: http://arxiv.org/abs/2606.09931v1
• Date: Sun, 07 Jun 2026 16:36:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-10 15:40:58.060333
• Title: A Note on the Strategic Confinement Problem
• Title（参考訳）: 戦略的閉じ込め問題に関する一考察
• Authors: Christian Schroeder de Witt,
• Abstract要約: 学習戦略エージェントのシステムは、完全な行動仕様を認めていないため、自然にこの問題をインスタンス化する。 我々の貢献はコミュニケーションの新しい理論ではなく、戦略的エージェントの存在下での閉じ込めの再解釈である。
• 参考スコア（独自算出の注目度）: 0.5395418488767766
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Lampson's confinement problem asks how to prevent a program that processes confidential information from leaking it to a third party. We introduce the strategic confinement problem, which arises when the communicating parties are strategic agents with shared coordination resources. In this setting, residual communication capacity can be concentrated on low-entropy, high-impact predicates of the confidential data. Consequently, bounds on information leakage need not induce corresponding bounds on worst-case harm: a channel with negligible capacity may still suffice to select damaging outcomes. We argue that systems of learnt strategic agents naturally instantiate this problem because they do not admit complete behavioural specifications, their learnt conventions generally cannot be predicted or reproduced by an external observer, and sufficiently capable agents can construct covert communication schemes that are difficult to detect or eliminate. Our contribution is therefore not a new theory of communication, but a reinterpretation of confinement in the presence of strategic agents. Classical confinement bounds what information may flow; strategic confinement highlights that this need not bound what strategic agents can jointly achieve.
• Abstract（参考訳）: ランプソンの監禁問題は、機密情報を処理するプログラムが第三者に漏洩するのを防ぐ方法を要求する。 本稿では,コミュニケーション相手が共有協調資源を持つ戦略的エージェントである場合に発生する,戦略的拘束問題を紹介する。 この設定では、機密データの低エントロピー、高インパクトな述語に集中することができる。 その結果、情報漏洩のバウンダリは、最悪の場合の損害に対して対応するバウンダリを誘導する必要はない: 無視可能なキャパシティを持つチャネルは、それでも損傷のある結果を選択するのに十分である。 学習者戦略エージェントのシステムは、完全な行動仕様を認めず、学習慣行を外部の観察者によって予測または再現することは一般的に不可能であり、十分に能力のあるエージェントは検出または排除が難しい秘密のコミュニケーションスキームを構築することができるため、この問題を自然にインスタンス化する。 したがって、我々の貢献はコミュニケーションの新しい理論ではなく、戦略的なエージェントの存在下での閉じ込めの再解釈である。 戦略的制限は、戦略的エージェントが共同で達成できるものに縛られる必要はないことを強調している。

関連論文リスト

• Byzantine Cheap Talk: Adversarial Resilience and Topology Effects in LLM Coordination Games [4.3857499122259815]
  本研究は,マルチエージェントコーディネーションゲームにおいて,安価なチャネルが協調作業を可能にすることを示す。 6つのモデルファミリーと720のトライアルにまたがる4人プレイヤのStag Huntにおける2つの脆弱性クラスを調査した。 全てのモデルコホートをまたいで複製する2つの安定な行動アーチタイプを同定する。
  論文  参考訳（メタデータ） (2026-06-05T19:06:44Z)
• CIA: Inferring the Communication Topology from LLM-based Multi-Agent Systems [52.48183625867145]
  マルチエージェントシステム(MAS)は、複雑なタスクを解く際、顕著な能力を示した。 MASの中心は、エージェントが内部で情報を交換する方法を管理する通信トポロジーである。 本稿では,MAS通信のトポロジを制限的なブラックボックス設定で推定できる,重要なプライバシーリスクについて検討する。
  論文  参考訳（メタデータ） (2026-04-14T08:48:15Z)
• The Sum Leaks More Than Its Parts: Compositional Privacy Risks and Mitigations in Multi-Agent Collaboration [72.33801123508145]
  大規模言語モデル(LLM)はマルチエージェントシステムに不可欠なものである。 プライバシーリスクは、暗記、直接推論、シングルターン評価を超えて現れる。 特に、相互作用によって構成される一見無害な反応は、敵が機密情報の回復を累積的に行うことができる。
  論文  参考訳（メタデータ） (2025-09-16T16:57:25Z)
• Protocol Learning, Decentralized Frontier Risk and the No-Off Problem [56.74434512241989]
  私たちは第3のパラダイムであるプロトコル学習(Protocol Learning)を特定します。 このアプローチは、単一の集中型エンティティよりも桁違いに多くの計算資源を集約する可能性がある。 また、不均一で信頼性の低いノード、悪意のある参加者、インセンティブを維持するために抽出不可能なモデルの必要性、複雑なガバナンスのダイナミクスなど、新しい課題も導入されている。
  論文  参考訳（メタデータ） (2024-12-10T19:53:50Z)
• Learning to Coordinate without Communication under Incomplete Information [37.91176272524196]
  本稿では,お互いの行動を観察することのみに頼って,言語コミュニケーションを使わずに効果的なコーディネーションを実現する方法について検討する。 本手法では, エージェントの動作シーケンスを目的信号として解釈し, 決定論的有限オートマトンから構築した有限状態トランスデューサを, エージェントが実行可能なアクション毎に構築することにより, エージェントの戦略開発を可能にする。 実験の結果,これらの戦略は非協調的手法よりも有意に優れており,直接通信による協調処理の性能と密に一致していることがわかった。
  論文  参考訳（メタデータ） (2024-09-19T01:41:41Z)
• Cooperative Probabilistic Trajectory Forecasting under Occlusion [110.4960878651584]
  隠蔽対象の情報を安全なナビゲーションのためにエゴエージェントに伝達する必要がある場合が多い。 本稿では,エゴエージェントの基準フレームにおける閉塞歩行者の現況を協調的に推定するエンド・ツー・エンドネットワークを設計する。 また,エゴ剤による閉塞歩行者の不確実性を考慮した軌道予測は,閉塞を前提とした地上の真実軌道とほぼ同様であることを示した。
  論文  参考訳（メタデータ） (2023-12-06T05:36:52Z)
• The Enforcers: Consistent Sparse-Discrete Methods for Constraining Informative Emergent Communication [5.432350993419402]
  コミュニケーションは、エージェントが目標を達成するために協力することを可能にする。 疎間コミュニケーションの学習における最近の研究は、特に協調作業において、コミュニケーションの減少のコストが報酬の減少につながるような、高分散トレーニングに悩まされている。 本研究は、コミュニケーションの減少による報酬の損失を抑え、差別に対するペナルティを排除し、上記の課題に対処する。
  論文  参考訳（メタデータ） (2022-01-19T07:31:06Z)
• Distributed Adaptive Learning Under Communication Constraints [54.22472738551687]
  本研究では,コミュニケーション制約下での運用を目的とした適応型分散学習戦略について検討する。 我々は,ストリーミングデータの連続的な観察から,オンライン最適化問題を解決しなければならないエージェントのネットワークを考える。
  論文  参考訳（メタデータ） (2021-12-03T19:23:48Z)
• Quasi-Equivalence Discovery for Zero-Shot Emergent Communication [63.175848843466845]
  ゼロショットコーディネーション(ZSC)を実現するための新しい問題設定と準等価探索アルゴリズムを提案する。 これらの2つの要因が参照ゲームにおいて一意に最適なZSCポリシーをもたらすことを示す。 QEDはこの設定における対称性を反復的に発見することができ、最適なZSCポリシーに収束する。
  論文  参考訳（メタデータ） (2021-03-14T23:42:37Z)
• Gaussian Process Based Message Filtering for Robust Multi-Agent Cooperation in the Presence of Adversarial Communication [5.161531917413708]
  マルチエージェントシステムにおける敵通信に対する堅牢性の提供という課題について考察する。 グラフニューラルネットワーク(GNN)に基づく通信アーキテクチャを提案する。 本手法は,非協力的エージェントがもたらす影響を低減できることを示す。
  論文  参考訳（メタデータ） (2020-12-01T14:21:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。