論文の概要: Four Bridges: Measuring Deception Propensity in a Multi-Agent Game

• arxiv url: http://arxiv.org/abs/2611.03600v1
• Date: Mon, 02 Nov 2026 18:40:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 03:37:31.846276
• Title: Four Bridges: Measuring Deception Propensity in a Multi-Agent Game
• Title（参考訳）: 4つの橋:マルチエージェントゲームにおける偽装確率の測定
• Abstract要約: 本研究では, マルチエージェントインタラクションにおいて, 偽装の指示を伴わずに現れる偽装について検討する。 我々は,AIモデルを評価するプラットフォームであるKradleと,情報非対称性ゲームであるFour Bridgesを紹介する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: AI agents are increasingly deployed in settings where they interact and coordinate with other agents, yet honesty is mostly measured in single-turn, single-agent benchmarks that pressure the model to deceive. We study deception that emerges in multi-agent interaction without any instruction to deceive. We introduce Kradle, a platform for evaluating AI models, and Four Bridges, an information asymmetry game in which four agents distribute across four rooms: one is the death room, the others hold food worth more if not shared. One agent, the informed agent, knows which room is the death room and can withhold or disclose that information. We evaluate eight frontier models as the informed agent. Deceptive behavior appears in every model and in 73% of all runs (6% to 100% per model), and does not decrease with capability tier within a model family. When the informed agent does disclose, the warning is often challenged, and agents that challenge it enter the death room twice as often as those that do not. Telling all agents that one of them knows the death room collapses deception in six of eight models; telling the informed agent that the room is permanently fatal moves only one. On an open-weight model, an honesty steering vector reduces deception to 0% and adversarial honesty training to 6%. The platform and game provide a testbed for measuring deceptive behavior and comparing interventions.
• Abstract（参考訳）: AIエージェントは、他のエージェントと対話し、コーディネートする環境にますます配置されているが、正直なところ、モデルを騙すようにプレッシャーをかけるシングルターン、シングルエージェントのベンチマークで主に測定されている。 本研究では, マルチエージェントインタラクションにおいて, 騙す命令を伴わずに現れる偽装について検討する。 我々は、AIモデルを評価するプラットフォームであるKradleと、4人のエージェントが4つの部屋に分散する情報非対称性ゲームであるFour Bridgesを紹介した。 情報提供者の一人は、どの部屋が死の部屋なのかを知り、その情報を保留または開示することができる。 情報エージェントとして8つのフロンティアモデルを評価する。 知覚的振る舞いはすべてのモデルに現れ、全実行の73%(モデル毎に6%から100%)で、モデルファミリ内の能力レベルによって低下しない。 情報のあるエージェントが開示すると、警告がしばしば挑戦され、その警告に挑戦するエージェントは、そうでないエージェントの2倍の頻度で死亡室に入る。 死の部屋は8つのモデルのうち6つのモデルで崩壊し、死の部屋は永久に致命的な動きで1つしかないと知らせる。 オープンウェイトモデルでは、正直なステアリングベクトルは詐欺を0%に減らし、敵の正直な訓練を6%に減らした。 プラットフォームとゲームは、騙し行動を測定し、介入を比較するためのテストベッドを提供する。

関連論文リスト

• Step-Zero Attack: Agent Safety Before Observability [21.181438968520744]
  コーディングエージェントは、任意のコンテンツがモデルに到達する前に、未知のアーカイブ、ネットワーク応答、イメージを処理しなければならないことが多い。 7つのハーネスと6つのモデルにまたがって、各エージェントは工芸的な入力へのパスまたはURLのみを受け取り、同じ可視界を示す良心的なツインとペアを組んだ。 私たちはこの最初の処理をStep Zeroと呼び、Step-Zero攻撃によって害を与えます。
  論文  参考訳（メタデータ） (2026-11-01T14:33:09Z)
• Why Do Agent Teams Fail Across Boundaries? A Failure Taxonomy for Agent-to-Agent Systems with Private States [96.00953129073133]
  エージェント・ツー・エージェント(A2A)のシナリオでは、各エージェントは独自の環境を持ち、他のエージェントが見ることができない情報と権限を持っている。 既存のマルチエージェントシステム障害研究では、1つのオーケストレータ、共有ワークスペース、または1つのプリンシパルが想定されている。 我々は、異なるエージェントハーネスとモデルで構築された2500以上のA2Aシステムについて研究する。
  論文  参考訳（メタデータ） (2026-10-14T00:36:08Z)
• The Backdrop Exposes What the World Around an Agent Costs It [0.0]
  BACKDROPは、エージェントの実行環境とともにタスクを行い、その世界で4つの日常的なハザードを植える。 それぞれの危険は一つ質問する。 4つのハザードが存在し、植字されたテキストがエージェントに届くところだけを数えると、エージェントは46.4%のランとインジェクトされたテキストを20.3%で別の人のメッセージに従った。
  論文  参考訳（メタデータ） (2026-09-29T20:00:18Z)
• Despite Instructions: Frontier Agents Improvise Covert Channels at Test Time [64.61749234961134]
  セキュリティに敏感なアプリケーションでは、言語モデルエージェントは機密情報を開示することなく調整する必要があることが多い。 送信者が4つの秘密状態のうちの1つを観測し、同一の公開レポートの4つの要約のうちの1つを選択する。 モデルペアは、受信機が正しく推測したかどうかを示す1ビットのフィードバックのみを使用して、秘密を伝えることができる。
  論文  参考訳（メタデータ） (2026-09-26T15:06:44Z)
• An Experimental Evaluation of Multimodal Prompt Injection Attacks on Agentic AI Frameworks [0.0]
  次に何が起こるかを測定する再現可能なベンチマークであるMMPIBenchを紹介する。 6つのビジュアルキャリア(OCRテキスト、オーバーレイ、EXIFメタデータ、QRコード、フェイクインターフェース、ハイブリッド)を通じて、一定の攻撃セットを提供する。 攻撃は約1%で終了するが、12.8%で試みられ、そのギャップは計画段階でほぼ完全に閉鎖される。
  論文  参考訳（メタデータ） (2026-09-08T20:00:03Z)
• When Agents Lie: Premeditation, Persistence, and Exploitation in Repeated Games [69.060029640261]
  10ラウンドにわたる同質群と異質群の6つのゲームにおけるフロンティアモデルの評価を行った。 異なるモデルは発表を無矛盾に解釈し、いくつかはバインディングのコミットメントとして、もうひとつは安価なトークとして解釈する。
  論文  参考訳（メタデータ） (2026-07-06T14:17:59Z)
• Cheap Talk, Empty Promise: Frontier LLMs easily break public promises for self-interest [32.09232866919422]
  単発のノーマルフォームゲームにおいて、公に発表されたアクションから逸脱した偽装について検討する。 偏差タイプごとにすべての機会を特定し、エージェントがそれらを利用する頻度を測定する。
  論文  参考訳（メタデータ） (2026-04-06T15:54:16Z)
• How Vulnerable Are AI Agents to Indirect Prompt Injections? Insights from a Large-Scale Public Competition [48.32744727426218]
  LLMベースのエージェントは、電子メール、ドキュメント、コードリポジトリなどの外部データソースを処理する高利得設定にますますデプロイされている。 これにより間接的なプロンプトインジェクション攻撃が発生し、外部コンテンツに埋め込まれた敵の命令は、ユーザの意識なしにエージェントの動作を操作できる。 この2つの目的を3つのエージェント設定で評価した。
  論文  参考訳（メタデータ） (2026-03-16T14:49:36Z)
• Behind the Prompt: The Agent-User Problem in Information Retrieval [4.563318916484434]
  情報検索におけるユーザモデルは、観察された振る舞いが意図を明らかにするという基本的な仮定に依存している。 エージェントが取る任意のアクションに対して、隠された命令は同一の出力を生成し、個々のレベルで意図を識別できないようにする。 エージェントネイティブソーシャルプラットフォームからの大規模コーパスによるエージェントユーザ問題について検討する。
  論文  参考訳（メタデータ） (2026-03-04T01:42:14Z)
• OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
  オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。 本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
  論文  参考訳（メタデータ） (2026-02-13T21:32:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。