論文の概要: A Case Study on Emergent Cheating and Whistleblowing in Autonomous Research Swarms

• arxiv url: http://arxiv.org/abs/2609.04170v1
• Date: Thu, 03 Sep 2026 17:54:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-04 18:28:39.194126
• Title: A Case Study on Emergent Cheating and Whistleblowing in Autonomous Research Swarms
• Title（参考訳）: 自律型研究集団における創発的暖房と白化現象の事例研究
• Abstract要約: マルチエージェントAIサイエンスエコシステムは、互いに作業のコミュニケーション、コーディネート、構築を可能にするツールを持つエージェントに依存している。 本稿では,100個の自律LDMエージェントによる公式な数学的推測の証明を事例として報告する。 群れの中では、自発的に浮気が出現し、その後、内部の介入なしに、内部告発者によって挑発された。 我々は,自律群集における分散型自己統治を支援するために,段階的制裁や集団選択規則などの制度的メカニズムを採用することを提案する。
• 参考スコア（独自算出の注目度）: 43.001400055258586
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-agent AI science ecosystems rely on agents possessing tools that allow them to communicate, coordinate, and build on each other's work. Yet this shared infrastructure can also introduce vulnerabilities by creating a substrate for the contagious spread of unintended and undesirable behaviors. We report a case study on a research collective of 100 autonomous LLM agents tasked with proving formal mathematical conjectures. Within the swarm, cheating spontaneously emerged and was later challenged by whistleblowers - both without any external intervention. When a single agent discovered an exploit in the evaluation system, it propagated across the collective via a shared knowledge library and later through peer-to-peer messages. Despite early reluctance, a cohort of agents adopted the exploit in response to competitive pressure. A separate group of agents produced an emergent counter-response: auditing fraudulent proofs, alerting peers across broadcast and private channels, staging boycotts, lodging formal complaints, and proposing validation patches. In recent incidents, agent swarms coordinated covertly through improvised side-channels (Dalton and Wallace, 2026; Greenblatt et al., 2026). Our setting differs: the same transparent channels that carried the exploit also gave non-cheating agents the visibility they needed to detect fraud, organize resistance, and enforce norms. We cast the problem of managing the agents' shared infrastructure as the knowledge commons governance problem (Ostrom, 1990). To protect the commons from exploits, we propose to adopt institutional mechanisms, such as graduated sanctioning and collective-choice rules, to support decentralized self-governance in autonomous swarms.
• Abstract（参考訳）: マルチエージェントAIサイエンスエコシステムは、互いに作業のコミュニケーション、コーディネート、構築を可能にするツールを持つエージェントに依存している。 しかし、この共有インフラストラクチャは、意図しない、望ましくない振る舞いの伝染的な拡散のための基盤を作成することで、脆弱性を導入することもできる。 本稿では,100個の自律LDMエージェントによる公式な数学的推測の証明を事例として報告する。 群れの中では、自発的に浮気が出現し、その後、内部の介入なしに、内部告発者によって挑発された。 単一のエージェントが評価システムでエクスプロイトを発見したとき、それは共有知識ライブラリを通じて、後にピアツーピアメッセージを介して、集団全体に伝播した。 初期の反抗にもかかわらず、エージェントのコホートは競争圧力に反応してこの攻撃を採用した。 エージェントの別のグループは、不正な証明の監査、放送や私的チャンネルの仲間への警告、ボイコットのステージング、正式な苦情のロッジ、検証パッチの提案など、緊急の対応を生み出した。 近年の事件では、エージェント・スワムは即興のサイドチャネル(ダルトンとウォレス、2026年、グリーンブラットとアル、2026年)を通じて秘密裏に調整された。 我々の設定は違っていて、このエクスプロイトを実行したのと同じ透明なチャンネルは、不正を検知し、抵抗を組織し、規範を強制するために必要な、非攻撃エージェントにも可視性を与えました。 我々は、知識共有ガバナンス問題として、エージェントの共有インフラを管理するという問題を提起した(Ostrom, 1990)。 本研究では,コモンズを搾取から保護するために,自律群集における分散自己統治を支援するために,段階的制裁や集団選択規則などの制度的メカニズムを採用することを提案する。

関連論文リスト

• Agentic Societies Need a Social Harness [2.960156090822011]
  エージェント・ソサエティは、信頼境界を越えて自律的に協調するAIエージェントの集合体である。 正直で有能なエージェントは、しばしば既存のハーネスやメッセージングプリミティブで満足な結果に到達できないことを実験的に示す。 本研究では,(i)失敗のクラスを完全に防止し,(ii)エージェントが実行時に無効メッセージを検出できるようにし,(iii)ポストファクト調査と結果を支援するソーシャルハーネスの階層化アーキテクチャを提案する。
  論文  参考訳（メタデータ） (2026-09-15T17:57:27Z)
• Adversarial Attacks for Good: A Survey of Proactive Protection across the Visual Content Lifecycle [65.6642776933861]
  この介入点付近で成長した保護パラダイムについて検討する。 ほとんどの保護は、主に静的あるいは弱い適応的な敵に対して検証されている。 我々は、堅牢で構成可能で、デプロイ可能な所有者側の保護のために、クロスステージ対策とオープンな問題を統合することで、閉鎖する。
  論文  参考訳（メタデータ） (2026-08-05T00:46:50Z)
• A First Look at Coding Agents' Compliance with AI Contribution Rules in Open-Source Communities [13.02344624749338]
  オープンソースリポジトリにおけるコーディングエージェントの現実ルールコンプライアンスを推定する。 我々の実験では、今日のエージェントはほとんど積極的に貢献規則を回収しないことが示されている。 この状況は、検証と開示の問題が既存のメカニズムで解決可能であることを示している。
  論文  参考訳（メタデータ） (2026-07-29T12:14:17Z)
• UTS at ELOQUENT 2026 Voight-Kampff: structural shifts in AI writing bypass state-of-the-art detectors [1.348563827917271]
  我々は,どの言語モデル回避攻撃が最先端の対人微調整を生き残るかを検討する。 われわれはELOQUENT 2026 Voight-Kampffのリーダーボードのトップ5を席巻する戦略を開発している。
  論文  参考訳（メタデータ） (2026-07-15T08:05:00Z)
• Tool Use Enables Undetectable Steganography in Multi-Agent LLM Systems [1.0408441549844423]
  自律的なエージェントAIシステムは、隠蔽通信チャネルを介して秘密の共謀のような、新たなマルチエージェントリスクを生じさせる。 本稿では,エージェントプログラミングモデルがすでに検出不能なステゴシステムを生成できるため,これらのスキームの複雑さはもはや安全障壁ではないことを実証する。 広義のスキーム群にかなり収束するが、厳密なワンショットコーディネートが限られており、共有アーチファクト、繰り返しのインタラクション、ツールによる検索が、秘密の通信リスクが最も急性な設定であることを示唆している。
  論文  参考訳（メタデータ） (2026-06-25T19:42:39Z)
• Breaking the Secret: Economic Interventions for Combating Collusion in Embodied Multi-Agent Systems [22.697901881084068]
  自律エージェント間の衝突は、エンボディ化されたマルチエージェントシステムにおいて重要なセキュリティ脅威となる。 本稿では,エージェントの報酬構造を変えることで,共謀を緩和するインセンティブ的介入手法を提案する。 実験結果から,本手法はシステム効率を保ちながら,欠陥の誘発による癒着を効果的に抑制できることが示唆された。
  論文  参考訳（メタデータ） (2026-04-26T03:13:47Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• Agents of Chaos [50.53354213047402]
  実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。 20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。 我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
  論文  参考訳（メタデータ） (2026-02-23T16:28:48Z)
• OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
  オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。 本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
  論文  参考訳（メタデータ） (2026-02-13T21:32:32Z)
• Can an Individual Manipulate the Collective Decisions of Multi-Agents? [53.01767232004823]
  M-Spoilerは、マルチエージェントシステム内のエージェントインタラクションをシミュレートして、対向サンプルを生成するフレームワークである。 M-スポイラーは、敵対的サンプルの最適化を積極的に支援するスタブボーン剤を導入した。 本研究は,マルチエージェントシステムにおける個々のエージェントの知識によって引き起こされるリスクを検証した。
  論文  参考訳（メタデータ） (2025-09-20T01:54:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。