論文の概要: Cheap, open agents make LLM pollution harder to mitigate

• arxiv url: http://arxiv.org/abs/2609.31054v2
• Date: Mon, 28 Sep 2026 18:36:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:46.545953
• Title: Cheap, open agents make LLM pollution harder to mitigate
• Title（参考訳）: LLM汚染を緩和するチープでオープンな薬品
• Abstract要約: LLM(Large Language Model)は、人間の行動を捉えるために合成応答がデータを汚染する場合に発生する。 完全開き型から閉き型まで,9種類のエージェント構成の性能と検出性を比較した。 オープンと商用のエージェントは異なるチェックセットに失敗し、単一のチェックですべてのエージェントを確実に検出することはなかったが、オープンテキストのレスポンスはエージェントと人間を最も区別した。
• 参考スコア（独自算出の注目度）: 2.3481399944661927
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Model (LLM) pollution occurs when synthetic responses contaminate data intended to capture human behavior. High deployment costs have so far limited the risk posed by autonomous survey agents. However, open-weight models paired with open-source agentic frameworks may have removed this barrier. We compared the performance and detectability of nine agent configurations, ranging from fully open variants to closed commercial ones. Each agent autonomously completed a survey containing multiple response types yielding various detection checks. Fully open agents ran locally without usage fees and performed competitively with commercial alternatives. Open and commercial agents failed different sets of checks, and no single check reliably detected all agents, but open-text responses discriminated best between agents and humans. These findings identify fully open agents as a distinct risk for LLM pollution and support multilayered detection strategies emphasizing open-text analysis.
• Abstract（参考訳）: LLM(Large Language Model)は、人間の行動を捉えるために合成応答がデータを汚染する場合に発生する。 展開コストは、これまで、自律的な調査エージェントによるリスクを制限してきた。 しかし、オープンソースのエージェントフレームワークと組み合わせたオープンウェイトモデルは、この障壁を取り除いた可能性がある。 完全開き型から閉き型まで,9種類のエージェント構成の性能と検出性を比較した。 各エージェントは、さまざまな検出チェックを出力する複数の応答タイプを含む調査を自律的に完了した。 完全にオープンなエージェントは使用料なしでローカルで実行され、商業的な代替品と競争的に実行された。 オープンと商用のエージェントは異なるチェックセットに失敗し、単一のチェックですべてのエージェントを確実に検出することはなかったが、オープンテキストのレスポンスはエージェントと人間を最も区別した。 これらの結果から, LLM汚染の明確なリスクとして完全オープンエージェントを同定し, オープンテキスト解析を重視した多層検出戦略をサポートする。

関連論文リスト

• AgentBeats: Agentifying Agent Assessment for Openness, Standardization, and Reproducibility [104.46861849039357]
  エージェントシステムはドメイン間で急速に進歩しているが、その評価は断片化されている。 根本的問題は、オープンでエージェントに依存しないアセスメントインタフェースがないことである。 我々は、審査員が評価を行い、すべての参加者が標準化されたプロトコルを介して対話するエージェントエージェントアセスメント(AAA)を提唱する。
  論文  参考訳（メタデータ） (2026-06-11T17:23:54Z)
• Detecting Multi-Agent Collusion Through Multi-Agent Interpretability [0.3467226901703539]
  NARCBenchは環境分布シフト下での衝突検出のベンチマークである。 グループレベルでシナリオを分類するために,エージェントごとの詐欺スコアを集計する5つの探索手法を提案する。 単一のプローブ技術が全ての共謀タイプで支配的であり、異なる形の共謀が活性化空間で異なることを示唆している。
  論文  参考訳（メタデータ） (2026-04-01T17:08:05Z)
• AgentDoG: A Diagnostic Guardrail Framework for AI Agent Safety and Security [126.49733412191416]
  現在のガードレールモデルは、リスク診断におけるエージェント的リスク認識と透明性を欠いている。 エージェントリスクをソース(場所)、障害モード(方法)、結果(何)で分類する統合された3次元分類法を提案する。 AgentDoG(AgentDoG)のための,エージェント安全性ベンチマーク(ATBench)と診断ガードレールフレームワークを新たに導入する。
  論文  参考訳（メタデータ） (2026-01-26T13:45:41Z)
• Can an Individual Manipulate the Collective Decisions of Multi-Agents? [53.01767232004823]
  M-Spoilerは、マルチエージェントシステム内のエージェントインタラクションをシミュレートして、対向サンプルを生成するフレームワークである。 M-スポイラーは、敵対的サンプルの最適化を積極的に支援するスタブボーン剤を導入した。 本研究は,マルチエージェントシステムにおける個々のエージェントの知識によって引き起こされるリスクを検証した。
  論文  参考訳（メタデータ） (2025-09-20T01:54:20Z)
• Preventing Rogue Agents Improves Multi-Agent Collaboration [21.955058255432974]
  本稿では,アクション予測中にエージェントを監視し,将来エラーが発生する可能性がある場合に介入することを提案する。 WhoDunitEnv、コード生成タスク、そしてリソース持続可能性のためのGovSim環境の実験は、我々のアプローチがパフォーマンスを大幅に向上させることを示している。
  論文  参考訳（メタデータ） (2025-02-09T18:35:08Z)
• Deep Multi-Agent Reinforcement Learning for Decentralized Active Hypothesis Testing [11.639503711252663]
  我々は,深層多エージェント強化学習の枠組みに根ざした新しいアルゴリズムを導入することで,マルチエージェント能動仮説テスト(AHT)問題に取り組む。 エージェントが協調戦略を学習し、性能を向上させる能力を効果的に示す実験結果を包括的に提示する。
  論文  参考訳（メタデータ） (2023-09-14T01:18:04Z)
• On the Complexity of Multi-Agent Decision Making: From Learning in Games to Partial Monitoring [105.13668993076801]
  マルチエージェント強化学習(MARL)理論における中心的な問題は、構造条件やアルゴリズムの原理がサンプル効率の学習保証につながるかを理解することである。 本稿では,複数のエージェントを用いた対話型意思決定のための一般的な枠組みとして,この問題について考察する。 マルチエージェント意思決定における統計的複雑性を特徴付けることは、単一エージェント決定の統計的複雑性を特徴付けることと等価であることを示す。
  論文  参考訳（メタデータ） (2023-05-01T06:46:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。