論文の概要: Position: Academic Conferences are Potentially Facing Denominator Gaming Caused by Fully Automated Scientific Agents

• arxiv url: http://arxiv.org/abs/2605.09915v1
• Date: Mon, 11 May 2026 03:07:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:50.486755
• Title: Position: Academic Conferences are Potentially Facing Denominator Gaming Caused by Fully Automated Scientific Agents
• Title（参考訳）: 学術会議は、完全に自動化された科学エージェントによって引き起こされたディノミネーターゲームに直面する可能性がある
• Abstract要約: 悪意のあるアクターは、AIエージェントをデプロイして、表面的にもっとも可視だが品質の低い大量の論文を生成し、提出する。 比較的安定した受理率の下では、この希釈は、小さな、標的とする正統な論文の出版確率を体系的に増加させることができる。 我々は、様々な緩和戦略を提案し、評価し、永続的な保護にはシステムレベルの政策とインセンティブ改革が必要であると論じる。
• 参考スコア（独自算出の注目度）: 38.13598146684529
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The implicit policy of maintaining relatively stable acceptance rates at top AI conferences, despite exponentially growing submissions, introduces a critical structural vulnerability. This position paper characterizes a new systemic threat we term Agentic Denominator Gaming, in which a malicious actor deploys AI agents to generate and submit a large volume of superficially plausible but low-quality papers. Crucially, their objective is not the acceptance of low-quality papers, but rather to inflate the submission denominator and overwhelm reviewing capacity. Under a relatively stable acceptance rate, this dilution can systematically increase the publication probability of a small, targeted set of legitimate papers. We analyze the practical feasibility of this threat and its broader consequences, including intensified reviewer burnout, degraded review quality, and the emergence of industrialized automated agent mills. Finally, we propose and evaluate a range of mitigation strategies, and argue that durable protection will require system-level policy and incentive reforms, rather than relying primarily on technical detection alone.
• Abstract（参考訳）: トップAIカンファレンスで比較的安定した受け入れ率を維持するという暗黙の方針は、指数関数的に増加する提出にもかかわらず、重要な構造的脆弱性をもたらす。 このポジションペーパーは、悪意あるアクターがAIエージェントを配置して、表面上は妥当だが品質の低い大量の論文を生成し、提出する、エージェント・ディノミネーター・ギャミング(Agentic Denominator Gaming)と呼ばれる新しいシステム的脅威を特徴付ける。 重要なことは、彼らの目標は、低品質の論文を受理することではなく、提出する分科会を刺激し、審査能力を圧倒することである。 比較的安定した受理率の下では、この希釈は、小さな、標的とする正統な論文の出版確率を体系的に増加させることができる。 本稿では, この脅威の現実的実現可能性と, 強化されたレビュアーバーンアウト, 劣化したレビュー品質, 工業化された自動化エージェントミルの出現など, より広範な結果について分析する。 最後に、我々は、様々な緩和戦略を提案し、評価し、耐久性のある保護には、主に技術的検出のみに頼るのではなく、システムレベルの政策とインセンティブの改革が必要であると論じる。

関連論文リスト

• Provably Secure Agent Guardrail [89.79561918065122]
  既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。 本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-05-28T02:12:41Z)
• AgentReputation: A Decentralized Agentic AI Reputation Framework [3.6704226968275253]
  我々はエージェントAIシステムのための分散3層評価フレームワークである textbfAgentReputation を提案する。 このフレームワークは、タスク実行、評価サービス、タンパー保護の永続化を分離し、それぞれの強みを活用し、独立した進化を可能にする。 定量化において、AgentReputationはリソース割り当て、アクセス制御、適応的な検証エスカレーションをサポートする決定対応のポリシーエンジンを提供する。
  論文  参考訳（メタデータ） (2026-04-30T12:33:39Z)
• The Landscape of Prompt Injection Threats in LLM Agents: From Taxonomy to Analysis [24.51410516475904]
  The Prompt Injection (PI) landscape, including attack, Defenses, and their evaluation practices。 我々は,コンテキストに依存したインタラクション設定下でエージェントの振る舞いを体系的に評価する新しいベンチマークであるAgentPIを紹介する。 我々は,文脈依存推論が不可欠である現実的なエージェント設定に一般化することができないが,文脈依存的入力を抑えることで,既存のベンチマークにおいて多くの防御が有効であることを示す。
  論文  参考訳（メタデータ） (2026-02-11T02:47:10Z)
• SoK: Trust-Authorization Mismatch in LLM Agent Interactions [16.633676842555044]
  大規模言語モデル(LLM)は、外の世界と対話できる自律エージェントへと急速に進化している。 本稿ではエージェント・インタラクション・セキュリティのための統一型フォーマルレンズを提供する。 本稿では,信頼と権限のギャップに着目した新たなリスク分析モデルを提案する。
  論文  参考訳（メタデータ） (2025-12-07T16:41:02Z)
• BadScientist: Can a Research Agent Write Convincing but Unsound Papers that Fool LLM Reviewers? [21.78901120638025]
  製造指向の紙生成エージェントがマルチモデルLCMレビューシステムを欺くことができるかどうかを考察する。 我々のジェネレータは、実際の実験を必要としないプレゼンテーション操作戦略を採用している。 健全な集約数学にもかかわらず、整合性検査は体系的に失敗する。
  論文  参考訳（メタデータ） (2025-10-20T18:37:11Z)
• Benchmarking is Broken -- Don't Let AI be its Own Judge [22.93026946593552]
  私たちは、AIを評価するための現在のlaissez-faireアプローチは持続不可能である、と論じます。 PeerBenchは、コミュニティが管理し、熟達した評価青写真である。 私たちのゴールは、完全性を回復し、真に信頼できるAI進歩の手段を提供するための評価の道を開くことです。
  論文  参考訳（メタデータ） (2025-10-08T21:41:37Z)
• Automatic Reviewers Fail to Detect Faulty Reasoning in Research Papers: A New Counterfactual Evaluation Framework [55.078301794183496]
  我々は、高品質なピアレビューを支えるコアレビュースキル、すなわち欠陥のある研究ロジックの検出に注力する。 これは、論文の結果、解釈、クレームの間の内部の一貫性を評価することを含む。 本稿では,このスキルを制御条件下で分離し,テストする,完全自動対物評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-08-29T08:48:00Z)
• Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
  本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。 我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。 私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
  論文  参考訳（メタデータ） (2025-08-12T09:42:56Z)
• The AI Imperative: Scaling High-Quality Peer Review in Machine Learning [49.87236114682497]
  AIによるピアレビューは、緊急の研究とインフラの優先事項になるべきだ、と私たちは主張する。 我々は、事実検証の強化、レビュアーのパフォーマンスの指導、品質改善における著者の支援、意思決定におけるAC支援におけるAIの具体的な役割を提案する。
  論文  参考訳（メタデータ） (2025-06-09T18:37:14Z)
• Cannot See the Forest for the Trees: Invoking Heuristics and Biases to Elicit Irrational Choices of LLMs [83.11815479874447]
  本研究では,人間の認知における認知的分解と偏見に触発された新しいジェイルブレイク攻撃フレームワークを提案する。 我々は、悪意のあるプロンプトの複雑さと関連バイアスを減らし、認知的分解を用いて、プロンプトを再編成する。 また、従来の二分的成功または失敗のパラダイムを超越したランキングベースの有害度評価指標も導入する。
  論文  参考訳（メタデータ） (2025-05-03T05:28:11Z)
• Risks of AI Scientists: Prioritizing Safeguarding Over Autonomy [65.77763092833348]
  この視点は、AI科学者の脆弱性を調べ、その誤用に関連する潜在的なリスクに光を当てる。 我々は、ユーザ意図、特定の科学的領域、およびそれらが外部環境に与える影響を考慮に入れている。 本稿では,人間規制,エージェントアライメント,環境フィードバックの理解を含む三段階的枠組みを提案する。
  論文  参考訳（メタデータ） (2024-02-06T18:54:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。