論文の概要: MOLE: Detecting Insider Threats in AI Agents

• arxiv url: http://arxiv.org/abs/2609.06966v1
• Date: Mon, 07 Sep 2026 03:04:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.344421
• Title: MOLE: Detecting Insider Threats in AI Agents
• Title（参考訳）: MOLE:AIエージェントのインサイダー脅威検出
• Abstract要約: MOLEは、30日以上にわたって9つのステートフルサービスを共有する、150のAI運用アカウントのオープンベンチマークである。 39のエージェントモデルのうち、72%が最も割り当てられた有害な目的を完了し、エージェントの拒絶は完了を予測しない。 MOLEは、コーパスジェネレータ、可観測レベル、脅威間で40のモニターを比較することができる。
• 参考スコア（独自算出の注目度）: 24.05505413434997
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Model misalignment, prompt injection, or operator misuse could lead AI agents operating frontier-lab accounts to exfiltrate model weights, poison training data, or weaken release gates. Existing benchmarks do not test whether defenders can detect this activity among routine work under a limited review budget. We introduce MOLE, an open benchmark of 150 AI-operated accounts sharing 9 stateful services over 30 workdays, with 12 threats and 8 corpora from four models totaling roughly 20 billion tokens. Of 39 agent models, 72% complete most assigned harmful objectives and agent refusal does not predict completion. MOLE enables comparison of 40 monitors across corpus generators, observability levels, and threats; even the best evaluated monitor in our single-day audit-event comparison misses nearly half of completed harm. MOLE also enables monitor development: benchmark-guided search improves a mid-tier monitor by 49-64%, while selective use of a stronger monitor improves budget-AUC by 10% over applying it to every account-day at comparable modeled cost.
• Abstract（参考訳）: モデルミスアライメント、プロンプトインジェクション、オペレータの誤用は、フロンティアラブアカウントを操作するAIエージェントを誘導し、モデルウェイト、毒のトレーニングデータ、あるいはリリースゲートを弱める可能性がある。 既存のベンチマークでは、限定的なレビュー予算の下で、ディフェンダーが通常の作業の中でこのアクティビティを検出できるかどうかをテストしていない。 約200億トークンの4モデルから,12の脅威と8のコーパスを備えた,ステートフルな9つのサービスを30日以上にわたって共有する,150のAI運用アカウントのオープンベンチマークであるMOLEを紹介した。 39のエージェントモデルのうち、72%が最も割り当てられた有害な目標を完了し、エージェントの拒絶は完了を予測しない。 MOLEは、コーパスジェネレータ、オブザーバビリティレベル、脅威をまたいだ40のモニターの比較を可能にします。 MOLEはモニターの開発も可能で、ベンチマーク誘導検索は中層モニターを49～64%改善する一方、より強力なモニターを選択的に使用することで、同じコストでアカウントの日ごとに適用するよりも予算を10%改善する。

関連論文リスト

• ActBench: Self-Evolving Benchmark of Behavioral Safety in Cowork Agents [23.994328225666663]
  同僚は保護されたデータを開示し、不正な状態を操作し、不正なAPIを呼び出しながら、良質なタスクを完了することができる。 本稿では,行動安全を定義し,最終応答ではなく,実行軌跡からそのような行動リスクを評価するベンチマークであるActBenchを紹介する。 ActBenchには213のシナリオから600のケースが含まれており、15のリスク行動、6の実行スペース、48のWebサービスAPIがある。
  論文  参考訳（メタデータ） (2026-08-10T11:45:03Z)
• Cybersecurity Detection Classification with Reasoning-enabled Language Models [50.72675435043546]
  セキュリティオペレーションセンター(SOC)の大きな問題は、警告疲労である。 以前の作業では、大きな言語モデル(LLM)がトリアージラベルを直接出力するように促すか、あるいは微調整するが、検出が真の脅威であるかどうかを判断するよう訓練することはない。 我々は、実際の人間ラベルのWindowsエンドポイント検出に対して、推論可能なトリアージ分類器(CoT)を訓練する。
  論文  参考訳（メタデータ） (2026-07-30T16:22:13Z)
• Perception, Verdict, and Evolution: Hindsight-Driven Self-Refining Forensics Agent for AI-Generated Image Detection [80.15317858033534]
  ForeAgentは、反復的な自己進化を伴うAI生成画像検出のためのエージェント法医学フレームワークである。 ForeAgentはChameleonベンチマークで最先端のパフォーマンスを達成し、精度は82.18%に達した。 ForeAgent は GPT-5 や GPT-5-mini と比較して、より一貫性があり、因果的な推論をもたらす。
  論文  参考訳（メタデータ） (2026-06-25T02:59:33Z)
• Training Deliberative Monitors for Black-Box Scheming Detection [3.441374221174101]
  アクションオンリーの熟考モニターは、監視対象のエージェントの推論やモデル内部にアクセスすることなく、エージェントの軌道からのスケジュールを検出するように訓練されている。 本手法は,フロンティア教師から構造的有理性を引き出すために,スケジューリング仕様を用いる。 提案手法をQwen3.5-27Bに適用すると,低コストフロンティアモデルよりも高い性能が得られることを示す。
  論文  参考訳（メタデータ） (2026-05-28T08:40:32Z)
• The Capability Paradox: How Smarter Auditors Make Multi-Agent Systems Less Secure [11.822284421559814]
  これは、有害な要求がドメイン固有の物語の中に隠され、Workerレポートを通じてマネージャに伝達される攻撃である。 労働者の能力が増加するにつれて、平均的なシステムレベルの攻撃成功率(ASR)は18.4%から63.9%に増加し、94.4%がピークである。 非対称なドメイン能力とWorkersのペアを組み合わさった異種アンサンブル検証を提案する。
  論文  参考訳（メタデータ） (2026-05-17T14:42:44Z)
• SLEIGHT-Bench: A Benchmark of Evasion Attacks Against Agent Monitors [3.989565392866092]
  SLEIGHT-Bench (Subtle Low-itEration Insight-Guided Harmful Transcripts) は、11カテゴリにわたる40の攻撃を含む合成写本のベンチマークである。 40件中20件はOpus 4.6モニターで捕捉されず、10回の試験で1%の偽陽性率で思考を延長し、全体のキャッチレートは32%である。
  論文  参考訳（メタデータ） (2026-05-15T20:46:46Z)
• Claw-Eval: Toward Trustworthy Evaluation of Autonomous Agents [66.97968363332465]
  エージェントベンチマークの3つのギャップに対処するエンドツーエンド評価スイートであるClaw-Evalを紹介した。 Claw-Evalは3つのグループにまたがる9つのカテゴリにまたがる300の人間検証タスクで構成されている。 すべてのエージェントアクションは、3つの独立したエビデンスチャネルを通じて記録される。
  論文  参考訳（メタデータ） (2026-04-07T17:43:18Z)
• Penetration Testing of Agentic AI: A Comparative Security Analysis Across Models and Frameworks [0.0]
  Agentic AIは、従来のLLMセーフガードが対処できないセキュリティ脆弱性を導入する。 エージェントAIシステムの最初の体系的テストと比較評価を行う。 新たな「ハロシントコンプライアンス」戦略を含む6つの防衛行動パターンを同定する。
  論文  参考訳（メタデータ） (2025-12-16T19:22:50Z)
• LIMI: Less is More for Agency [49.63355240818081]
  LIMI(Less Is More for Intelligent Agency)は、機関が根本的に異なる開発原則に従うことを示す。 高度なエージェント・インテリジェンスは、最小でも戦略的にキュレートされた自律行動のデモンストレーションから生まれる可能性がある。 マシンの自律性はデータの豊富さではなく、高品質なエージェント実証の戦略的キュレーションから生まれる。
  論文  参考訳（メタデータ） (2025-09-22T10:59:32Z)
• Security Challenges in AI Agent Deployment: Insights from a Large Scale Public Competition [101.86739402748995]
  44の現実的なデプロイメントシナリオを対象とした,22のフロンティアAIエージェントを対象にしています。 Agent Red Teamingベンチマークを構築し、19の最先端モデルで評価します。 私たちの発見は、今日のAIエージェントの重要かつ永続的な脆弱性を浮き彫りにしたものです。
  論文  参考訳（メタデータ） (2025-07-28T05:13:04Z)
• AegisLLM: Scaling Agentic Systems for Self-Reflective Defense in LLM Security [74.22452069013289]
  AegisLLMは、敵の攻撃や情報漏洩に対する協調的なマルチエージェント防御である。 テスト時のエージェント推論システムのスケーリングは,モデルの有用性を損なうことなく,ロバスト性を大幅に向上させることを示す。 アンラーニングやジェイルブレイクを含む主要な脅威シナリオに対する総合的な評価は、AegisLLMの有効性を示している。
  論文  参考訳（メタデータ） (2025-04-29T17:36:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。