論文の概要: Magnet: Detecting Cross-Session AI Misuse Through Capability Accumulation

• arxiv url: http://arxiv.org/abs/2608.02518v1
• Date: Mon, 03 Aug 2026 17:15:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-04 15:07:25.727276
• Title: Magnet: Detecting Cross-Session AI Misuse Through Capability Accumulation
• Title（参考訳）: マグネット:能力蓄積によるクロスセッションAIのミス検出
• Abstract要約: 最先端のAI不正検出文献のほとんどは、シングルターンまたはマルチターン(シングルセッション)脅威モデルに焦点を当てている。 攻撃者は有害な目標を無害なユニットに分解し、分離されたエージェントセッションでそれぞれを実行することができる。 我々は,時間的およびエージェント的会話を通じて発生する関連機能をモデル化した,効率的で堅牢な検出手法であるマグネットを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The most capable AI deployments are not single models but ensembles of specialized agents that delegate and act in coordination. This architecture unlocks powerful new capabilities, and it also introduces risks that existing frameworks for monitoring, detection, and mitigation were not designed to address. Most state-of-the-art AI abuse detection literature focuses on single-turn or multi-turn (single-session) threat models. This leaves a critical gap: an attacker can decompose a harmful goal into innocuous-looking units and execute each in isolated agentic sessions. The agent is stateless between conversations, but the attacker is not. This asymmetry allows for cross-session trajectories that are effective at evading detection. Our contributions are twofold. First, we demonstrate cross-session goal decomposition as an evasion technique, showing it may elicit more harmful capability than equivalent single-session or multi-turn attacks. By capability we mean an artifact produced at one step of an objective, evidenced by what an interaction produced (model responses and tool-call results), and composable with capabilities accrued elsewhere into a harmful whole. Second, we propose Magnet: an efficient and robust detection approach that models relevant capabilities accrued over time and across agentic conversations, aggregated at a higher-level correlator (in this case, a user ID) rather than per-conversation state. The main challenge is assembling the evidence bundle Magnet reasons over. The incriminating artifacts may be needles scattered through a haystack of benign sessions that are individually harmless, dangerous only once collected. Rather than searching the haystack straw-by-straw (i.e. per-session inspection), Magnet does what its name implies: it attracts the relevant needles out of the hay, across sessions and across time, into a compact evidence bundle a detector can act on.
• Abstract（参考訳）: 最も有能なAIデプロイメントは、単一のモデルではなく、協調して行動する専門エージェントのアンサンブルである。 このアーキテクチャは強力な新機能を解放し、監視、検出、緩和のための既存のフレームワークが対処するように設計されていないリスクももたらします。 最先端のAI不正検出文献の多くは、シングルターンまたはマルチターン(シングルセッション)脅威モデルに焦点を当てている。 攻撃者は有害な目標を無害なユニットに分解し、分離されたエージェントセッションでそれぞれを実行することができる。 エージェントは会話の間にステートレスだが、攻撃者はそうではない。 この非対称性は、検出を回避するのに有効な断続軌道を可能にする。 私たちの貢献は2倍です。 まず、回避手法としてクロスセッション目標分解を実証し、等価なシングルセッション攻撃やマルチターン攻撃よりも有害な能力をもたらす可能性があることを示す。 能力によっては、目的の1ステップで生成されたアーティファクトを意味し、相互作用が生成したもの(モデル応答とツール呼び出し結果)によって証明され、他の場所で有害な全体へと蓄積される能力で構成できる。 第二に、マグネット(Magnetic)は、時間とエージェント間の会話を通じて蓄積される関連機能をモデル化する、効率的でロバストな検出手法であり、会話の状態ではなく、より高いレベルの相関器(この場合、ユーザID)に集約する。 主な課題は、マグネットの理由をまとめた証拠を組み立てることだ。 有害なアーティファクトは、個々に無害で、一度だけ収集された危険な、良質なセッションの干し草の山に散らばる針かもしれない。 マグネットは、干し草のストロー・バイ・ストロー(すなわち、セッションごとの検査)を探索する代わりに、その名の通り、ヘイから、セッションや時間を通じて、関連する針を検知器が実行可能なコンパクトなエビデンスに惹きつける。

関連論文リスト

• One Turn Too Late: Response-Aware Defense Against Hidden Malicious Intent in Multi-Turn Dialogue [55.98008208209856]
  マルチターン対話における隠れた悪意のある意図は、大規模言語モデル(LLM)に対する脅威を増大させる 近年の研究では、安全アライメントや外部ガードレールの進歩にもかかわらず、高度なガードレールを備えた近代的な商用モデルでさえも、このような攻撃に対して脆弱であることが示されている。 そこで本研究では,この課題に対処するため,最も早いタイミングで候補応答を届けることによって,蓄積された相互作用が有害な作用を可能にするのに十分であることを示す。
  論文  参考訳（メタデータ） (2026-05-07T03:35:31Z)
• Can an Individual Manipulate the Collective Decisions of Multi-Agents? [53.01767232004823]
  M-Spoilerは、マルチエージェントシステム内のエージェントインタラクションをシミュレートして、対向サンプルを生成するフレームワークである。 M-スポイラーは、敵対的サンプルの最適化を積極的に支援するスタブボーン剤を導入した。 本研究は,マルチエージェントシステムにおける個々のエージェントの知識によって引き起こされるリスクを検証した。
  論文  参考訳（メタデータ） (2025-09-20T01:54:20Z)
• Seamless Detection: Unifying Salient Object Detection and Camouflaged Object Detection [73.85890512959861]
  本稿では,SOD(Salient Object Detection)とCOD(Camouflaged Object Detection)を統合化するためのタスク非依存フレームワークを提案する。 我々は、間隔層と大域的コンテキストを含む単純で効果的なコンテキストデコーダを設計し、67fpsの推論速度を実現する。 公開SODデータセットとCODデータセットの実験は、教師なし設定と教師なし設定の両方において、提案したフレームワークの優位性を実証している。
  論文  参考訳（メタデータ） (2024-12-22T03:25:43Z)
• HOLMES: to Detect Adversarial Examples with Multiple Detectors [1.455585466338228]
  HOLMESは、高い精度と偽陽性率の低い複数の攻撃から、テクスチュンシンの敵の例を識別することができる。 我々の効果的で安価な戦略は、オリジナルのDNNモデルを変更したり、内部パラメータを必要としたりしない。
  論文  参考訳（メタデータ） (2024-05-30T11:22:55Z)
• Multi-granular Adversarial Attacks against Black-box Neural Ranking Models [111.58315434849047]
  多粒性摂動を取り入れた高品質な逆数例を作成する。 我々は,多粒体攻撃を逐次的意思決定プロセスに変換する。 本手法は,攻撃の有効性と非受容性の両方において,一般的なベースラインを超えている。
  論文  参考訳（メタデータ） (2024-04-02T02:08:29Z)
• Scalable Attribution of Adversarial Attacks via Multi-Task Learning [11.302242821058865]
  敵帰属問題(Adversarial Attribution Problem, AAP)は、敵の例を生成するために用いられる。 MTAA(Multi-Task Adversarial Attribution)というマルチタスク学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-02-25T12:27:44Z)
• A Minimax Approach Against Multi-Armed Adversarial Attacks Detection [31.971443221041174]
  多武装の敵攻撃は、最先端の検出器を騙すことに成功している。 本稿では,複数の事前学習型検出器のソフト・確率出力をミニマックス・アプローチで集約する手法を提案する。 我々は,アグリゲーションが,多腕対人攻撃に対する個々の最先端検出器より一貫して優れていることを示す。
  論文  参考訳（メタデータ） (2023-02-04T18:21:22Z)
• Understanding the Vulnerability of Skeleton-based Human Activity Recognition via Black-box Attack [53.032801921915436]
  HAR(Human Activity Recognition)は、自動運転車など、幅広い用途に採用されている。 近年,敵対的攻撃に対する脆弱性から,骨格型HAR法の堅牢性に疑問が呈されている。 攻撃者がモデルの入出力しかアクセスできない場合でも、そのような脅威が存在することを示す。 BASARと呼ばれる骨格をベースとしたHARにおいて,最初のブラックボックス攻撃手法を提案する。
  論文  参考訳（メタデータ） (2022-11-21T09:51:28Z)
• Illusory Attacks: Information-Theoretic Detectability Matters in Adversarial Attacks [76.35478518372692]
  エプシロン・イリューソリー(epsilon-illusory)は、シーケンシャルな意思決定者に対する敵対的攻撃の新たな形態である。 既存の攻撃と比較して,エプシロン・イリューソリーの自動検出は極めて困難である。 以上の結果から, より優れた異常検知器, 効果的なハードウェアおよびシステムレベルの防御の必要性が示唆された。
  論文  参考訳（メタデータ） (2022-07-20T19:49:09Z)
• MEAD: A Multi-Armed Approach for Evaluation of Adversarial Examples Detectors [24.296350262025552]
  いくつかの攻撃戦略に基づいて検知器を評価するための新しいフレームワークMEADを提案する。 そのうちの1つは、攻撃を起こすための3つの新しい目的である。 提案したパフォーマンス指標は最悪のシナリオに基づいている。
  論文  参考訳（メタデータ） (2022-06-30T17:05:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。