論文の概要: Agent-Native Immune System: Architecture, Taxonomy, and Engineering

• arxiv url: http://arxiv.org/abs/2606.28270v1
• Date: Fri, 26 Jun 2026 17:08:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-29 18:24:25.544935
• Title: Agent-Native Immune System: Architecture, Taxonomy, and Engineering
• Title（参考訳）: エージェント依存免疫システム:建築・分類・工学
• Abstract要約: 周辺警備や訓練時間アライメントといった現在の防御機構は、エージェントのアクティブな推論ループの外にある。 エージェント-Native Immune System (ANIS) は, エージェントの認知ループに直接埋め込まれた, 生体にインスパイアされた内因性防御アーキテクチャである。
• 参考スコア（独自算出の注目度）: 6.448956052955995
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The transition from static chat bots to autonomous agents--equipped with persistent memory, tool-use protocols, and multi-agent collaboration--has fundamentally expanded the AI threat landscape. Current defense mechanisms, such as perimeter security and training-time alignment, remain external to the agent's active reasoning loop. Consequently, they fall short: a fully aligned agent remains highly vulnerable to runtime hijacking via memory poisoning, tool-chain manipulation, or multi-agent protocol attacks. To address this critical gap, we introduce the Agent-Native Immune System (ANIS), the first biologically inspired, endogenous defense architecture embedded directly within the agent's cognitive loop. Our framework presents four primary contributions. First, we design a six-layer Immune Tower (L0-L5), distinctly incorporating Barrier Immunity (L1) as a non-cognitive, physical-and-logical isolation layer. Second, we establish a unified taxonomy of Agent Viruses and Agent Vaccines, formalizing the critical distinction between superficial non-parametric defenses and robust parametric vaccines. Third, we conceptualize the Harness Triad--Meta, Self, and Auto--a self-monitoring, meta-cognitive automation backbone that drives Continual Immune Learning (CIL), enabling vaccines to dynamically adapt to novel threats. Finally, we establish a rigorous theoretical demarcation between model alignment and agent immunity: while alignment provides a static "constitutional" value foundation during training, ANIS serves as the dynamic "law enforcement" mechanism during runtime. We conclude by framing open challenges for the field, including immune protocol standardization, novel evaluation metrics such as the Autoimmunity Rate (false-positive intervention rate), and the co-evolutionary dynamics between pathogens and vaccines within collective intelligence ecosystems.
• Abstract（参考訳）: 静的チャットボットから自律エージェントへの移行 – 永続メモリ、ツール使用プロトコル、マルチエージェントコラボレーション – は、AI脅威の世界を根本的に拡大した。 周辺警備や訓練時間アライメントといった現在の防御機構は、エージェントのアクティブな推論ループの外にある。 完全に整合したエージェントは、メモリ中毒、ツールチェーン操作、マルチエージェントプロトコル攻撃による実行時のハイジャックに対して、非常に脆弱である。 この重要なギャップに対処するために,エージェント-Native Immune System (ANIS)を導入した。 私たちのフレームワークには4つの主要なコントリビューションがあります。 まず,6層式免疫塔 (L0-L5) を設計し, バリア免疫(L1)を非認知的・物理的分離層として組み込んだ。 第2に,ウイルスとワクチンの統一分類を確立し,表面的非パラメトリック防衛とロバストパラメトリックワクチンの区別を定式化した。 第3に,持続的免疫学習(Continuous Immune Learning, CIL)を駆動する自己監視型メタ認知自動化バックボーンであるHarness Triad-Meta, Self, Autoを概念化し,ワクチンが新たな脅威に動的に適応できるようにする。 最後に、モデルアライメントとエージェント免疫との間に厳密な理論的境界を確立する。アライメントはトレーニング中に静的な「構成的」価値基盤を提供するが、ANISは実行時に動的「法執行」メカニズムとして機能する。 我々は、免疫プロトコルの標準化、自己免疫率(偽陽性介入率)などの新しい評価指標、および集団知能生態系内の病原体とワクチンの共進化ダイナミクスなど、この分野のオープンな課題を議論することで結論付けた。

関連論文リスト

• Safety in Self-Evolving LLM Agent Systems: Threats, Amplification, and Case Studies [62.65225104423404]
  自己進化エージェントシステムは、敵の影響力が永久に符号化される、質的に新しい脅威の風景を導入します。 モジュール・ライフサイクル・アタック・サーフェス・マトリックスを中心に組織化されたセキュリティとプライバシの分析を行った。 その結果, 自己進化は, 既知のすべての攻撃カテゴリをセッションバウンドからラインパーシスタントに変換することがわかった。
  論文  参考訳（メタデータ） (2026-06-22T09:23:50Z)
• The Devil Behind Moltbook: Anthropic Safety is Always Vanishing in Self-Evolving AI Societies [57.387081435669835]
  大規模言語モデルから構築されたマルチエージェントシステムは、スケーラブルな集合知性と自己進化のための有望なパラダイムを提供する。 エージェント社会が継続的自己進化、完全隔離、安全性の不変性を満たすことは不可能であることを示す。 我々は、特定された安全上の懸念を軽減するために、いくつかの解決方法を提案する。
  論文  参考訳（メタデータ） (2026-02-10T15:18:19Z)
• INFA-Guard: Mitigating Malicious Propagation via Infection-Aware Safeguarding in LLM-Based Multi-Agent Systems [70.37731999972785]
  本稿では,感染防止対策の枠組みであるINFA-Guardを提案する。 修復中、INFA-Guardは攻撃者を置き換え、感染した者を修復し、トポロジカルな整合性を維持しながら悪意のある伝播を避ける。
  論文  参考訳（メタデータ） (2026-01-21T05:27:08Z)
• Alignment Tipping Process: How Self-Evolution Pushes LLM Agents Off the Rails [103.05296856071931]
  本稿では,自己進化型大規模言語モデル(LLM)エージェントに特有の,アライメント・ティッピング・プロセス(ATP)を同定する。 ATPは、連続的な相互作用によってエージェントが訓練中に確立されたアライメント制約を放棄し、強化された自己関心の戦略を支持するときに生じる。 実験の結果、アライメントの利点は自己進化の下で急速に低下し、最初は整合性のない状態に収束したモデルであることが判明した。
  論文  参考訳（メタデータ） (2025-10-06T14:48:39Z)
• Your Agent May Misevolve: Emergent Risks in Self-evolving LLM Agents [58.69865074060139]
  エージェントの自己進化が意図しない方法で逸脱し、望ましくない結果や有害な結果に至る場合について検討する。 我々の経験から、誤進化は広範囲にわたるリスクであり、最上位のLSM上に構築されたエージェントにも影響を及ぼすことが判明した。 我々は、より安全で信頼性の高い自己進化型エージェントを構築するためのさらなる研究を促すための潜在的な緩和戦略について議論する。
  論文  参考訳（メタデータ） (2025-09-30T14:55:55Z)
• Cowpox: Towards the Immunity of VLM-based Multi-Agent Systems [25.286964510949183]
  核となるセキュリティ特性は堅牢性であり、システムは敵の攻撃下でその整合性を維持するべきである、と述べている。 我々は,マルチエージェントシステムのロバスト性を高めるための新しい防衛手法,Cowpoxを提案する。
  論文  参考訳（メタデータ） (2025-08-12T07:48:51Z)
• QSAF: A Novel Mitigation Framework for Cognitive Degradation in Agentic AI [2.505520948667288]
  エージェントAIシステムにおける新たな脆弱性クラスとして認知劣化を導入する。 これらの障害は、メモリの飢餓、プランナーの再帰、コンテキストの洪水、出力の抑制によって内部的に発生する。 この種の障害に対処するため、我々はQorvex Security AI Framework for Behavioral & Cognitive Resilienceを紹介します。
  論文  参考訳（メタデータ） (2025-07-21T07:41:58Z)
• PeerGuard: Defending Multi-Agent Systems Against Backdoor Attacks Through Mutual Reasoning [8.191214701984162]
  マルチエージェントシステムは、複雑なタスクを完了させたり、協力したり、競合したりする自律エージェントとして、高度なAIモデルを活用する。 重要性は増しているが、マルチエージェントシステムの安全性はいまだに未調査である。 本研究では,マルチエージェントシステムにおけるバックドア脆弱性を調査し,エージェントインタラクションに基づく防御機構を提案する。
  論文  参考訳（メタデータ） (2025-05-16T19:08:29Z)
• RAILS: A Robust Adversarial Immune-inspired Learning System [15.653578249331982]
  我々は、Robust Adversarial Immune-inspired Learning System (RAILS)と呼ばれる新しい対人防御フレームワークを提案する。 RAILSは、病原体による攻撃からホストを守るために使用される生物学的メカニズムをシリコでエミュレートする適応免疫システムエミュレーション(AISE)を組み込んでいます。 RAILS学習曲線は, 生体内実験で観察されたように, 多様性選択学習フェーズを示す。
  論文  参考訳（メタデータ） (2020-12-18T19:47:12Z)
• Adversarial vs behavioural-based defensive AI with joint, continual and active learning: automated evaluation of robustness to deception, poisoning and concept drift [62.997667081978825]
  人工知能(AI)の最近の進歩は、サイバーセキュリティのための行動分析(UEBA)に新たな能力をもたらした。 本稿では、検出プロセスを改善し、人間の専門知識を効果的に活用することにより、この攻撃を効果的に軽減するソリューションを提案する。
  論文  参考訳（メタデータ） (2020-01-13T13:54:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。