論文の概要: Evolutionary Computation for Trustworthy AI: From Attacks and Defenses to Self-Evolving Era

• arxiv url: http://arxiv.org/abs/2610.02996v1
• Date: Fri, 02 Oct 2026 08:29:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.283609
• Title: Evolutionary Computation for Trustworthy AI: From Attacks and Defenses to Self-Evolving Era
• Title（参考訳）: 信頼できるAIのための進化的計算:攻撃と防御から自己進化の時代へ
• Abstract要約: 進化計算(Evolutionary Computation、EC)は、集団に基づく、勾配のない探索と柔軟な変動と選択のメカニズムである。 この調査は、進化的攻撃、進化的防御、そして信頼できる自己進化型AIシステムという3つの方向において、ECが信頼できるAIに適用された方法についてレビューする。
• 参考スコア（独自算出の注目度）: 39.61461857687048
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As Artificial Intelligence (AI) has evolved from task-specific models to foundation models and agents, the scope of trustworthy AI has expanded from model-level robustness to the reliability and safety of broader AI systems. This evolution has also expanded the attack surface from individual models to broader system-level interactions, including tool use, context, and interaction trajectories with dynamic environments. As a result, maintaining reliable and safe behavior under changing or deliberately manipulated conditions has become increasingly challenging. The search for effective attacks and defenses often relies on black-box feedback to navigate discrete choices among words, actions, system components, or their combinations. Multiple objectives and expensive candidate evaluations further limit what can be explored. Evolutionary Computation (EC), with its population-based, gradient-free search and flexible variation and selection mechanisms, is well suited to these settings. This survey reviews how EC has been applied to trustworthy AI across three directions: evolutionary attacks, evolutionary defenses, and trustworthy self-evolving AI systems. Unlike prior reviews that treat trustworthy AI, EC, and self-evolving systems largely separately, we connect these lines through a common evolutionary perspective. For self-evolving AI, we examine how trustworthiness governs the generation and retention of updates that shape subsequent adaptation. We further synthesize evaluation methods and benchmark resources from both trustworthiness and evolutionary-search perspectives. Finally, we discuss key challenges and future research directions toward more effective and reliable use of EC in trustworthy AI.
• Abstract（参考訳）: 人工知能(AI)がタスク固有のモデルから基礎モデルやエージェントへと進化するにつれ、信頼できるAIの範囲は、モデルレベルの堅牢性から、より広範なAIシステムの信頼性と安全性へと拡大した。 この進化は、攻撃面を個々のモデルから、ツールの使用、コンテキスト、動的環境との相互作用軌跡を含むより広範なシステムレベルのインタラクションへと拡張した。 その結果、変更や故意に操作された条件下での信頼性と安全性の維持がますます困難になっている。 効果的な攻撃と防御の探索は、単語、アクション、システムコンポーネント、またはそれらの組み合わせ間の個別の選択をナビゲートするために、ブラックボックスのフィードバックに依存することが多い。 複数の目的と高価な候補評価により、探索可能なものはさらに制限される。 進化計算(Evolutionary Computation、EC)は、人口ベースで、勾配のない探索と柔軟な変動と選択のメカニズムを持ち、これらの設定によく適している。 この調査は、進化的攻撃、進化的防御、そして信頼できる自己進化型AIシステムという3つの方向において、ECが信頼できるAIに適用された方法についてレビューする。 信頼できるAI、EC、自己進化システムを主に別々に扱う以前のレビューとは異なり、これらのラインは共通の進化的な視点で接続する。 自己進化型AIでは、信頼性がその後の適応を形作る更新の生成と保持をいかに支配するかを検討する。 さらに、信頼性と進化研究の両方の観点から評価手法とベンチマーク資源を合成する。 最後に、信頼性の高いAIにおけるECのより効果的で信頼性の高い利用に向けた重要な課題と今後の研究方向性について論じる。

関連論文リスト

• Evolutionary Safety of Recursive Self-Improving AI: Taxonomy, Risk Discovery, and Evaluation [7.260011558484158]
  我々は、進化を通して安全性がどのように変化し、持続し、蓄積し、伝播するかを研究する。 我々は,永続的エージェント状態,モデル状態,評価と環境フィードバック,計算基板,メタレベル更新機構にまたがる分類法を開発した。 この分類に基づいて、我々は、進化的リスクが州、更新、軌跡、系統でどのように発見され、評価されるかを検討する。
  論文  参考訳（メタデータ） (2026-09-25T12:17:10Z)
• Trust as Monitoring: Evolutionary Dynamics of User Trust and AI Developer Behaviour [59.27481013639016]
  我々は、安全と安全でないAIのユーザー信頼戦略と開発者選択が、異なるレベルの監視コストと制度体制の下でどのように共存するかを研究する。 安全でない開発への採用、安全でないが広く採用されているシステム、そして広く採用されている安全なシステムです。
  論文  参考訳（メタデータ） (2026-03-25T19:04:23Z)
• A Comprehensive Review of AI Agents: Transforming Possibilities in Technology and Beyond [3.96715377510494]
  Reviewは、次世代のAIエージェントシステムを、より堅牢で適応性があり、信頼できる自律的知性へと導くことを目指している。 認知科学に触発されたモデル、階層的強化学習フレームワーク、および大規模言語モデルに基づく推論から洞察を合成する。 我々は、これらのエージェントを現実世界のシナリオに展開する際の倫理的、安全性、解釈可能性に関する懸念について論じる。
  論文  参考訳（メタデータ） (2025-08-16T07:38:45Z)
• A Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic Systems [53.37728204835912]
  既存のAIシステムは、デプロイ後も静的な手作業による構成に依存している。 近年,インタラクションデータと環境フィードバックに基づいてエージェントシステムを自動拡張するエージェント進化手法が研究されている。 この調査は、自己進化型AIエージェントの体系的な理解を研究者や実践者に提供することを目的としている。
  論文  参考訳（メタデータ） (2025-08-10T16:07:32Z)
• A Survey of Self-Evolving Agents: On Path to Artificial Super Intelligence [87.08051686357206]
  大きな言語モデル(LLM)は強力な能力を示しているが、基本的に静的である。 LLMはますますオープンでインタラクティブな環境にデプロイされているため、この静的な性質は重要なボトルネックとなっている。 この調査は、自己進化エージェントの体系的で包括的なレビューを初めて提供する。
  論文  参考訳（メタデータ） (2025-07-28T17:59:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。