論文の概要: Trustworthy Recursive Self-Improvement in the Era of Large Models: Foundation, Risks, Evaluation and Open Challenges

• arxiv url: http://arxiv.org/abs/2610.35193v1
• Date: Mon, 26 Oct 2026 10:46:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.832638
• Title: Trustworthy Recursive Self-Improvement in the Era of Large Models: Foundation, Risks, Evaluation and Open Challenges
• Title（参考訳）: 大規模モデル時代における信頼できる再帰的自己改善--財団、リスク、評価、オープンチャレンジ
• Abstract要約: 再帰的自己改善(RSI)は、このプロセスを誘導的バイアスや将来の更新を管理するメカニズムにまで拡張する。 本調査では,RSIの運用定義とプロセスの枠組みを提示し,信頼性の高いRSIの要件を4つの相互接続テーマに整理する。
• 参考スコア（独自算出の注目度）: 14.875084451845899
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: AI systems built around large models increasingly use experience and feedback to make persistent changes to models, prompts, memories, tools, and workflows. Recursive self-improvement (RSI) extends this process to inductive biases and to the mechanisms that govern future updates, which can themselves be revised and reused across improvement cycles. Yet self-modification alone does not guarantee trustworthy improvement. Reported gains may reflect flawed evaluations, previously acquired capabilities may deteriorate, and compliance with behavioral constraints may weaken. Compromised artifacts or sensitive information may also persist in successor systems. Changes to improvement mechanisms may invalidate earlier verification results and make human oversight less effective. This survey presents an operational definition and process framework for RSI and organizes the requirements for trustworthy RSI into four interconnected themes: genuine and sustained improvement; behavioral constraints, alignment, and fairness; system security and privacy; and transparency and controllability. We examine these themes from three perspectives: Improvement Validity, Constraint Preservation, and Effective Oversight. This analysis covers improvement diagnosis, proposal generation, proposal evaluation, and update implementation (S1--S4), including the recursive application of these stages to improvement mechanisms (RI). We review risks, safeguards, and evaluation evidence for individual updates, effects inherited by successor systems, and revisions to improvement mechanisms, while distinguishing direct RSI findings from evidence in related systems. Finally, we examine evaluation settings, identify requirements for independent and longitudinal assessment, and discuss applications and open research problems.
• Abstract（参考訳）: 大規模なモデルを中心に構築されたAIシステムは、モデル、プロンプト、メモリ、ツール、ワークフローに永続的な変更を行うために、経験とフィードバックをますます利用しています。 再帰的自己改善(Recursive self-improvement、RSI)は、このプロセスを、帰納的バイアスや将来の更新を管理するメカニズムにまで拡張します。 しかし、自己修正だけでは、信頼できる改善を保証しません。 報告された利得は、欠陥のある評価を反映し、以前に取得した能力が劣化し、行動制約への準拠が弱まる可能性がある。 妥協されたアーティファクトや機密情報は、後継システムでも継続することができる。 改善メカニズムの変更は、早期の検証結果を無効にし、人間の監視力を低下させる可能性がある。 本調査では,RSIの運用定義とプロセスの枠組みを提示し,信頼性の高いRSIの要件を,真かつ持続的な改善,行動制約,アライメント,公正性,システムのセキュリティとプライバシ,透明性と可制御性の4つのテーマに整理した。 これらのテーマを,改善妥当性,制約保存,有効監視の3つの視点から検討する。 本分析では, 改善メカニズム (RI) への再帰的適用を含む, 改善診断, 提案生成, 提案評価, 更新実装 (S1-S4) について述べる。 我々は、個別の更新、後継システムによる影響、改善メカニズムの見直しに関するリスク、安全、評価の証拠をレビューし、関連するシステムにおける証拠と直接RSIの知見を区別する。 最後に, 評価設定を検証し, 独立・縦断的評価の要件を特定し, 応用とオープンな研究課題について検討する。

関連論文リスト

• Self-Evolving Agent Harness [35.97277648771392]
  Harness自己進化(Harness self-evolution)は、プロンプト、メモリ、足場、実行可能コンポーネントを含むエージェントのソフトウェアを修正し、モデルの重みを固定する。 承認されたリビジョンが実行中に持続するフィードバック駆動プロセスを形式化する。 本研究では,知識共有と組織的信頼性の持続的改善が科学的信頼性,物理的安全性,制度的説明責任にどのような影響を及ぼすかを検討する。
  論文  参考訳（メタデータ） (2026-10-13T17:48:49Z)
• The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement [66.06470438483697]
  再帰的自己改善(Recursive self-improvement、RSI)は、AIシステムが経験とフィードバックを永続的な変化に変え、能力と将来の改善プロセスの両方を改善することを可能にする。
  論文  参考訳（メタデータ） (2026-09-10T17:44:23Z)
• Safe Harness Self-Evolution: A Theoretical Analysis of Feasibility and Limits [36.26511953633407]
  Harness self-evolutionは、エージェントがタスクフィードバックに応じてプロンプト、ツール、コード、オーケストレーションを変更するプロセスである。 安全ハーネス自己進化の可能性と限界を体系的に理論的に分析する。
  論文  参考訳（メタデータ） (2026-09-08T03:04:39Z)
• From Holistic Evaluation to Structured Criteria: Rubrics Across the Evolving LLM Landscape [79.30826980815927]
  ルーブリックは、複雑な品質判断を構造化され、実行可能な標準に変換する明示的な基準セットです。 我々は,既存のルーリックデザインを体系的に整理し,その構築と最適化を検証し,評価と訓練をまたいだ役割を解析する。
  論文  参考訳（メタデータ） (2026-06-07T13:34:55Z)
• Referential Security as a New Paradigm for AI Evaluations [5.748110232428846]
  我々は,AI評価の新しいパラダイムとして参照セキュリティを提案する。 このアプローチは、モデルアイデンティティを経験的に検証可能な性質として再設計し、参照安定性を実体セキュリティが条件としているものと区別する。
  論文  参考訳（メタデータ） (2026-05-25T10:24:10Z)
• Audited Skill-Graph Self-Improvement for Agentic LLMs via Verifiable Rewards, Experience Synthesis, and Continual Memory [3.7163033180152536]
  Audited Skill-Graph Self-Improvementは、自己改善をエージェントの反復的なコンパイルとしてスキルグラフに扱うフレームワークである。 本稿では,完全なシステムアーキテクチャ,脅威モデル,セキュリティ解析を提案し,完全に実行可能な参照実装を提供する。
  論文  参考訳（メタデータ） (2025-12-28T19:39:47Z)
• Trust, But Verify: A Self-Verification Approach to Reinforcement Learning with Verifiable Rewards [67.86091419220816]
  大規模言語モデル(LLM)は複雑な推論において非常に有望である。 一般的な問題は表面的な自己回帰であり、モデルが自身の出力をしっかりと検証できない。 本稿では、RISE(Reinforce Reasoning with Self-Verification)という新しいオンラインRLフレームワークについて紹介する。
  論文  参考訳（メタデータ） (2025-05-19T17:59:31Z)
• Towards Trustworthy Retrieval Augmented Generation for Large Language Models: A Survey [92.36487127683053]
  Retrieval-Augmented Generation (RAG)は、AIGC(AIGC)の課題に対処するために設計された高度な技術である。 RAGは信頼性と最新の外部知識を提供し、幻覚を減らし、幅広いタスクで関連するコンテキストを保証する。 RAGの成功と可能性にもかかわらず、最近の研究により、RAGパラダイムはプライバシーの懸念、敵対的攻撃、説明責任の問題など、新たなリスクももたらしていることが示されている。
  論文  参考訳（メタデータ） (2025-02-08T06:50:47Z)
• Trustworthiness in Retrieval-Augmented Generation Systems: A Survey [59.26328612791924]
  Retrieval-Augmented Generation (RAG)は、大規模言語モデル(LLM)の開発において、急速に重要なパラダイムへと成長してきた。 本稿では,RAGシステムの信頼性を,事実性,堅牢性,公正性,透明性,説明責任,プライバシの6つの面で評価する統一的な枠組みを提案する。
  論文  参考訳（メタデータ） (2024-09-16T09:06:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。