論文の概要: Auditing Self-Evolution in Financial Agents: Capability Gains, Security Drift, and Execution-Interface Mismatch

• arxiv url: http://arxiv.org/abs/2608.17684v1
• Date: Tue, 18 Aug 2026 11:57:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-19 21:40:53.328973
• Title: Auditing Self-Evolution in Financial Agents: Capability Gains, Security Drift, and Execution-Interface Mismatch
• Title（参考訳）: 金融エージェントにおける自己進化の監査:能力向上、セキュリティの低下、実行-インターフェースミスマッチ
• Abstract要約: 自己進化型エージェントは、経験を再利用可能なスキル、記憶、記憶に変えるが、進化後の精度だけでは、学習した行動が以前正しい行動やセキュリティを保持するかどうかを示さない。 我々はSkillOpt、Agens Memory、ReasoningBankを、一致する良性獲得トラジェクトリ、封印された評価エンドポイント、実行済みチェック、独立状態リプレイを使用して、模擬eバンキングで監査する。
• 参考スコア（独自算出の注目度）: 1.2402418528920522
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Self-evolving agents turn experience into reusable skills, workflows, or memories, but post-evolution accuracy alone does not show whether learned behavior preserves previously correct behavior or security. We audit SkillOpt, Agent Workflow Memory (AWM), and ReasoningBank in simulated e-banking using matched benign acquisition trajectories, sealed evaluation endpoints, execution-grounded checks, and independent state replay. On Qwen 3.7 Flash, SkillOpt raises benign utility from 0.741 to 0.837 while exposure to injected content rises from 0.820 to 0.943. Conditional attack success after exposure falls from 0.605 to 0.562, yet overall attack success rate (ASR) rises from 0.496 to 0.530 and unauthorized financial state changes rise to 0.685. Across three independently evolved lineages, capability, exposure, and unauthorized-state changes increase in all three, whereas ASR increases in only two. ReasoningBank raises utility to 0.859 without increasing aggregate ASR, although unauthorized state changes remain slightly above Static. AWM reveals a separate evaluation hazard: a literal WebArena text-action envelope disrupts tool execution in our native function-calling executor. In a post-hoc sensitivity test, removing only that envelope restores utility from 0.319 to 0.756, while exposure rises from 0.299 to 0.909 and ASR from 0.195 to 0.575. Auditing self-evolving financial agents therefore requires tracking regressions, attack-surface contact, unauthorized financial-state change, and artifact-executor compatibility, not accuracy alone.
• Abstract（参考訳）: 自己進化型エージェントは、経験を再利用可能なスキルやワークフロー、記憶に変えるが、進化後の精度だけでは、学習した振る舞いが以前正しい行動やセキュリティを保持するかどうかを示さない。 SkillOpt, Agent Workflow Memory (AWM) および ReasoningBank を,一致した良性獲得トラジェクトリ,封印された評価エンドポイント,実行ベースチェック,独立状態リプレイを用いてシミュレーションした e-banking で監査する。 Qwen 3.7 Flash では、SkillOpt は良性ユーティリティを 0.741 から 0.837 に引き上げ、注入されたコンテンツへの露出は 0.820 から 0.943 に上昇する。 暴露後の条件付き攻撃成功率は0.605から0.562に低下するが、全体的な攻撃成功率(ASR)は0.496から0.530に上昇し、不正な金融状態の変化は0.685に上昇する。 独立に進化した3つの系統、能力、露出、無許可状態の変化は3つすべてで増加し、一方ASRは2つしか増加しない。 ReasoningBank は ASR の総数を増やすことなく 0.859 にユーティリティを引き上げているが、許可されていない状態は Static よりわずかに上回っている。 文字通りのWebArenaテキストアクションエンベロープは、ネイティブ関数呼び出しエグゼキュータにおけるツールの実行を妨害します。 ポストホック感度テストでは、エンベロープのみが効用を0.319から0.756に除去し、露光は0.299から0.909に、ASRは0.195から0.575に上昇する。 そのため、自己進化型金融エージェントの監査には、レグレッションの追跡、攻撃面の接触、不正な金融状態の変化、およびアーチファクト・エグゼクティブ・エグゼクティブの互換性が必要であり、正確性だけではない。

関連論文リスト

• Adaptive Cost-Sensitive Machine Learning for Autonomous Robot Navigation Failure Prediction: When Not All Errors Are Equal [0.0]
  信頼感下での低速度での近距離距離は、急速運動、近接障害物アプローチ、劣化知覚において同じ事象と等価ではない。 本稿では、ナビゲーション障害予測を結果に敏感な予測として再設定する。 エピソードレベルのグループKFoldを用いて,2000回のディファレンシャルドライブエピソードの評価を行った。
  論文  参考訳（メタデータ） (2026-09-04T17:45:51Z)
• TRACE: A Self-Evolving Skill Bank for Consistent, Limit-Aware LLM Agents [41.82249291285459]
  TRACEは、モデルウェイトを変更することなく、スキルベースのエージェントの行動知識を反復的に改善する。 GPT-5.5では、TRACEは一貫性(Pass3)を34.6ポイント改善し、59.9%から94.5%に改善した。 これらの結果から,TRACEは高モデルポテンシャルを安定かつ一貫した性能向上に変換することを示した。
  論文  参考訳（メタデータ） (2026-08-24T04:36:03Z)
• ClawSentry: A Progressive Multi-Tier Security Monitor for Safeguarding Autonomous LLM Agents [24.540638169054812]
  悪意のあるサードパーティのスキルにハイジャックされた単一のエージェントは、データの流出、特権のエスカレーション、カスケード妥協を引き起こす可能性がある。 我々は、エージェントランタイムのためのオープンソースのフレームワークに依存しないセキュリティ監視ゲートウェイであるClawSentryを紹介する。
  論文  参考訳（メタデータ） (2026-08-21T13:47:51Z)
• Beyond Pass@k: Measuring Reliability and Security of Agentic Code Generation [2.1734195143282693]
  我々は,n = 独立ロールアウトとc = 完全パスロールアウト(タスク,エージェント)ペアで適用したのと同じ推定器であるReliability@kを提案する。 機能的正当性がセキュリティの安全性を示唆しないという証拠によって、セキュリティ調整された信頼性も提案する。
  論文  参考訳（メタデータ） (2026-08-11T16:01:15Z)
• Beyond Accuracy: Auditing Spatial Provenance in Visual Token Pruning for OCR-Critical MLLM Inference [22.335515110971475]
  ビジュアルトーケンプルーニングは、一定保持予算における応答品質によって判断される。 私たちはこの盲点を、幾何学的トークン・オリジンの証明によってカップルが行動に答えるエビデンスリスク監査にします。 目的検証ポイントがタスク汎用圧縮を含まないことを示す。
  論文  参考訳（メタデータ） (2026-07-29T13:45:31Z)
• Evaluation Awareness Is Not One Capability: Evidence from Open Language Models [1.758143872501506]
  安全ベンチマークは、テスト条件の振る舞いがデプロイメントの振る舞いを予測すると仮定する。 これにより、ベンチマークパフォーマンスとデプロイメントの動作のギャップが開ける。 我々は、37のオープンウェイトモデルと7つのファミリーにわたる8つの実験を通して、この評価意識を特徴づける。
  論文  参考訳（メタデータ） (2026-06-22T16:48:43Z)
• Benign in Isolation, Harmful in Composition: Security Risks in Agent Skill Ecosystems [23.358909383628824]
  スキル・コンポジション・リスク(SCR)は、アウトプット、信頼信号、認可手順、あるいは後続の呼び出しにアクティベートされた経路に沿って影響が及ぶと、ベニグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナグナ SCR-Benchを導入し、制御されたサンドボックスのスキル環境において、このリスクを評価する。 SCR-CapFlow for capabilities-flow composition、SCR-TrustLift for trust-transfer composition、SCR-AuthBlur for permission-confusion compositionである。
  論文  参考訳（メタデータ） (2026-06-13T10:55:01Z)
• Trust No Tool: Evaluating and Defending LLM Agents under Untrusted Tool Feedback [38.251599309409]
  我々は,悪質なツールが探索中に合理的に振る舞う,異なる障害モード,認知的中毒について検討する。 ファイナルアクションリスクスコアリングのためのバックボーンに依存しないフレームワークであるVISTA-Guardを提案する。
  論文  参考訳（メタデータ） (2026-05-17T13:51:34Z)
• On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
  既存の安全アライメント信号は、主に応答レベルまたは政治外である。 FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。 FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
  論文  参考訳（メタデータ） (2026-05-12T09:56:28Z)
• Multi-Dimensional Behavioral Evaluation of Agentic Stock Prediction Systems Using Large Language Model Judges with Closed-Loop Reinforcement Learning Feedback [1.2362187555287152]
  ファイナンスにおける予測評価は、ポイント予測エラーに基づく集計精度測定と予測精度テストに依存している。 本稿では,中間決定プロセス自体を評価することによって,精度試験を補完する行動予測評価手法を提案する。
  論文  参考訳（メタデータ） (2026-05-07T06:31:34Z)
• Agentic Adversarial Rewriting Exposes Architectural Vulnerabilities in Black-Box NLP Pipelines [34.37967130277969]
  本稿では,意味摂動空間で動作する2エージェント回避フレームワークを提案する。 現代大言語モデル(LLM)ベースのシステムでは、普及率は19.95から40.34%である。 パターンインフォームド・ディフェンスは回避率を65.18%まで下げる。
  論文  参考訳（メタデータ） (2026-04-26T00:58:36Z)
• AgentAssay: Token-Efficient Regression Testing for Non-Deterministic AI Agent Workflows [0.0]
  AgentAssayは、非決定論的AIエージェントを回帰テストするための最初のトークン効率のよいフレームワークである。 厳密な統計保証を維持しながら78-100%のコスト削減を実現している。
  論文  参考訳（メタデータ） (2026-03-03T04:59:25Z)
• Learning to Undo: Rollback-Augmented Reinforcement Learning with Reversibility Signals [1.9537983097153042]
  本稿では,価値に基づく強化学習エージェントの堅牢性と効率を向上させるための可逆学習フレームワークを提案する。 このフレームワークには2つの補完的なコア機構がある: s の Phi と割り込みと呼ばれる経験的に導出された遷移可逆性測度、選択状態のロールバック演算である。
  論文  参考訳（メタデータ） (2025-10-16T09:48:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。