論文の概要: Agent Reliability Profiles in Financial Services
- arxiv url: http://arxiv.org/abs/2610.04123v1
- Date: Fri, 02 Oct 2026 22:53:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-12 20:00:34.275806
- Title: Agent Reliability Profiles in Financial Services
- Title（参考訳）: 金融サービスにおけるエージェント信頼性プロファイル
- Abstract要約: エージェントの信頼性は、エージェントが意図した境界内に留まり、制限内で運用されることを保証するものとして定義することができる。
金融サービスにおけるエージェントデプロイメントの信頼性を記述、検証、ベンチマークするための共有フレームワークや言語はありません。
本稿では,金融サービスにおけるエージェント配置の保証の単位であるエージェント信頼性プロファイルを紹介する。
- 参考スコア（独自算出の注目度）: 2.507563792795606
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI agents can take actions. At times, those actions can go beyond what is intended. Agent reliability can be defined as assurance that an agent will stay within intended bounds and operate within limits. Today, there is no shared framework or language for describing, validating, and benchmarking the reliability of agentic deployments in financial services. This makes it difficult for financial institutions, vendors, and regulators to assess and trust agents at scale, thus limiting the pace of development and adoption. A standardized, shared representation of agent reliability would fill the gap. This paper introduces the Agent Reliability Profile, a per-agent unit of assurance evidence for agent deployments in financial services. Each Profile records a bounded, falsifiable claim, this agentic system reliably functions within its operating boundary. We define "operating boundary" as an agent having; (1) a defined autonomy tier, (2) a defined operational design domain, (3) defined classes of action, and (4) a defined control envelope. Production assurance progresses through three levels while the Profile schema remains constant: a Profile Builder compiles a Level 1 Asserted Profile from institutional evidence, a Profile Validator tests the deployment in its own environment to produce a Level 2 Validated Profile, and operation of the same tests by a qualified independent assessor produces a Level 3 Verified Profile. Separately a Benchmarked Profile reports results comparable across institutions under reference conditions. We describe the architecture, the artifact, the assurance ladder, the comparability flag, associated tools, an evaluation methodology, applications for financial institutions and supervisors, limitations, and a staged implementation program.
- Abstract（参考訳）: AIエージェントは行動を起こすことができる。
時に、これらのアクションは意図されたものを超えることができます。
エージェントの信頼性は、エージェントが意図した境界内に留まり、制限内で運用されることを保証するものとして定義することができる。
現在、金融サービスにおけるエージェントデプロイメントの信頼性を記述、検証、ベンチマークするための共有フレームワークや言語はありません。
これにより、金融機関、ベンダー、規制当局が大規模にエージェントを評価し、信頼することが難しくなり、開発と採用のペースが制限される。
エージェント信頼性の標準化された共有表現がギャップを埋める。
本稿では,金融サービスにおけるエージェント配置の保証の単位であるエージェント信頼性プロファイルを紹介する。
各プロファイルは有界で偽造可能なクレームを記録し、このエージェントシステムは操作境界内で確実に機能する。
動作境界」は,(1)自律性層,(2)操作設計領域,(3)動作のクラス,(4)制御エンベロープを有するエージェントとして定義する。
Profile Builderは、制度的なエビデンスからLevel 1 Asserted Profileをコンパイルし、Profile Validatorは、自身の環境におけるデプロイメントをテストしてLevel 2 Validated Profileを生成し、認定された独立したアセスメントによる同じテストの実行は、Level 3 Verified Profileを生成する。
Benchmarked Profileは、参照条件下での機関間で比較して結果を報告している。
本稿では, アーキテクチャ, アーティファクト, 保証はしご, コンパラビリティフラグ, 関連ツール, 評価方法論, 金融機関や監督機関のアプリケーション, 制限, 段階的な実施プログラムについて述べる。
関連論文リスト
- From Capability to Assurance in Autonomous Penetration-Testing Harnesses: A Framework and Reference Implementation [0.0]
我々は、保証プロパティはハーネス、ランタイムがモデルをラップし、コードで強制できると主張している。
まず,5つの保証特性(証拠的根拠,非破壊的クレームの低減,計算された重大度,強制的認可,明白な説明責任)の枠組みを定義する。
次に,フレームワーク内の代表システム(PentestGPT,Cochise参照ハーネス,MAPTA,PentestJudge)を公開コーディング基準を用いて配置し,一貫した保証ギャップを同定する。
第三に、あるオープンソース実装であるNeuroSploitを正確にコミットし、そのアーキテクチャ、そのアーキテクチャを報告する。
論文 参考訳（メタデータ） (2026-09-19T00:37:49Z) - FinCUABuild: Can Agents Build Reliable Benchmarks for Dynamic Financial Computer Use? [52.86361055342659]
FinCUABuildBenchは、金融CUAタスク構築を評価するためのベンチマークである。
FinCUABuildAgentは動的財務CUA評価タスクを自動構築するマルチエージェントシステムである。
論文 参考訳（メタデータ） (2026-09-07T15:13:23Z) - READY or Not: Reliable Enterprise Agent Deployment [16.430548759635037]
READYは、企業へのAIエージェントのデプロイを資格付けするためのフレームワークである。
人間のAIシステムの信頼性と運用コストを測定する。
統計学的には保留ケースに該当する。
論文 参考訳（メタデータ） (2026-09-02T04:34:48Z) - A Policy Algebra for Trust-Preserving Agentic AI Execution [5.943264605557423]
本稿では,エージェント能力の行使可能な信頼性エンベロープを定義するポリシー代数を提案する。
この評価は、能力ベンチマークではなく、信頼性と信頼性のトレードオフとして解釈される。
論文 参考訳（メタデータ） (2026-08-17T10:59:15Z) - Agent Gym: A Framework for Continuous Evaluation and Evolution of LLM Agents Through Human-in-the-Loop Feedback [0.0]
大きな言語モデル(LLM)エージェントは、基本的な緊張に直面します。エージェントの動作は、デプロイ時に凍結されますが、処理するビジネスルールとエッジケースは、進化し続けます。
既存のアプローチではエージェント構築とワンタイム評価を行うが、継続的デプロイ後の動作補正のための構造的メカニズムは提供しない。
我々はAgent Gymを紹介した。Agent Gymはモジュール型のドメインに依存しないフレームワークで、既存のLLMベースのエージェントを連続的な評価と進化のループでラップする。
論文 参考訳（メタデータ） (2026-08-16T07:27:26Z) - Formal Verification of Agentic Systems over Operational Data [59.98246281888422]
大規模言語モデル(LLM)によって駆動されるエージェントシステムは、永続的な運用データを扱う現実世界にますます展開されている。
既存のアプローチはそのようなシステムレベルの保証を提供していません。
本稿では, 1 つの LLM とツールオーケストレーションハーネスからなるエージェントシステムのリレーショナル操作データに対する検証について述べる。
論文 参考訳（メタデータ） (2026-08-04T13:01:30Z) - Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。
我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
論文 参考訳（メタデータ） (2026-07-28T17:50:44Z) - Securing LLM Agents Need Intent-to-Execution Integrity [49.490963596514185]
我々は, LLMエージェントの確保には, エージェントの実行がユーザの意図を忠実に反映した場合に規定するエンドツーエンドの正当性を定義する必要があると主張している。
LLMエージェントはコンパイラと構造的に類似しており、セキュリティ違反はユーザ意図を保存しない誤った実行に対応する。
emphTool整合性、emph命令整合性、emphJudgment整合性、emphData整合性。
論文 参考訳（メタデータ） (2026-05-16T12:53:31Z) - Beyond Task Success: An Evidence-Synthesis Framework for Evaluating, Governing, and Orchestrating Agentic AI [0.0]
本稿では,手動符号化コーパスにおける有界なエビデンス合成に寄与する。
本稿では,(1)評価,ガバナンス,オーケストレーション,保証にまたがる4層フレームワーク,(2)可観測性,決定性,タイムライン,検証性に基づくODTA実行時配置テスト,(3)状態変更動作のための最小アクション検証バンドル,の3つの関連アーティファクトを紹介する。
論文 参考訳（メタデータ） (2026-04-18T20:28:26Z) - The Why Behind the Action: Unveiling Internal Drivers via Agentic Attribution [63.61358761489141]
LLM(Large Language Model)ベースのエージェントは、カスタマーサービス、Webナビゲーション、ソフトウェアエンジニアリングといった現実世界のアプリケーションで広く使われている。
本稿では,タスク結果に関係なく,エージェントの動作を駆動する内部要因を識別する,テキスト汎用エージェント属性のための新しいフレームワークを提案する。
標準ツールの使用やメモリ誘起バイアスのような微妙な信頼性リスクなど、さまざまなエージェントシナリオでフレームワークを検証する。
論文 参考訳（メタデータ） (2026-01-21T15:22:21Z) - Towards Verifiably Safe Tool Use for LLM Agents [53.55621104327779]
大規模言語モデル(LLM)ベースのAIエージェントは、データソース、API、検索エンジン、コードサンドボックス、さらにはその他のエージェントなどのツールへのアクセスを可能にすることで、機能を拡張する。
LLMは意図しないツールインタラクションを起動し、機密データを漏洩したり、クリティカルレコードを上書きしたりするリスクを発生させる。
モデルベースセーフガードのようなリスクを軽減するための現在のアプローチは、エージェントの信頼性を高めるが、システムの安全性を保証することはできない。
論文 参考訳（メタデータ） (2026-01-12T21:31:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。