論文の概要: TrustX Agent Risk Classification Framework (ARC): Risk-Tiering Internally Created Agentic AI Systems
- arxiv url: http://arxiv.org/abs/2607.09586v1
- Date: Fri, 10 Jul 2026 16:36:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-13 14:47:12.906301
- Title: TrustX Agent Risk Classification Framework (ARC): Risk-Tiering Internally Created Agentic AI Systems
- Title（参考訳）: TrustX Agent Risk Classification Framework (ARC): 内部で作成したエージェントAIシステム
- Abstract要約: TrustX Agent Risk Classification Frameworkは,7種類のエージェントAIシステムに適用可能な,構造化された反復可能な機器である。
フレームワークのコアには12次元のスコアリングルーブリックがあり、リスクをしっかりと定量化している。
ARCはAIガバナンスの実践者、リスクオフィサー、開発者、規制当局を対象とする。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The proliferation of agentic AI systems across enterprise and public-sector contexts has outpaced the capacity of general-purpose AI risk frameworks to classify and govern them. In this paper, we introduce the TrustX Agent Risk Classification Framework, a structured, repeatable instrument that can be applied to seven types of agentic AI systems and is grounded in foundational pre-existing AI governance frameworks. At the core of the framework is a twelve-dimension scoring rubric that robustly quantifies the risk. This rubric is combined with other components, such as the GPA + IAT classification model and the five-level autonomy framework derived from existing literature. These inputs produce a three-tier governance output with mapped control recommendations. A specialised Coding Assistant extension is also included to account for nuances specific to this type of agentic AI system. We then use an illustrative example to show our framework in practice. ARC is intended for AI governance practitioners, risk officers, developers, and regulators, and it will regularly undergo iteration as we continue to expand it and make it more robust. The community can access the interactive framework here: https://arc.responsible.ai/
- Abstract（参考訳）: 企業や公共部門におけるエージェントAIシステムの拡散は、それらを分類し、管理する汎用AIリスクフレームワークの能力を大きく上回っている。
本稿では,7種類のエージェントAIシステムに適用可能な構造化・繰り返し可能な機器であるTrustX Agent Risk Classification Frameworkを紹介する。
フレームワークのコアには12次元のスコアリングルーブリックがあり、リスクをしっかりと定量化している。
このルーリックは、GPA + IAT分類モデルや、既存の文献から派生した5段階の自律フレームワークなど、他のコンポーネントと組み合わせられている。
これらの入力は、マップ化されたコントロールレコメンデーションを備えた3層ガバナンス出力を生成する。
このタイプのエージェントAIシステムに特有のニュアンスを考慮するために、特殊化されたコーディングアシスタント拡張も含まれている。
次に、実証的な例を使って、実践的なフレームワークを示します。
ARCはAIガバナンスの実践者、リスクオフィサー、開発者、規制当局を対象としています。
コミュニティはここでインタラクティブなフレームワークにアクセスすることができる。
関連論文リスト
- Risk Architecture for AI-Native Engineering Teams: An Organizational Framework for Agentic System Governance [0.0]
本稿では、純粋なソフトウェアエンジニアリング、ハイブリッド、AIネイティブチームを区別する7次元プロファイルを提供する。
研究の対象は人間の行動よりもフレームワークの妥当性にあるため、評価は観察されたカバレッジクレームよりも導出される。
論文 参考訳（メタデータ） (2026-07-01T19:31:02Z) - Making AI Compliance Evidence Machine-Readable [0.0]
本稿では,AIガバナンスの候補交換フォーマットとしてOSCALを提案する。
ライフサイクルフェーズ、実施の意味論、リスクトレーサビリティ、リスク受容の正当性を含む16のプロパティ拡張を定義します。
アーキテクチャとリファレンス実装はApache RM 2.0の下でオープンソースである。
論文 参考訳（メタデータ） (2026-04-15T11:51:54Z) - Uncovering Security Threats and Architecting Defenses in Autonomous Agents: A Case Study of OpenClaw [42.9467373594646]
本報告では,OpenClawエコシステムの総合的なセキュリティ分析について述べる。
我々は、インジェクション駆動のRemote Code Execution(RCE)、シーケンシャルツールアタックチェーン、コンテキスト記憶、サプライチェーン汚染などの重要な脆弱性を強調した。
これらのシステム的アーキテクチャ欠陥に対処するために、フルライフサイクルエージェントセキュリティアーキテクチャ(FASA)を導入します。
この理論的な防御青写真は、ゼロトラストエージェント実行、動的意図検証、および層間推論-作用相関を提唱している。
論文 参考訳（メタデータ） (2026-03-13T04:33:05Z) - Just Ask: Curious Code Agents Reveal System Prompts in Frontier LLMs [65.6660735371212]
textbftextscJustAskは,インタラクションのみで効果的な抽出戦略を自律的に発見するフレームワークである。
これは、アッパー信頼境界に基づく戦略選択と、原子プローブと高レベルのオーケストレーションにまたがる階層的なスキル空間を用いて、オンライン探索問題として抽出を定式化する。
この結果から,現代のエージェントシステムにおいて,システムプロンプトは致命的ではあるがほぼ無防備な攻撃面であることがわかった。
論文 参考訳（メタデータ） (2026-01-29T03:53:25Z) - The Why Behind the Action: Unveiling Internal Drivers via Agentic Attribution [63.61358761489141]
LLM(Large Language Model)ベースのエージェントは、カスタマーサービス、Webナビゲーション、ソフトウェアエンジニアリングといった現実世界のアプリケーションで広く使われている。
本稿では,タスク結果に関係なく,エージェントの動作を駆動する内部要因を識別する,テキスト汎用エージェント属性のための新しいフレームワークを提案する。
標準ツールの使用やメモリ誘起バイアスのような微妙な信頼性リスクなど、さまざまなエージェントシナリオでフレームワークを検証する。
論文 参考訳（メタデータ） (2026-01-21T15:22:21Z) - With Great Capabilities Come Great Responsibilities: Introducing the Agentic Risk & Capability Framework for Governing Agentic AI Systems [11.09031447875337]
Agentic Risk & Capability (ARC) Frameworkは、エージェントAIシステムから生じるリスクを特定し、評価し、軽減するための技術ガバナンスフレームワークである。
フレームワークのコアコントリビューションは以下のとおりである。
幅広いエージェントAIシステムを分析するために、新しい能力中心の視点を開発する。
エージェントAIシステム(コンポーネント、設計、能力)に固有の3つの主要なリスクソースを抽出する。
各リスクソース、特定の物質化されたリスク、およびそれに対応する技術的コントロールの間に明確なネクサスを確立する。
論文 参考訳（メタデータ） (2025-12-22T03:51:34Z) - When Autonomy Goes Rogue: Preparing for Risks of Multi-Agent Collusion in Social Systems [78.04679174291329]
悪意のあるマルチエージェントシステム(MAS)のリスクをシミュレートするための概念実証手法を提案する。
この枠組みを、誤情報拡散とeコマース詐欺という2つのリスクの高い分野に適用する。
その結果,分散システムの方が,集中型システムよりも悪意ある行動を実行するのに効果的であることが示唆された。
論文 参考訳（メタデータ） (2025-07-19T15:17:30Z) - A Survey on Autonomy-Induced Security Risks in Large Model-Based Agents [45.53643260046778]
大規模言語モデル(LLM)の最近の進歩は、自律型AIエージェントの台頭を触媒している。
これらの大きなモデルエージェントは、静的推論システムからインタラクティブなメモリ拡張エンティティへのパラダイムシフトを示す。
論文 参考訳（メタデータ） (2025-06-30T13:34:34Z) - TRiSM for Agentic AI: A Review of Trust, Risk, and Security Management in LLM-based Agentic Multi-Agent Systems [8.683314804719506]
本稿では,エージェントマルチエージェントシステム(AMAS)における信頼・リスク・セキュリティマネジメント(TRiSM)の構造的分析について述べる。
まず、エージェントAIの概念的基礎を調べ、従来のAIエージェントとアーキテクチャ的区別を強調します。
次に、Textit Explainability、ModelOps、Security、Privacy、Textittheirのガバナンスガバナンスといった重要な柱を中心に構築された、エージェントAIのためのAI TRiSMフレームワークを適応して拡張します。
調整失敗から調整失敗まで、エージェントAIのユニークな脅威と脆弱性を捉えるためにリスク分類法が提案されている。
論文 参考訳（メタデータ） (2025-06-04T16:26:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。