論文の概要: Toward a Unified Security Framework for AI Agents: Trust, Risk, and Liability

• arxiv url: http://arxiv.org/abs/2510.09620v1
• Date: Thu, 18 Sep 2025 01:55:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-20 05:23:07.135
• Title: Toward a Unified Security Framework for AI Agents: Trust, Risk, and Liability
• Title（参考訳）: AIエージェントのための統一セキュリティフレームワークを目指して - 信頼、リスク、責任
• Authors: Jiayun Mo, Xin Kang, Tieyan Li, Zhongding Lei,
• Abstract要約: 信頼・リスク・責任(TRL)フレームワークは、信頼・リスク・責任の相互依存関係を結び付け、信頼の構築・強化の体系的な方法を提供する。 TRLフレームワークの意義は、その潜在的な社会的影響、経済的影響、倫理的影響などにある。 潜在的な課題に対処し、6GネットワークにおけるAIの信頼性、リスクフリー、責任ある使用を促進するために、優れた価値をもたらすことが期待されている。
• 参考スコア（独自算出の注目度）: 2.8407281360114527
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The excitement brought by the development of AI agents came alongside arising problems. These concerns centered around users' trust issues towards AIs, the risks involved, and the difficulty of attributing responsibilities and liabilities. Current solutions only attempt to target each problem separately without acknowledging their inter-influential nature. The Trust, Risk and Liability (TRL) framework proposed in this paper, however, ties together the interdependent relationships of trust, risk, and liability to provide a systematic method of building and enhancing trust, analyzing and mitigating risks, and allocating and attributing liabilities. It can be applied to analyze any application scenarios of AI agents and suggest appropriate measures fitting to the context. The implications of the TRL framework lie in its potential societal impacts, economic impacts, ethical impacts, and more. It is expected to bring remarkable values to addressing potential challenges and promoting trustworthy, risk-free, and responsible usage of AI in 6G networks.
• Abstract（参考訳）: AIエージェントの開発によって引き起こされた興奮は、問題を引き起こした。 これらの懸念は、AIに対するユーザの信頼の問題、関連するリスク、責任と責任の帰属の難しさに焦点が当てられた。 現在のソリューションは、それぞれの問題に対して、インフルエンシャルな性質を認めずに、個別にターゲットを試みているだけである。 しかし,本論文では,信頼・リスク・責任の相互依存関係を結び付けて,信頼の構築・強化,リスクの分析・緩和,責任の配分・帰属という体系的な方法を提案する。 これは、AIエージェントのアプリケーションシナリオを分析し、コンテキストに適合する適切な措置を提案するために適用することができる。 TRLフレームワークの意義は、その潜在的な社会的影響、経済的影響、倫理的影響などにある。 潜在的な課題に対処し、6GネットワークにおけるAIの信頼性、リスクフリー、責任ある使用を促進するために、優れた価値をもたらすことが期待されている。

関連論文リスト

• Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
  本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。 我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。 私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
  論文  参考訳（メタデータ） (2025-08-12T09:42:56Z)
• ff4ERA: A new Fuzzy Framework for Ethical Risk Assessment in AI [0.24578723416255746]
  本稿では、ファジィ論理、ファジィ解析階層プロセス(FAHP)、不確実因子(CF)を統合したファジィフレームワークであるff4ERAを紹介する。 このフレームワークは、協調倫理的リスクアセスメントモデリングとシステマティック・ステップ・バイ・ステップ分析のための堅牢な数学的アプローチを提供する。 あるケーススタディでは、ff4ERAが、専門家の入力とセンサーに基づく証拠の両方を反映した文脈に敏感で有意義なリスクスコアを得ることを確認した。
  論文  参考訳（メタデータ） (2025-07-28T14:41:36Z)
• A Framework for the Assurance of AI-Enabled Systems [0.0]
  本稿では,AIシステムのリスク管理と保証のためのクレームベースのフレームワークを提案する。 論文のコントリビューションは、AI保証のためのフレームワークプロセス、関連する定義のセット、AI保証における重要な考慮事項に関する議論である。
  論文  参考訳（メタデータ） (2025-04-03T13:44:01Z)
• Multi-Agent Risks from Advanced AI [90.74347101431474]
  先進的なAIのマルチエージェントシステムは、新規で未発見のリスクを生じさせる。 エージェントのインセンティブに基づく3つの重要な障害モードと7つの重要なリスク要因を同定する。 各リスクのいくつかの重要な事例と、それらを緩和するための有望な方向性を強調します。
  論文  参考訳（メタデータ） (2025-02-19T23:03:21Z)
• Agentic AI: Autonomy, Accountability, and the Algorithmic Society [0.2209921757303168]
  エージェント人工知能(AI)は、自律的に長期的な目標を追求し、意思決定を行い、複雑なマルチターンを実行することができる。 この指導的役割から積極的執行課題への移行は、法的、経済的、創造的な枠組みを確立した。 我々は,創造性と知的財産,法的・倫理的考察,競争効果の3つの分野における課題を探求する。
  論文  参考訳（メタデータ） (2025-02-01T03:14:59Z)
• Human services organizations and the responsible integration of AI: Considering ethics and contextualizing risk(s) [0.0]
  著者らは、AIデプロイメントに関する倫理的懸念は、実装コンテキストや特定のユースケースによって大きく異なると主張している。 彼らは、データ感度、専門的な監視要件、クライアントの幸福に対する潜在的影響などの要因を考慮に入れた、次元的リスクアセスメントアプローチを提案する。
  論文  参考訳（メタデータ） (2025-01-20T19:38:21Z)
• Towards Trustworthy AI: A Review of Ethical and Robust Large Language Models [1.7466076090043157]
  大きな言語モデル(LLM)は多くの分野を変革できるが、その急速な開発は、監視、倫理的創造、ユーザ信頼の構築に重大な課題を生み出している。 この総合的なレビューは、意図しない害、透明性の欠如、攻撃に対する脆弱性、人的価値との整合性、環境への影響など、LLMにおける重要な信頼の問題について考察する。 これらの課題に対処するため、倫理的監視、業界説明責任、規制、公的な関与を組み合わせることを提案する。
  論文  参考訳（メタデータ） (2024-06-01T14:47:58Z)
• AI Risk Management Should Incorporate Both Safety and Security [185.68738503122114]
  AIリスクマネジメントの利害関係者は、安全とセキュリティの間のニュアンス、シナジー、相互作用を意識すべきである、と私たちは主張する。 我々は、AIの安全性とAIのセキュリティの違いと相互作用を明らかにするために、統一された参照フレームワークを導入する。
  論文  参考訳（メタデータ） (2024-05-29T21:00:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。