論文の概要: CIA+TA Risk Assessment for AI Reasoning Vulnerabilities

• arxiv url: http://arxiv.org/abs/2508.15839v1
• Date: Tue, 19 Aug 2025 13:56:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-25 16:42:36.106992
• Title: CIA+TA Risk Assessment for AI Reasoning Vulnerabilities
• Title（参考訳）: CIA+TAによるAI推論脆弱性のリスク評価
• Authors: Yuksel Aydin,
• Abstract要約: 本稿では,AI推論プロセスのシステム的保護である認知サイバーセキュリティの枠組みについて述べる。 まず、従来のサイバーセキュリティとAIの安全性を補完する規律として、認知サイバーセキュリティを確立します。 第2に、CIA+TAを導入し、従来の機密性、統合性、信頼による可用性を拡張します。 第3に,経験的導出係数を用いた定量的リスク評価手法を提案し,組織が認知的セキュリティリスクを計測できるようにする。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As AI systems increasingly influence critical decisions, they face threats that exploit reasoning mechanisms rather than technical infrastructure. We present a framework for cognitive cybersecurity, a systematic protection of AI reasoning processes from adversarial manipulation. Our contributions are threefold. First, we establish cognitive cybersecurity as a discipline complementing traditional cybersecurity and AI safety, addressing vulnerabilities where legitimate inputs corrupt reasoning while evading conventional controls. Second, we introduce the CIA+TA, extending traditional Confidentiality, Integrity, and Availability triad with Trust (epistemic validation) and Autonomy (human agency preservation), requirements unique to systems generating knowledge claims and mediating decisions. Third, we present a quantitative risk assessment methodology with empirically-derived coefficients, enabling organizations to measure cognitive security risks. We map our framework to OWASP LLM Top 10 and MITRE ATLAS, facilitating operational integration. Validation through previously published studies (151 human participants; 12,180 AI trials) reveals strong architecture dependence: identical defenses produce effects ranging from 96% reduction to 135% amplification of vulnerabilities. This necessitates pre-deployment Cognitive Penetration Testing as a governance requirement for trustworthy AI deployment.
• Abstract（参考訳）: AIシステムがますます重要な決定に影響を及ぼすにつれて、彼らは技術インフラではなく推論メカニズムを利用する脅威に直面している。 本稿では,AI推論プロセスのシステム的保護である認知サイバーセキュリティの枠組みについて述べる。 私たちの貢献は3倍です。 まず、従来のサイバーセキュリティとAIの安全性を補完する規律として認知サイバーセキュリティを確立します。 第2に、CIA+TAを導入し、従来の信任性、統合性、アベイラビリティ・トライアドをトラスト(緊急検証)とオートノミー(人間機関保存)で拡張し、知識クレームを生成するシステム固有の要件と意思決定を仲介する。 第3に,経験的導出係数を用いた定量的リスク評価手法を提案し,組織が認知的セキュリティリスクを計測できるようにする。 我々は、私たちのフレームワークをOWASP LLM Top 10とMITRE ATLASにマップし、運用統合を促進します。 以前に公開された研究(151人の参加者、12180人のAIトライアル)による検証では、強いアーキテクチャ依存が明らかにされている。 これは、信頼できるAIデプロイメントのガバナンス要件として、事前デプロイの認知浸透テストを必要とする。

関連論文リスト

• Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
  本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。 我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。 私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
  論文  参考訳（メタデータ） (2025-08-12T09:42:56Z)
• Manipulation Attacks by Misaligned AI: Risk Analysis and Safety Case Framework [0.0]
  人間はしばしばサイバーセキュリティシステムにおいて最も弱いリンクである。 ミスアライメントのAIシステムは、従業員を操作することによって人間の監視を損なう可能性がある。 これらのリスクを評価し緩和するための体系的な枠組みは存在しない。 本稿では,AIの安全性管理に操作リスクを統合するための,最初の体系的方法論を提供する。
  論文  参考訳（メタデータ） (2025-07-17T07:45:53Z)
• Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
  我々は、AI安全性に対する一連のアプローチを紹介し、定義する。 これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。 これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
  論文  参考訳（メタデータ） (2024-05-10T17:38:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。