論文の概要: A Deterministic and Auditable AI Security Risk Assessment Framework with ATLAS Aligned Executable Rules and Formal Verification

• arxiv url: http://arxiv.org/abs/2610.01436v1
• Date: Thu, 01 Oct 2026 10:33:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:24.057949
• Title: A Deterministic and Auditable AI Security Risk Assessment Framework with ATLAS Aligned Executable Rules and Formal Verification
• Title（参考訳）: ATLASアライメントされた実行可能なルールと形式検証を備えた決定論的かつ監査可能なAIセキュリティリスク評価フレームワーク
• Abstract要約: 決定論的決定関数としてのアセスメントを運用する,AIセキュリティアセスメントのエビデンスを提示する。 このフレームワークは、異質な成果物を、有界な4段階の順序スケールで測定されたプロジェクト独立制御ID分類に正規化する。 明示的なリポジトリスナップショットにピン留めされた5つの公開オープンソースAIプロジェクトで、このフレームワークを評価した。
• 参考スコア（独自算出の注目度）: 6.94323027313601
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Artificial intelligence systems are increasingly deployed in high impact and safety critical settings, yet security assessment remains difficult to reproduce and defend under audit. Existing approaches often rely on narrative checklists or assessor driven scoring, and they lack an explicit, machine evaluable mapping from observable engineering artefacts to stable technique level outcomes. We present an evidence driven AI security assessment framework that operationalises assessment as a deterministic decision function. The framework normalises heterogeneous artefacts into a project independent Control ID taxonomy scored on a bounded four level ordinal scale, compiles technique level predicates from a pinned MITRE ATLAS snapshot via an explicit mitigation to control mapping, and outputs technique indexed feasibility and impact levels with traceable links back to the triggering evidence. We package all normative choices as a versioned assessment policy object to support repeatable reassessment across snapshots. To ensure semantic correctness, we formally verify boundedness, totality, ordered semantic consistency, and monotonicity of the compiled evaluator over the full declared score domain. We evaluate the framework on five public open source AI projects pinned to explicit repository snapshots, quantify before and after changes under a unified hardening intervention, and validate responsiveness to real engineering changes through fork based implementations of Software Bill of Materials (SBOM) generation and Continuous integration (CI) security scanning gates. Results show consistent downward shifts in feasibility profiles under strengthened observable controls, while worst case residual feasibility persists when technique specific core controls remain absent from the evidence scope.
• Abstract（参考訳）: 人工知能システムは、高い影響と安全性のクリティカルな設定でますますデプロイされているが、監査下でのセキュリティアセスメントの再現と防御は困難である。 既存のアプローチは、しばしば物語チェックリストや評価者主導のスコアに頼り、観測可能なエンジニアリング成果から安定した技術レベルの結果への明示的でマシン評価可能なマッピングを欠いている。 決定論的決定関数としてのアセスメントを運用する,AIセキュリティアセスメントのエビデンスを提示する。 このフレームワークは、不均一なアーティファクトをプロジェクトの独立したコントロールID分類に正規化し、制限された4段階のオーディナルスケールでスコア付けし、制御マッピングへの明示的な緩和を通じてピン付きMITRE ATLASスナップショットからテクニックレベルの述語をコンパイルし、トリガーするエビデンスへのトレース可能なリンクでインデックス付き可能性とインパクトレベルを出力する。 すべての規範的選択をバージョン管理された評価ポリシーオブジェクトとしてパッケージ化し、スナップショット間の繰り返し再評価をサポートする。 意味的正当性を保証するため,完全宣言されたスコア領域上での有界性,総性,順序的意味的整合性,およびコンパイルされた評価器の単調性を検証した。 我々は、明示的なリポジトリスナップショットに固定された5つの公開オープンソースAIプロジェクトのフレームワークを評価し、統一されたハードニング介入の下で変更の前後を定量化し、Software Bill of Materials(SBOM)生成と継続的インテグレーション(CI)セキュリティスキャンゲートのフォークベースの実装を通じて、実際のエンジニアリング変更に対する応答性を検証する。 その結果、観測可能制御の強化による実現可能性プロファイルは、一貫した下向きシフトを示し、また、技術固有のコアコントロールがエビデンススコープから欠如している場合、最悪の場合の残留実現可能性を維持した。

関連論文リスト

• Protected Cores Are Not Enough: Certifying AI-Proposed Revisions of Temporal Specifications [0.0]
  我々は、信頼できないAI提案者が時間的仕様修正を提案し、象徴的な知事がそのアクティベーションを制御するシンボリックアーキテクチャを導入する。 制御された合成実験では、凍結された教師付きAIプロジェクタを使用して、マスクされたコアの障害を1つの決定で説明し、繰り返し支配された修正を繰り返します。
  論文  参考訳（メタデータ） (2026-09-27T11:13:45Z)
• AI Slop and Hallucinations in Vulnerability Assessment: A Survey on Reasoning Failures and Trustworthy Mitigation [48.55515767840701]
  AIスロープ(AI slop)は、アーティファクト、幻覚的脆弱性、可視だが正しくないパッチ、セマンティックに再パッケージされたバグレポートである。 本稿では,実証的証拠を調査し,統一メカニズムを特定し,信頼に値するトリアージへの道筋をたどる。
  論文  参考訳（メタデータ） (2026-08-26T11:48:38Z)
• Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
  身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。 我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
  論文  参考訳（メタデータ） (2026-07-28T17:50:44Z)
• Referential Security as a New Paradigm for AI Evaluations [5.748110232428846]
  我々は,AI評価の新しいパラダイムとして参照セキュリティを提案する。 このアプローチは、モデルアイデンティティを経験的に検証可能な性質として再設計し、参照安定性を実体セキュリティが条件としているものと区別する。
  論文  参考訳（メタデータ） (2026-05-25T10:24:10Z)
• False Security Confidence in Benign LLM Code Generation [0.0]
  このメモは、補完的だが異なるフレーミングを紹介している。 偽セキュリティ信頼(FSC)。 FSCは、通常の非攻撃フレーム生成タスクにおいて、測定ファーストの観点から同じ表面現象を研究する。 我々はFSCレートを,機能的に正しい出力セット内のセキュリティ障害の頻度として定式化する。
  論文  参考訳（メタデータ） (2026-04-18T14:52:26Z)
• Dynamic analysis enhances issue resolution [53.50448142467294]
  DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。 テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。 Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
  論文  参考訳（メタデータ） (2026-03-23T14:48:54Z)
• Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
  我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。 内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
  論文  参考訳（メタデータ） (2026-03-13T20:44:15Z)
• ESAA-Security: An Event-Sourced, Verifiable Architecture for Agent-Assisted Security Audits of AI-Generated Code [0.0]
  本稿では,ソフトウェアリポジトリのエージェント支援セキュリティ監査のためのドメイン固有フレームワークであるESAA-Securityを提案する。 このフレームワークは構造化されたチェック結果、脆弱性の在庫、深刻度分類、リスク、修正ガイダンス、エグゼクティブサマリー、最終的なマークダウン/JSON監査レポートを生成する。
  論文  参考訳（メタデータ） (2026-03-06T15:15:26Z)
• Making LLMs Reliable When It Matters Most: A Five-Layer Architecture for High-Stakes Decisions [51.56484100374058]
  現在の大規模言語モデル(LLM)は、実行前にアウトプットをチェックできるが、不確実な結果を伴う高い戦略決定には信頼性が低い検証可能な領域で優れている。 このギャップは、人間と人工知能(AI)システムの相互認知バイアスによって引き起こされ、そのセクターにおける評価と投資の持続可能性の保証を脅かす。 本報告では、7つのフロンティアグレードLDMと3つの市場向けベンチャーヴィグネットの時間的圧力下での系統的質的評価から生まれた枠組みについて述べる。
  論文  参考訳（メタデータ） (2025-11-10T22:24:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。