論文の概要: AI Forensics Across White-, Grey-, and Black-Box Access: A Process Model and Research Agenda for Post-Incident Investigation of AI Systems

• arxiv url: http://arxiv.org/abs/2608.03520v1
• Date: Tue, 04 Aug 2026 12:04:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-05 15:30:23.165383
• Title: AI Forensics Across White-, Grey-, and Black-Box Access: A Process Model and Research Agenda for Post-Incident Investigation of AI Systems
• Title（参考訳）: ホワイト、グレイ、ブラックボックスアクセスに関するAI法医学:AIシステムの事故後調査のためのプロセスモデルと研究アジェンダ
• Authors: Ali Dehghantanha, Sajad Homayoun,
• Abstract要約: 我々は、調査員のアクセスは、AI法医学の分野を組織する上で有用な出発点であると主張している。 収集,保存,分析,報告の4段階にわたるAI鑑定のためのプロセスモデル行列を提案する。
• 参考スコア（独自算出の注目度）: 3.340255811686752
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: AI systems are increasingly involved in decisions and actions that may later require investigation. When an AI related incident occurs, investigators need to reconstruct what the system did, why it behaved that way, and which part of the system or supply chain contributed to the outcome. Existing work on AI forensics remains fragmented, often focusing on a specific system type, artifact, or analysis technique. This paper argues that investigator access is a useful starting point for organizing the field. We distinguish white box, grey box, and black box access and show how each access level changes what can be collected, preserved, analyzed, and reported. Based on this distinction, we propose a process model matrix for AI forensics across four phases: collection, preservation, analysis, and reporting. We also introduce an order of volatility for AI systems, covering runtime state, context windows, logs, retrieval stores, model artifacts, and training lineage. From this matrix, we derive an access conditioned examination framework and identify open research problems, including black box preservation, model version attestation, uncertainty quantification for surrogate based analysis, and chain of custody for mutable AI artifacts.
• Abstract（参考訳）: AIシステムは、後に調査を必要とするかもしれない決定と行動に、ますます関与している。 AI関連のインシデントが発生した場合、研究者はシステムがどのように振る舞ったのか、なぜそのような振る舞いをしたのか、システムまたはサプライチェーンのどの部分が結果に寄与したのかを再構築する必要がある。 AIの法医学に関する既存の研究は断片的であり、しばしば特定のシステムタイプ、アーティファクト、分析技術に焦点を当てている。 本稿では,調査員のアクセスが現場の整理に有用な出発点であると主張している。 我々は、ホワイトボックス、グレイボックス、ブラックボックスアクセスを区別し、各アクセスレベルがどのようにして、収集、保存、分析、報告できるものを変更するかを示す。 この区別に基づき, 収集, 保存, 分析, 報告の4段階にわたるAI法医学のプロセスモデル行列を提案する。 AIシステムには、ランタイム状態、コンテキストウィンドウ、ログ、検索ストア、モデルアーティファクト、トレーニングラインをカバーする、ボラティリティの順序も導入しています。 このマトリックスから,ブラックボックスの保存,モデルバージョン検証,サロゲート解析の不確実性定量化,ミュータブルAIアーティファクトの保持連鎖など,オープンな研究課題を同定し,アクセス条件付き検査フレームワークを導出する。

関連論文リスト

• Foundations for Agentic AI Investigations from the Forensic Analysis of OpenClaw [0.0]
  エージェントAlシステムは、ますますパーソナルアシスタントとしてデプロイされ、デジタル調査の共通の対象になりそうである。 本稿では,広く使用されているシングルエージェントアシスタントOpenClawの実証的研究について述べる。 我々はこれらのトレースを分類し、分類して、その調査価値を体系的に評価する。
  論文  参考訳（メタデータ） (2026-04-07T08:35:22Z)
• Let the Barbarians In: How AI Can Accelerate Systems Performance Research [80.43506848683633]
  我々は、この繰り返しサイクルを、AI駆動システム研究の生成、評価、洗練のサイクルと呼ぶ。 我々はADRSが生成するソリューションが人間の最先端の設計に適合し、さらに優れることを示した。
  論文  参考訳（メタデータ） (2025-12-16T18:51:23Z)
• Barbarians at the Gate: How AI is Upending Systems Research [58.95406995634148]
  システム研究は、新しいパフォーマンス指向アルゴリズムの設計と評価に長年注力してきたが、AI駆動のソリューション発見には特に適している、と私たちは主張する。 このアプローチをAI駆動システム研究(ADRS)と呼び、ソリューションを反復的に生成し、評価し、洗練する。 我々の研究結果は、AI時代のシステム研究の実践に急激な適応の必要性と破壊的な可能性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2025-10-07T17:49:24Z)
• GenDFIR: Advancing Cyber Incident Timeline Analysis Through Retrieval Augmented Generation and Large Language Models [0.08192907805418582]
  デジタル法医学とインシデント応答(DFIR)におけるサイバータイムライン解析の重要性 伝統的な手法は、証拠の識別と特徴抽出のためにログやメタデータのような構造化された成果物に依存している。 本稿では,大規模言語モデル(LLM)を利用したフレームワークであるGenDFIR,特にゼロショットモードのLlama 3.1 8Bについて紹介し,Retrieval-Augmented Generation (RAG)エージェントと統合する。
  論文  参考訳（メタデータ） (2024-09-04T09:46:33Z)
• Unfooling Perturbation-Based Post Hoc Explainers [12.599362066650842]
  最近の研究は、摂動に基づくポストホックの説明を逆さまに騙すことが実証されている。 この発見は監査人、規制当局、その他のセンチネルに悪影響を及ぼす。 本研究では,この問題を厳格に定式化し,摂動型説明器に対する敵攻撃に対する防御策を考案する。
  論文  参考訳（メタデータ） (2022-05-29T21:28:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。