論文の概要: AI Debris: Residual Risk and the Afterlife of Failed AI Systems

• arxiv url: http://arxiv.org/abs/2606.12432v1
• Date: Fri, 15 May 2026 14:59:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-15 07:09:36.893833
• Title: AI Debris: Residual Risk and the Afterlife of Failed AI Systems
• Title（参考訳）: AI Debris: 残酷なリスクと失敗するAIシステムの余命
• Authors: Victor Frimpong,
• Abstract要約: 本稿では, 解体されたAIシステムは, モデル除去後に持続する残余のリスク, いわゆるAIデブリを発生させると主張している。 本論文は, 破片ドメインの類型化を開発し, 破片が持続するメカニズムを同定する。 この概念を運用するために,評価器対応AI Debris Decommissioning Protocolを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI governance frameworks primarily focus on risks during the development and deployment phases, implicitly treating system withdrawal as a technical shutdown. This paper argues that decommissioned AI systems generate residual risk, termed AI debris, that persists after model removal and continues to shape institutional behaviour, accountability, and trust. AI debris is defined as the post-withdrawal socio-technical residue of AI systems, including workflow dependency, data contamination, capability displacement (deskilling), legitimacy erosion, and accountability breakdown. The paper develops a typology of debris domains and identifies mechanisms through which debris persists, including institutional memory, path dependency, blame avoidance, and feedback effects in organisational data. To operationalise the concept, the paper proposes an evaluator-ready AI Debris Decommissioning Protocol (AIDP), a stepwise checklist specifying auditable evidence for freezing decision footprints, incident review, remediation, contestability, and post-withdrawal accountability assignment. A brief vignette of Amazon's discontinued hiring tool illustrates how algorithmic decision categories and screening heuristics can persist after system rollback. The paper contributes a practical governance instrument for regulators, auditors, and organisations seeking to prevent paper compliance, strengthen AI lifecycle governance, and improve institutional resilience in high-stakes decision environments.
• Abstract（参考訳）: AIガバナンスフレームワークは、主に開発とデプロイメントのフェーズにおけるリスクに焦点を当て、システム離脱を技術的なシャットダウンとして暗黙的に扱う。 本稿では, 解体されたAIシステムは, モデル除去後に持続し, 制度的行動, 説明責任, 信頼を形づくり続ける残余のリスク, いわゆるAIデブリを生じることを論じる。 AIのデブリは、ワークフロー依存性、データ汚染、能力の変位(スキルの低下)、正当性侵食、説明責任の崩壊など、AIシステムの社会技術的残留物として定義されている。 本稿では, 破片ドメインの類型化を開発し, 組織的記憶, 経路依存, 非難回避, 組織データのフィードバック効果など, 破片が持続するメカニズムを同定する。 この概念を運用するために,評価器対応のAI Debris Decommissioning Protocol (AIDP) を提案する。 Amazonが廃止した採用ツールの短いウィグレットは、アルゴリズム上の決定カテゴリとスクリーニングヒューリスティックがシステムロールバック後にどのように持続するかを示している。 本論文は、紙のコンプライアンスを予防し、AIのライフサイクルガバナンスを強化し、ハイテイクな意思決定環境における制度的レジリエンスを向上させるために、規制、監査、組織に対して実践的なガバナンス手段を提供する。

関連論文リスト

• Exploring Systems-Thinking Approaches to Loss of Control Risk [0.0]
  コーディングと研究のためのエージェントAIシステムの内部展開は、モデル行動を超えた社会技術制御問題を生み出す。 我々は、内部デプロイの損失を、AIによる変更を確実に制限、監査、リバース、または停止することができないものとして扱います。 確立されたシステムセーフティ手法が、モデルレベルの評価が見逃す可能性のあるリスクを識別できるかどうかを問う。
  論文  参考訳（メタデータ） (2026-06-11T15:27:31Z)
• SoK: Agentic Retrieval-Augmented Generation (RAG): Taxonomy, Architectures, Evaluation, and Research Directions [0.0]
  本稿では、これらの自律システムを理解するための最初の統一されたフレームワークを提供する。 エージェント検索生成ループを有限水平部分観測可能なマルコフ決定過程として定式化する。 本研究は,幻覚伝播の複合化,メモリ中毒,検索ミスアライメント,カスケードツール実行脆弱性など,自律ループに固有の重篤なシステムリスクを同定する。
  論文  参考訳（メタデータ） (2026-03-07T23:38:57Z)
• Agentic AI for Cybersecurity: A Meta-Cognitive Architecture for Governable Autonomy [0.0]
  本稿では,サイバーセキュリティのオーケストレーションはエージェント型マルチエージェント認知システムとして再認識されるべきである,と論じる。 本稿では,特定・仮説形成・文脈解釈・説明・ガバナンスに責任を負う異種AIエージェントを,メタ認知判断機能を通じて協調する概念的枠組みを提案する。 我々の貢献は、メタ認知判断を第一級システム機能として組み込むことによって、この認知構造をアーキテクチャ的に明確化し、統制可能にすることである。
  論文  参考訳（メタデータ） (2026-02-12T12:52:49Z)
• AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
  このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。 我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。 我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
  論文  参考訳（メタデータ） (2025-11-27T16:56:04Z)
• The Loss of Control Playbook: Degrees, Dynamics, and Preparedness [39.39076397908963]
  本報告では,新たな分類と準備の枠組みを開発することにより,AIシステムにおけるロス・オブ・コントロール(Los of Control, LoC)の実用的な定義が欠如していることに対処する。 そこで本研究では,重度と持続性の指標に基づいて,偏差,境界LoC,Strict LoCを区別したLoC分類法を提案する。 我々は,社会的脆弱性が到達した場合に,準備の維持と LoC 結果の発生防止を計画した。
  論文  参考訳（メタデータ） (2025-11-19T20:10:39Z)
• Making LLMs Reliable When It Matters Most: A Five-Layer Architecture for High-Stakes Decisions [51.56484100374058]
  現在の大規模言語モデル(LLM)は、実行前にアウトプットをチェックできるが、不確実な結果を伴う高い戦略決定には信頼性が低い検証可能な領域で優れている。 このギャップは、人間と人工知能(AI)システムの相互認知バイアスによって引き起こされ、そのセクターにおける評価と投資の持続可能性の保証を脅かす。 本報告では、7つのフロンティアグレードLDMと3つの市場向けベンチャーヴィグネットの時間的圧力下での系統的質的評価から生まれた枠組みについて述べる。
  論文  参考訳（メタデータ） (2025-11-10T22:24:21Z)
• A Survey on Autonomy-Induced Security Risks in Large Model-Based Agents [45.53643260046778]
  大規模言語モデル(LLM)の最近の進歩は、自律型AIエージェントの台頭を触媒している。 これらの大きなモデルエージェントは、静的推論システムからインタラクティブなメモリ拡張エンティティへのパラダイムシフトを示す。
  論文  参考訳（メタデータ） (2025-06-30T13:34:34Z)
• Accountability in Offline Reinforcement Learning: Explaining Decisions with a Corpus of Examples [70.84093873437425]
  本稿では、オフラインデータセットを決定コーパスとして利用するAOC(Accountable Offline Controller)を紹介する。 AOCはローデータシナリオで効果的に動作し、厳密なオフラインの模倣設定まで拡張でき、保存性と適応性の両方の品質を示す。 シミュレーションおよび実世界の医療シナリオにおいて、AOCのパフォーマンスを評価し、説明責任を維持しながら高いレベルのパフォーマンスでオフライン制御タスクを管理する能力を強調した。
  論文  参考訳（メタデータ） (2023-10-11T17:20:32Z)
• Closing the AI Accountability Gap: Defining an End-to-End Framework for Internal Algorithmic Auditing [8.155332346712424]
  本稿では,人工知能システム開発をエンドツーエンドでサポートするアルゴリズム監査フレームワークを提案する。 提案する監査フレームワークは,大規模人工知能システムの開発と展開において,説明責任のギャップを埋めることを目的としている。
  論文  参考訳（メタデータ） (2020-01-03T20:19:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。