論文の概要: Governance-Constrained Agentic AI: Blockchain-Enforced Human Oversight for Safety-Critical Wildfire Monitoring

• arxiv url: http://arxiv.org/abs/2604.04265v1
• Date: Sun, 05 Apr 2026 21:07:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-07 15:49:19.014719
• Title: Governance-Constrained Agentic AI: Blockchain-Enforced Human Oversight for Safety-Critical Wildfire Monitoring
• Title（参考訳）: ガバナンスに制約のあるエージェントAI:安全クリティカルな山火事モニタリングのためのブロックチェーン強化人間監視
• Authors: Ali Akarma, Toqeer Ali Syed, Salman Jan, Hammad Muneer, Abdul Khadar Jilani,
• Abstract要約: 本稿では、信頼された山火事早期警戒のためのガバナンスを意識したエージェントAIアーキテクチャを提供する。 山火事のモニタリングは、部分的に観測可能なマルコフ決定プロセスとしてモデル化されている。 我々は、警告の完全性、人的制御、非調査、ビザンチン断層の限定的な検出遅延仮定などの公式な保証を構築する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The AI-based sensing and autonomous monitoring have become the main components of wildfire early detection, but current systems do not provide adaptive inter-agent coordination, structurally defined human control, and cryptographically verifiable responsibility. Purely autonomous alert dissemination in the context of safety critical disasters poses threats of false alarming, governance failure and lack of trust in the system. This paper provides a blockchain-based governance-conscious agentic AI architecture of trusted wildfire early warning. The monitoring of wildfires is modeled as a constrained partially observable Markov decision process (POMDP) that accounts for the detection latency, false alarms reduction and resource consumption with clear governance constraints. Hierarchical multi-agent coordination means dynamic risk-adaptive reallocation of unmanned aerial vehicles (UAVs). With risk-adaptive policies, a permissioned blockchain layer sets mandatory human-authorization as a state-transition invariant as a smart contract. We build formal assurances such as integrity of alerts, human control, non-repudiation and limited detection latency assumptions of Byzantine fault. Security analysis shows that it is resistant to alert injections, replays, and tampering attacks. High-fidelity simulation environment experimental evaluation of governance enforcement demonstrates that it presents limited operational overhead and decreases false public alerts and maintains adaptive detection performance. This work is a step towards a principled design paradigm of reliable AI systems by incorporating accountability into the agentic control loop of disaster intelligence systems that demand safety in their application.
• Abstract（参考訳）: AIベースのセンシングと自律監視は、野火の早期検出の主要なコンポーネントとなっているが、現在のシステムは、適応的なエージェント間調整、構造的に定義された人間の制御、暗号的に検証可能な責任を提供していない。 安全クリティカルな災害の文脈で、純粋に自律的なアラートの拡散は、誤った警告、ガバナンスの失敗、システムに対する信頼の欠如の脅威を引き起こす。 本稿では、信頼された山火事早期警戒のためのブロックチェーンベースのガバナンス指向のエージェントAIアーキテクチャを提供する。 野火の監視は、検出遅延、誤報の低減、および明確なガバナンス制約によるリソース消費を考慮に入れた、制約付き部分的に観測可能なマルコフ決定プロセス(POMDP)としてモデル化されている。 階層的多エージェント調整(Hierarchical multi-agent coordinate)とは、無人航空機(UAV)の動的リスク適応的再配置を意味する。 リスク適応型ポリシでは、許可されたブロックチェーンレイヤが、スマートコントラクトとして状態遷移不変量として、人間認証を必須に設定する。 我々は、警告の完全性、人的制御、非調査、ビザンチン断層の限定的な検出遅延仮定などの公式な保証を構築する。 セキュリティ分析は、警告インジェクション、リプレイ、タンパリング攻撃に耐性があることを示している。 高忠実度シミュレーション環境では,運用上のオーバーヘッドを限定し,誤報を低減し,適応検出性能を維持することが実証された。 この作業は、アプリケーションに安全を要求する災害情報システムのエージェント制御ループに説明責任を組み込むことによって、信頼性の高いAIシステムの原則設計パラダイムへのステップである。

関連論文リスト

• Trust as Monitoring: Evolutionary Dynamics of User Trust and AI Developer Behaviour [59.27481013639016]
  我々は、安全と安全でないAIのユーザー信頼戦略と開発者選択が、異なるレベルの監視コストと制度体制の下でどのように共存するかを研究する。 安全でない開発への採用、安全でないが広く採用されているシステム、そして広く採用されている安全なシステムです。
  論文  参考訳（メタデータ） (2026-03-25T19:04:23Z)
• CaMeLs Can Use Computers Too: System-level Security for Computer Use Agents [60.98294016925157]
  AIエージェントは、悪意のあるコンテンツがエージェントの行動をハイジャックして認証情報を盗んだり、金銭的損失を引き起こすような、インジェクション攻撃に弱い。 CUAのためのシングルショットプランニングでは、信頼できるプランナーが、潜在的に悪意のあるコンテンツを観察する前に、条件付きブランチで完全な実行グラフを生成する。 このアーキテクチャ分離は命令インジェクションを効果的に防止するが、ブランチステアリング攻撃を防ぐには追加の対策が必要であることを示す。
  論文  参考訳（メタデータ） (2026-01-14T23:06:35Z)
• MAIF: Enforcing AI Trust and Provenance with an Artifact-Centric Agentic Paradigm [0.5495755145898128]
  現在のAIシステムは、監査証跡、証明追跡、EU AI Actのような新たな規則で要求される説明可能性に欠ける不透明なデータ構造で運用されている。 動作は一時的なタスクではなく、永続的で検証可能なデータアーティファクトによって駆動される、アーティファクト中心のAIエージェントパラダイムを提案する。 プロダクション対応実装では、超高速ストリーミング(2,720.7MB/s)、最適化されたビデオ処理(1,342MB/s)、エンタープライズレベルのセキュリティが示されている。
  論文  参考訳（メタデータ） (2025-11-19T04:10:32Z)
• OS-Sentinel: Towards Safety-Enhanced Mobile GUI Agents via Hybrid Validation in Realistic Workflows [77.95511352806261]
  VLM(Vision-Language Models)を利用したコンピュータ利用エージェントは、モバイルプラットフォームのようなデジタル環境を操作する上で、人間のような能力を実証している。 我々は,明示的なシステムレベルの違反を検出するための形式検証器と,文脈的リスクとエージェント行動を評価するコンテキスト判断器を組み合わせた,新しいハイブリッド安全検出フレームワークOS-Sentinelを提案する。
  論文  参考訳（メタデータ） (2025-10-28T13:22:39Z)
• Adaptive Attacks on Trusted Monitors Subvert AI Control Protocols [80.68060125494645]
  プロトコルとモニタモデルを知っている信頼できないモデルによるアダプティブアタックについて検討する。 我々は、攻撃者がモデル出力に公知またはゼロショットプロンプトインジェクションを埋め込む単純な適応攻撃ベクトルをインスタンス化する。
  論文  参考訳（メタデータ） (2025-10-10T15:12:44Z)
• Governable AI: Provable Safety Under Extreme Threat Models [31.36879992618843]
  我々は、従来の内部制約から外部に強制された構造コンプライアンスに移行するGAI(Governable AI)フレームワークを提案する。 GAIフレームワークは、シンプルで信頼性が高く、完全に決定論的で、強力で、柔軟性があり、汎用的なルール執行モジュール(REM)、ガバナンスルール、AIによる妥協やサブバージョンに対するエンドツーエンドの保護を提供する、統制可能なセキュアなスーパープラットフォーム(GSSP)で構成されている。
  論文  参考訳（メタデータ） (2025-08-28T04:22:59Z)
• Securing Agentic AI: Threat Modeling and Risk Analysis for Network Monitoring Agentic AI System [2.5145802129902664]
  MAESTROフレームワークはエージェントAIの脆弱性を公開、評価、排除するために使用された。 プロトタイプエージェントシステムはPython、LangChain、WebSocketでテレメトリを使用して構築、実装された。
  論文  参考訳（メタデータ） (2025-08-12T00:14:12Z)
• DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
  大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。 この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。 本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-13T05:01:09Z)
• A Zero Trust Framework for Realization and Defense Against Generative AI Attacks in Power Grid [62.91192307098067]
  本稿では電力グリッドサプライチェーン(PGSC)のための新しいゼロ信頼フレームワークを提案する。 潜在的なGenAIによる攻撃ベクターの早期発見、テールリスクに基づく安定性の評価、そしてそのような脅威の緩和を容易にする。 実験の結果,ゼロ信頼フレームワークは攻撃ベクトル生成に95.7%の精度,95%安定PGSCに9.61%のリスク尺度,GenAIによる攻撃に対する防御に99%の信頼性が得られた。
  論文  参考訳（メタデータ） (2024-03-11T02:47:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。