論文の概要: A Conceptual Framework for AI-based Decision Systems in Critical Infrastructures

• arxiv url: http://arxiv.org/abs/2504.16133v2
• Date: Tue, 19 Aug 2025 18:52:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-21 14:45:44.549147
• Title: A Conceptual Framework for AI-based Decision Systems in Critical Infrastructures
• Title（参考訳）: 臨界インフラにおけるAIに基づく意思決定システムの概念的枠組み
• Abstract要約: 安全クリティカルなシステムにおける人間とAIの相互作用は、既存のフレームワークによって部分的に対処されている、ユニークな課題のセットを示します。 これらの懸念に対処しながら、人間とAIの能力を総合的に統合するフレームワークが特に必要である。 本稿では、学際的アプローチを採用することにより、批判的インフラの全体的概念的枠組みを提案する。
• 参考スコア（独自算出の注目度）: 2.272797989529731
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The interaction between humans and AI in safety-critical systems presents a unique set of challenges that remain partially addressed by existing frameworks. These challenges stem from the complex interplay of requirements for transparency, trust, and explainability, coupled with the necessity for robust and safe decision-making. A framework that holistically integrates human and AI capabilities while addressing these concerns is notably required, bridging the critical gaps in designing, deploying, and maintaining safe and effective systems. This paper proposes a holistic conceptual framework for critical infrastructures by adopting an interdisciplinary approach. It integrates traditionally distinct fields such as mathematics, decision theory, computer science, philosophy, psychology, and cognitive engineering and draws on specialized engineering domains, particularly energy, mobility, and aeronautics. Its flexibility is further demonstrated through a case study on power grid management.
• Abstract（参考訳）: 安全クリティカルなシステムにおける人間とAIの相互作用は、既存のフレームワークによって部分的に対処されている、ユニークな課題のセットを示します。 これらの課題は、透明性、信頼、説明可能性の要求と、堅牢で安全な意思決定の必要性の複雑な相互作用に起因しています。 これらの懸念に対処しながら、人間とAIの機能を完全に統合するフレームワークが特に必要であり、安全で効果的なシステムを設計、デプロイ、保守する上で重要なギャップを埋める。 本稿では、学際的アプローチを採用することにより、批判的インフラの全体的概念的枠組みを提案する。 数学、決定論、計算機科学、哲学、心理学、認知工学などの伝統的に異なる分野を統合し、特にエネルギー、機動性、航空学などの専門的な工学分野に焦点を当てている。 その柔軟性は電力グリッド管理のケーススタディによってさらに実証される。

関連論文リスト

• AI Deployment Accountability Engineering: A Vision for Accountable AI in Safety-Critical Socio-Technical Systems [14.280538199149634]
  このビジョンペーパーはAI Deployment Accountability Engineering (ADAE)を紹介する。 ADAEは、デプロイされたAIシステムに対して測定可能で、連続的で、実行可能な説明責任を確立することを目的とした、AIエンジニアリングのサブカテゴリである。 我々は,コンテキスト依存型障害モードの構造化発見,プライバシ保護型説明責任測定,エージェントAIのシステムレベルのリスク分析,技術的障害の運用的,制度的リスクへの変換という,4つの相互接続された柱を中心に構築された研究課題を具体的に述べる。
  論文  参考訳（メタデータ） (2026-09-13T15:18:41Z)
• Autonomous Systems Dependability in the era of AI: Design Challenges in Safety, Security, Reliability and Certification [4.358009861529629]
  組込み安全クリティカルシステムの設計は、システムの複雑さをエスカレートすることでますます困難になってきている。 従来の信頼性、安全性、セキュリティ管理の方法は、人工知能(AI)と機械学習(ML)によって導入された動的で不確実な振る舞いに対処するのに不足することが多い。 AIとMLは、システムの信頼性を高める強力な予測、適応、自己最適化機能を提供しますが、その固有の非決定性、データ依存性、正式な保証の欠如は、検証、検証、認定のための新たな課題をもたらします。 本稿では,AI時代の信頼性の高い自律型・組み込み型システムを設計するための新しい方法論,アーキテクチャ,フレームワークについて考察する。
  論文  参考訳（メタデータ） (2026-04-30T12:50:29Z)
• Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses [168.50301366360344]
  Embodied AI (Embodied AI) は、知覚、認知、計画、相互作用を、安全クリティカルな環境で機能するエージェントに統合する。 デジタルAIシステムとは異なり、エンボディエージェントは不確実な検知、不完全な知識、動的な人間とロボットの相互作用の下で行動しなければならない。 この調査は、エンボディされたAIにおける安全性研究の包括的なレビューを提供し、完全なエンボディされたパイプラインにわたる攻撃と防御を調査している。
  論文  参考訳（メタデータ） (2026-03-28T13:21:44Z)
• A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
  私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。 応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。 我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
  論文  参考訳（メタデータ） (2026-03-11T07:40:53Z)
• Digital Sovereignty Control Framework for Military AI-based Cyber Security [0.0]
  この記事では、軍事サイバーセキュリティのためのデータとAIベースのモデルのデジタル主権制御を定義し、評価することを目的とする。 この枠組みは、デジタル主権とデータ主権の概念に基づいており、機密性の高い防衛資産を保護することを目的としている。 同時に、このフレームワークは、戦略的、法的に考慮された連合軍間の相互運用性の課題に対処する。
  論文  参考訳（メタデータ） (2025-09-16T13:29:26Z)
• Private, Verifiable, and Auditable AI Systems [3.745111265115901]
  この論文は、現代のAIにおけるプライバシ、検証可能性、監査可能性の間の相互作用に対処する。 これらの要素を統合する技術的ソリューションは、AIイノベーションの責任を負う上で重要である、と氏は主張する。
  論文  参考訳（メタデータ） (2025-08-27T07:08:44Z)
• Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
  本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。 我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。 私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
  論文  参考訳（メタデータ） (2025-08-12T09:42:56Z)
• Towards provable probabilistic safety for scalable embodied AI systems [79.31011047593492]
  エンボディードAIシステムは、様々なアプリケーションでますます普及している。 複雑な運用環境での安全性確保は依然として大きな課題である。 このパースペクティブは、安全で大規模に実施されたAIシステムを安全クリティカルなアプリケーションに採用するための道筋を提供する。
  論文  参考訳（メタデータ） (2025-06-05T15:46:25Z)
• Zero-Trust Foundation Models: A New Paradigm for Secure and Collaborative Artificial Intelligence for Internet of Things [61.43014629640404]
  Zero-Trust Foundation Models (ZTFM)は、ゼロトラストセキュリティの原則をIoT(Internet of Things)システムの基盤モデル(FM)のライフサイクルに組み込む。 ZTFMは、分散、異質、潜在的に敵対的なIoT環境にわたって、セキュアでプライバシ保護のAIを可能にする。
  論文  参考訳（メタデータ） (2025-05-26T06:44:31Z)
• KERAIA: An Adaptive and Explainable Framework for Dynamic Knowledge Representation and Reasoning [46.85451489222176]
  KERAIAはシンボリックナレッジエンジニアリングのための新しいフレームワークとソフトウェアプラットフォームである。 動的で複雑でコンテキストに敏感な環境で知識を表現、推論、実行するという永続的な課題に対処する。
  論文  参考訳（メタデータ） (2025-05-07T10:56:05Z)
• SYMBIOSIS: Systems Thinking and Machine Intelligence for Better Outcomes in Society [0.0]
  SYMBIOSISはAIを利用したフレームワークとプラットフォームで、システム思考が社会的な課題に対処できるように設計されている。 そこで我々は,複雑なシステム表現を自然言語に変換する生成コパイロットを開発した。 SYMBIOSISは、責任と社会中心のAIに関する将来の研究を解き放つための基礎的なステップとして機能することを目指している。
  論文  参考訳（メタデータ） (2025-03-07T17:07:26Z)
• Towards Developing Ethical Reasoners: Integrating Probabilistic Reasoning and Decision-Making for Complex AI Systems [4.854297874710511]
  計算倫理フレームワークは、複雑な実環境で動作するAIと自律システムにとって不可欠である。 既存のアプローチは、倫理原則を動的で曖昧な文脈に組み込むために必要な適応性に欠けることが多い。 本稿では,中間表現,確率論的推論,知識表現を組み合わせた総合的メタレベルフレームワークの構築に必要な要素について概説する。
  論文  参考訳（メタデータ） (2025-02-28T17:25:11Z)
• Ten Challenging Problems in Federated Foundation Models [55.343738234307544]
  フェデレーション・ファンデーション・モデル(Federated Foundation Models、FedFM)は、フェデレーション・モデルの一般的な能力とフェデレーション・ラーニングのプライバシー保護能力を融合させる分散学習パラダイムである。 本稿では,FedFMに固有の10の課題について,基礎理論,プライベートデータの利用,継続学習,非学習,非IIDおよびグラフデータ,双方向知識伝達,インセンティブ機構設計,ゲーム機構設計,モデル透かし,効率を包括的に要約する。
  論文  参考訳（メタデータ） (2025-02-14T04:01:15Z)
• Position: Emergent Machina Sapiens Urge Rethinking Multi-Agent Paradigms [8.177915265718703]
  AIエージェントは、目的を動的に調整する権限を持つべきだ、と私たちは主張する。 私たちは、これらのマルチエージェントAIシステムの創発的で、自己組織化され、コンテキストに配慮した性質へのシフトを呼びかけます。
  論文  参考訳（メタデータ） (2025-02-05T22:20:15Z)
• Open Problems in Machine Unlearning for AI Safety [61.43515658834902]
  特定の種類の知識を選択的に忘れたり、抑圧したりするマシンアンラーニングは、プライバシとデータ削除タスクの約束を示している。 本稿では,アンラーニングがAI安全性の包括的ソリューションとして機能することを防止するための重要な制約を特定する。
  論文  参考訳（メタデータ） (2025-01-09T03:59:10Z)
• TOAST Framework: A Multidimensional Approach to Ethical and Sustainable AI Integration in Organizations [0.38073142980732994]
  本稿では,TOAST(Trustworthy,Optimized,Adaptable,Socio-Technologically harmonious)フレームワークを紹介する。 信頼性、説明責任、技術的進歩、適応性、社会技術的調和に焦点を当てている。 医療ケーススタディにおけるTOASTフレームワークの基盤として,本論文は,その実用性と理論的健全性について,頑健な評価を提供する。
  論文  参考訳（メタデータ） (2025-01-07T05:13:39Z)
• SoK: Unifying Cybersecurity and Cybersafety of Multimodal Foundation Models with an Information Theory Approach [58.93030774141753]
  MFM(Multimodal foundation model)は、人工知能の大幅な進歩を表す。 本稿では,マルチモーダル学習におけるサイバーセーフティとサイバーセキュリティを概念化する。 我々は、これらの概念をMFMに統一し、重要な脅威を特定するための総合的知識体系化(SoK)を提案する。
  論文  参考訳（メタデータ） (2024-11-17T23:06:20Z)
• AI Risk Management Should Incorporate Both Safety and Security [185.68738503122114]
  AIリスクマネジメントの利害関係者は、安全とセキュリティの間のニュアンス、シナジー、相互作用を意識すべきである、と私たちは主張する。 我々は、AIの安全性とAIのセキュリティの違いと相互作用を明らかにするために、統一された参照フレームワークを導入する。
  論文  参考訳（メタデータ） (2024-05-29T21:00:47Z)
• Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
  我々は、AI安全性に対する一連のアプローチを紹介し、定義する。 これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。 これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
  論文  参考訳（メタデータ） (2024-05-10T17:38:32Z)
• Privacy in Foundation Models: A Conceptual Framework for System Design [3.438211531047665]
  ファンデーションモデルは、大きな課題と素晴らしい機会の両方を示します。 現在、プライバシー評価プロセスが包含すべき技術的問題と非技術的問題の両方の包括的範囲について合意が得られていない。 本稿では、複数の視点から様々な責任あるAIパターンを統合する新しい概念的枠組みを紹介する。
  論文  参考訳（メタデータ） (2023-11-13T00:44:06Z)
• Systems Challenges for Trustworthy Embodied Systems [0.0]
  エンボディシステムと呼ばれる、ますます自律的かつ自律的な新世代のシステムの開発が進んでいる。 実施されたシステムの振る舞いを有益な方法で調整し、人間中心の社会的価値との整合性を確保し、安全で信頼性の高い人間と機械の相互作用を設計することが不可欠である。 我々は、急進的なシステム工学が組み込みシステムからエンボディドシステムへの気候に到達し、状況を認識し、意図的に駆動され、爆発的に進化し、ほとんど予測不可能で、ますます自律的なエンボディドシステムのダイナミックフェデレーションの信頼性を保証していると論じている。
  論文  参考訳（メタデータ） (2022-01-10T15:52:17Z)
• Towards an Interface Description Template for AI-enabled Systems [77.34726150561087]
  再利用(Reuse)は、システムアーキテクチャを既存のコンポーネントでインスタンス化しようとする、一般的なシステムアーキテクチャのアプローチである。 現在、コンポーネントが当初目的としていたものと異なるシステムで運用する可搬性を評価するために必要な情報の選択をガイドするフレームワークは存在しない。 我々は、AI対応コンポーネントの主情報をキャプチャするインターフェイス記述テンプレートの確立に向けて、現在進行中の作業について述べる。
  論文  参考訳（メタデータ） (2020-07-13T20:30:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。