論文の概要: Death by AI: Where Assured Autonomy in Smart Cities Meets the End-to-End
Argument
- arxiv url: http://arxiv.org/abs/2002.11625v1
- Date: Thu, 13 Feb 2020 20:14:25 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-03 19:01:58.285292
- Title: Death by AI: Where Assured Autonomy in Smart Cities Meets the End-to-End
Argument
- Title(参考訳): AIによる死:スマートシティにおける自律性を保証する場所
- Authors: Gregory Falco
- Abstract要約: 多くのスマートシティのサイバー物理システムが自動化されている。
彼らが安全に行動することが重要である。
このような自律システムの安全性を一貫した管理が課題となっている。
- 参考スコア(独自算出の注目度): 5.063728016437489
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A smart city involves critical infrastructure systems that have been
digitally enabled. Increasingly, many smart city cyber-physical systems are
becoming automated. The extent of automation ranges from basic logic gates to
sophisticated, artificial intelligence (AI) that enables fully autonomous
systems. Because of modern society's reliance on autonomous systems in smart
cities, it is crucial for them to operate in a safe manner; otherwise, it is
feasible for these systems to cause considerable physical harm or even death.
Because smart cities could involve thousands of autonomous systems operating in
concert in densely populated areas, safety assurances are required. Challenges
abound to consistently manage the safety of such autonomous systems due to
their disparate developers, manufacturers, operators and users. A novel network
and a sample of associated network functions for autonomous systems is proposed
that aims to provide a baseline of safety for autonomous systems. This is
accomplished by establishing a custom-designed network for autonomous systems
that is separate from the Internet, and can handle certain functions that
enable safety through active networking. Such a network design sits at the
margins of the end-to-end principle, which is warranted considering the safety
of autonomous systems is at stake as is argued in this paper. Without a
scalable safety strategy for autonomous systems as proposed, assured autonomy
in smart cities will remain elusive.
- Abstract(参考訳): スマートシティには、デジタル的に有効になった重要なインフラストラクチャシステムが含まれる。
スマートシティのサイバー物理システムはますます自動化されつつある。
自動化の範囲は、基本的な論理ゲートから、完全に自律的なシステムを可能にする高度な人工知能(AI)まで様々である。
現代社会がスマートシティの自律システムに依存しているため、安全な方法での運用が不可欠である。
スマートシティは人口密度の高い地域で、何千もの自律システムが協業する可能性があるため、安全保証が必要である。
さまざまな開発者、製造業者、オペレーター、ユーザのために、このような自律システムの安全性を一貫して管理することの課題。
自律システムのための安全性のベースラインを提供することを目的とした,新しいネットワークと関連するネットワーク機能のサンプルを提案する。
これは、インターネットとは切り離された自律システムのためのカスタム設計のネットワークを確立することで実現され、アクティブネットワークを通じて安全な機能を実現することができる。
このようなネットワーク設計は、この論文で論じられているように、自律システムの安全性を考えると、エンド・ツー・エンドの原則の限界にある。
提案されたように、自律システムのスケーラブルな安全戦略がなければ、スマートシティにおける自律性はいまだに解明されないだろう。
関連論文リスト
- Work-in-Progress: Crash Course: Can (Under Attack) Autonomous Driving Beat Human Drivers? [60.51287814584477]
本稿では,現在のAVの状況を調べることによって,自律運転における本質的なリスクを評価する。
AVの利点と、現実のシナリオにおける潜在的なセキュリティ課題との微妙なバランスを強調した、特定のクレームを開発する。
論文 参考訳(メタデータ) (2024-05-14T09:42:21Z) - Security Challenges in Autonomous Systems Design [1.864621482724548]
人間のコントロールから独立すると、このようなシステムのサイバーセキュリティはさらに重要になる。
人間のコントロールから独立すると、このようなシステムのサイバーセキュリティはさらに重要になる。
本稿では,技術の現状を徹底的に議論し,新たなセキュリティ課題を特定し,研究の方向性を提案する。
論文 参考訳(メタデータ) (2023-11-05T09:17:39Z) - Managing extreme AI risks amid rapid progress [171.05448842016125]
我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。
このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。
現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
論文 参考訳(メタデータ) (2023-10-26T17:59:06Z) - Autonomous Vehicles an overview on system, cyber security, risks,
issues, and a way forward [0.0]
この章は、自動運転車の複雑な領域を探求し、その基本的な構成要素と運用上の特性を分析します。
この調査の主な焦点は、サイバーセキュリティの領域、特に自動運転車の文脈にある。
これらの車両を潜在的な脅威から保護することを目的とした様々なリスク管理ソリューションについて、包括的な分析を行う。
論文 参考訳(メタデータ) (2023-09-25T15:19:09Z) - When Authentication Is Not Enough: On the Security of Behavioral-Based Driver Authentication Systems [53.2306792009435]
我々はランダムフォレストとリカレントニューラルネットワークアーキテクチャに基づく2つの軽量ドライバ認証システムを開発した。
我々は,SMARTCANとGANCANという2つの新しいエスケープアタックを開発することで,これらのシステムに対する攻撃を最初に提案する。
コントリビューションを通じて、これらのシステムを安全に採用する実践者を支援し、車の盗難を軽減し、ドライバーのセキュリティを高める。
論文 参考訳(メタデータ) (2023-06-09T14:33:26Z) - Secure solutions for Smart City Command Control Centre using AIOT [1.1731001328350983]
Smart City IOTネットワークでは、異なるログコレクタから収集されたデータや、クラウドやエッジから直接のソースから収集されたデータは、AIの可能性を活用する必要がある。
スマートシティのコマンドとコントロールセンターチームは、これらのモデルを活用して、異なる都市IOTネットワークにデプロイし、侵入予測、ネットワークパケットのサージ、潜在的な外部ネットワークからのボットネット攻撃を支援する。
論文 参考訳(メタデータ) (2021-07-29T23:30:02Z) - On the Philosophical, Cognitive and Mathematical Foundations of
Symbiotic Autonomous Systems (SAS) [87.3520234553785]
共生自律システム(SAS)は、自律的な集団知能を示す高度なインテリジェントおよび認知システムです。
この研究は、知性、認知、コンピュータ、システム科学の最新の進歩に根ざしたSASの理論的枠組みを示す。
論文 参考訳(メタデータ) (2021-02-11T05:44:25Z) - AdvSim: Generating Safety-Critical Scenarios for Self-Driving Vehicles [76.46575807165729]
我々は,任意のLiDARベースの自律システムに対して,安全クリティカルなシナリオを生成するための,敵対的フレームワークであるAdvSimを提案する。
センサデータから直接シミュレートすることにより、完全な自律スタックに対して安全クリティカルな敵シナリオを得る。
論文 参考訳(メタデータ) (2021-01-16T23:23:12Z) - Graph Neural Networks for Decentralized Controllers [171.6642679604005]
自律エージェントで構成される動的システムは、ロボット工学、スマートグリッド、スマートシティなど、多くの関連する問題に現れる。
最適な集中型コントローラは容易に利用できるが、スケーラビリティと実用的な実装の面で制限に直面している。
グラフニューラルネットワーク(GNN)を用いて,データから分散制御系を学習するフレームワークを提案する。
論文 参考訳(メタデータ) (2020-03-23T13:51:18Z) - A Model-Based, Decision-Theoretic Perspective on Automated Cyber
Response [0.0]
本稿では,これらの線に沿って設計された自動サイバー応答に対するアプローチについて述べる。
我々は,保護対象システムのシミュレーションをオンラインプランナーと組み合わせて,部分的に観察可能なマルコフ決定問題(POMDP)を特徴とするサイバー防御問題を解く。
論文 参考訳(メタデータ) (2020-02-20T15:30:59Z) - Towards a Framework for Certification of Reliable Autonomous Systems [3.3861948721202233]
計算システムは、人間の監督や制御なしに独自の決定を下したり、独自の行動を取ることができる場合、自律的である。
例えば、無人航空システムを民間空域で自律的に使用するために、どうやって認定できるのか?
ここでは、自律システムの信頼性の高い動作を提供するために、何が必要なのかを分析する。
我々は、研究者、技術者、規制当局への挑戦を含む規制ガイドラインの策定に向けたロードマップを提案する。
論文 参考訳(メタデータ) (2020-01-24T18:18:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。