論文の概要: A Safety Assurable Human-Inspired Perception Architecture

• arxiv url: http://arxiv.org/abs/2205.07862v1
• Date: Tue, 10 May 2022 15:41:35 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-22 11:17:56.405873
• Title: A Safety Assurable Human-Inspired Perception Architecture
• Title（参考訳）: 安全確保可能な人間にインスパイアされた知覚アーキテクチャ
• Authors: Rick Salay, Krzysztof Czarnecki
• Abstract要約: 我々は、人工知能に基づく知覚の限界に対処するために、根本的に異なるアプローチが必要であると論じる。 人間の認知の二重プロセスモデルに着想を得て,安全なAIPのための二重プロセスアーキテクチャを提案する。
• 参考スコア（独自算出の注目度）: 13.518503967692265
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Although artificial intelligence-based perception (AIP) using deep neural networks (DNN) has achieved near human level performance, its well-known limitations are obstacles to the safety assurance needed in autonomous applications. These include vulnerability to adversarial inputs, inability to handle novel inputs and non-interpretability. While research in addressing these limitations is active, in this paper, we argue that a fundamentally different approach is needed to address them. Inspired by dual process models of human cognition, where Type 1 thinking is fast and non-conscious while Type 2 thinking is slow and based on conscious reasoning, we propose a dual process architecture for safe AIP. We review research on how humans address the simplest non-trivial perception problem, image classification, and sketch a corresponding AIP architecture for this task. We argue that this architecture can provide a systematic way of addressing the limitations of AIP using DNNs and an approach to assurance of human-level performance and beyond. We conclude by discussing what components of the architecture may already be addressed by existing work and what remains future work.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)を用いた人工知能ベースの知覚(AIP)は、人間のレベルに近い性能を達成したが、その有名な制限は、自律的なアプリケーションに必要な安全保証の障害である。 これには、敵の入力に対する脆弱性、新しい入力を扱うことができないこと、非解釈性が含まれる。 これらの制限に対処する研究は活発に行われているが、本稿ではそれらに対処するには根本的に異なるアプローチが必要であると論じる。 1型思考は高速で無意識であるが2型思考は遅く、意識的推論に基づく人間の認知の双対プロセスモデルに触発されて、安全なaipのための双対プロセスアーキテクチャを提案する。 本稿では,人間が最も単純な非自明な認識問題,画像分類,およびそれに対応するAIPアーキテクチャのスケッチについて検討する。 このアーキテクチャは、DNNを用いたAIPの限界に対処する体系的な方法と、人間レベルのパフォーマンスを保証するためのアプローチを提供することができる、と我々は主張する。 結論として、アーキテクチャのどのコンポーネントが既存の作業によってすでに対処され、何が将来の作業のままなのかを議論する。

関連論文リスト

• Can A Cognitive Architecture Fundamentally Enhance LLMs? Or Vice Versa? [0.32634122554913997]
  この論文は、人間の認知と心理学からの洞察を、コンピュータ認知アーキテクチャによって具現化されたように取り入れることで、より有能で、より信頼性があり、より人間に近いシステムを開発するのに役立つと論じている。
  論文  参考訳（メタデータ） (2024-01-19T01:14:45Z)
• Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic Systems [67.01132165581667]
  本稿では,認知アーキテクチャを外部のニューロシンボリックコンポーネントと統合することにより,AIシステムにおける高レベル推論を実現することを提案する。 本稿では,ACT-Rを中心としたハイブリッドフレームワークについて紹介し,最近の応用における生成モデルの役割について論じる。
  論文  参考訳（メタデータ） (2023-11-13T21:20:17Z)
• A Survey on Transferability of Adversarial Examples across Deep Neural Networks [53.04734042366312]
  逆の例では、機械学習モデルを操作して誤った予測を行うことができます。 敵の例の転送可能性により、ターゲットモデルの詳細な知識を回避できるブラックボックス攻撃が可能となる。 本研究は, 対角移動可能性の展望を考察した。
  論文  参考訳（メタデータ） (2023-10-26T17:45:26Z)
• Human Uncertainty in Concept-Based AI Systems [37.82747673914624]
  概念に基づくAIシステムのコンテキストにおける人間の不確実性について検討する。 不確実な概念ラベルによるトレーニングは、概念ベースシステムにおける弱点を軽減するのに役立つ可能性がある。
  論文  参考訳（メタデータ） (2023-03-22T19:17:57Z)
• Inspect, Understand, Overcome: A Survey of Practical Methods for AI Safety [54.478842696269304]
  安全クリティカルなアプリケーションにディープニューラルネットワーク(DNN)を使用することは、多数のモデル固有の欠点のために困難です。 近年,これらの安全対策を目的とした最先端技術動物園が出現している。 本稿は、機械学習の専門家と安全エンジニアの両方に対処する。
  論文  参考訳（メタデータ） (2021-04-29T09:54:54Z)
• Multi-Agent Reinforcement Learning with Temporal Logic Specifications [65.79056365594654]
  本研究では,時間論理仕様を満たすための学習課題を,未知の環境下でエージェントのグループで検討する。 我々は、時間論理仕様のための最初のマルチエージェント強化学習手法を開発した。 主アルゴリズムの正確性と収束性を保証する。
  論文  参考訳（メタデータ） (2021-02-01T01:13:03Z)
• Adversarial Interaction Attack: Fooling AI to Misinterpret Human Intentions [46.87576410532481]
  現在の大きな成功にもかかわらず、ディープラーニングベースのAIシステムは、微妙な敵対的ノイズによって容易に騙されることを示した。 骨格に基づくヒトの相互作用のケーススタディに基づき、相互作用に対する新しい敵対的攻撃を提案する。 本研究では、安全クリティカルなアプリケーションにAIシステムをデプロイする際に慎重に対処する必要があるAIと人間との相互作用ループにおける潜在的なリスクを強調します。
  論文  参考訳（メタデータ） (2021-01-17T16:23:20Z)
• A Deep Genetic Programming based Methodology for Art Media Classification Robust to Adversarial Perturbations [1.6148039130053087]
  美術メディア分類問題(Art Media Classification problem)は,高価値美術品の特徴の複雑な抽出と分析によって注目されている研究分野である。 その信頼性に関する主な懸念は、入力画像(敵攻撃)に意図的に小さな摂動がある場合、その予測を完全に変更できるためである。 この研究は、深層学習と競合する深層遺伝プログラミング(Brain Programming)と呼ばれる方法を提示している。
  論文  参考訳（メタデータ） (2020-10-03T00:36:34Z)
• Enabling Morally Sensitive Robotic Clarification Requests [2.4505259300326334]
  説明要求の反射的な生成は ロボットに彼らの道徳的配置を 誤解させる可能性がある 我々は、曖昧な人間の発話のそれぞれの潜在的な曖昧さについて道徳的推論を行うことで解決法を提案する。 そして,本手法を人体実験により評価し,本手法が2つの懸念事項を改善できることを示唆した。
  論文  参考訳（メタデータ） (2020-07-16T22:12:35Z)
• Machine Common Sense [77.34726150561087]
  機械の常識は、人工知能(AI)において広範で潜在的に無拘束な問題のままである 本稿では、対人インタラクションのようなドメインに焦点を当てたコモンセンス推論のモデル化の側面について論じる。
  論文  参考訳（メタデータ） (2020-06-15T13:59:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。