論文の概要: AI Awareness
- arxiv url: http://arxiv.org/abs/2504.20084v1
- Date: Fri, 25 Apr 2025 16:03:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-02 19:15:54.57213
- Title: AI Awareness
- Title（参考訳）: AIの認識
- Authors: Xiaojian Li, Haoyuan Shi, Rongwu Xu, Wei Xu,
- Abstract要約: 我々は、メタ認知、自己認識、社会的認識、状況認識を含む、AI認知の新たな展望を探求する。
我々は、AIの認識がAI能力とどのように密接に関連しているかを調べ、より意識的なAIエージェントがより高いレベルの知的行動を示す傾向があることを示す。
AIの安全性、アライメント、より広範な倫理的懸念など、AIの認識に関連するリスクについて議論する。
- 参考スコア（独自算出の注目度）: 8.537898577659401
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent breakthroughs in artificial intelligence (AI) have brought about increasingly capable systems that demonstrate remarkable abilities in reasoning, language understanding, and problem-solving. These advancements have prompted a renewed examination of AI awareness, not as a philosophical question of consciousness, but as a measurable, functional capacity. In this review, we explore the emerging landscape of AI awareness, which includes meta-cognition (the ability to represent and reason about its own state), self-awareness (recognizing its own identity, knowledge, limitations, inter alia), social awareness (modeling the knowledge, intentions, and behaviors of other agents), and situational awareness (assessing and responding to the context in which it operates). First, we draw on insights from cognitive science, psychology, and computational theory to trace the theoretical foundations of awareness and examine how the four distinct forms of AI awareness manifest in state-of-the-art AI. Next, we systematically analyze current evaluation methods and empirical findings to better understand these manifestations. Building on this, we explore how AI awareness is closely linked to AI capabilities, demonstrating that more aware AI agents tend to exhibit higher levels of intelligent behaviors. Finally, we discuss the risks associated with AI awareness, including key topics in AI safety, alignment, and broader ethical concerns. AI awareness is a double-edged sword: it improves general capabilities, i.e., reasoning, safety, while also raises concerns around misalignment and societal risks, demanding careful oversight as AI capabilities grow. On the whole, our interdisciplinary review provides a roadmap for future research and aims to clarify the role of AI awareness in the ongoing development of intelligent machines.
- Abstract（参考訳）: 近年の人工知能(AI)のブレークスルーは、推論、言語理解、問題解決において顕著な能力を示す能力を持つシステムを生み出している。
これらの進歩は、哲学的な意識の問題としてではなく、測定可能な機能能力として、AIの認識を再検査するきっかけとなった。
本稿では、メタ認知(自己の状態を表現し、判断する能力)、自己認識(自己のアイデンティティ、知識、制限、エイリアス)、社会的認識(他エージェントの知識、意図、行動のモデル化)、状況認識(動作するコンテキストを計測し、応答する能力)を含む、AI認知の新たな展望を探求する。
まず、認知科学、心理学、計算理論からの洞察に基づいて、認知の理論的基礎を辿り、最先端のAIにおいて4つの異なる形のAI認識がどのように現れるかを調べる。
次に,現在の評価手法と経験的知見を体系的に分析し,これらの知見をよりよく理解する。
これに基づいて、AIの認識がAI能力と密接な関係にあるかを検討し、より意識的なAIエージェントがより高いレベルの知的行動を示す傾向があることを実証する。
最後に、AIの安全性、アライメント、より広範な倫理的懸念など、AIの認識に関連するリスクについて議論する。
AI認識は二重刃の剣であり、一般的な能力、すなわち推論、安全性を改善し、AI能力が増大するにつれて、誤った調整や社会的リスクに関する懸念を提起する。
全体として、私たちの学際的レビューは将来の研究のロードマップを提供し、インテリジェントマシンの継続的な開発におけるAI意識の役割を明確にすることを目的としています。
関連論文リスト
- Aligning Generalisation Between Humans and Machines [74.120848518198]
近年のAIの進歩は、科学的発見と意思決定支援において人間を支援できる技術をもたらしたが、民主主義と個人を妨害する可能性がある。
AIの責任ある使用は、ますます人間とAIのチームの必要性を示している。
これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
論文 参考訳（メタデータ） (2024-11-23T18:36:07Z) - Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
AIシステムは知恵を欠いている。
AI研究はタスクレベルの戦略に焦点を当てているが、メタ認知はAIシステムでは未発達である。
メタ認知機能をAIシステムに統合することは、その堅牢性、説明可能性、協力性、安全性を高めるために不可欠である。
論文 参考訳（メタデータ） (2024-11-04T18:10:10Z) - Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。
本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
論文 参考訳（メタデータ） (2024-02-28T16:09:56Z) - Advancing Explainable AI Toward Human-Like Intelligence: Forging the
Path to Artificial Brain [0.7770029179741429]
説明可能なAI(XAI)における人工知能(AI)と神経科学の交差は、複雑な意思決定プロセスにおける透明性と解釈可能性を高めるために重要である。
本稿では,機能ベースから人間中心のアプローチまで,XAI方法論の進化について考察する。
生成モデルにおける説明可能性の達成、責任あるAIプラクティスの確保、倫理的意味への対処に関する課題について論じる。
論文 参考訳（メタデータ） (2024-02-07T14:09:11Z) - Advancing Perception in Artificial Intelligence through Principles of
Cognitive Science [6.637438611344584]
我々は、周囲の信号を入力として取り、それを処理して環境を理解する、知覚の認知機能に焦点を当てる。
我々は、認知科学にインスパイアされたAIシステムを構築するために、AIに一連の方法を提案する。
論文 参考訳（メタデータ） (2023-10-13T01:21:55Z) - Suffering Toasters -- A New Self-Awareness Test for AI [0.0]
現在のインテリジェンステストはすべて、インテリジェンスの存在や欠如を示すには不十分である、と我々は主張する。
人工自己認識のための新しい手法を提案し,その実装の概要を述べる。
論文 参考訳（メタデータ） (2023-06-29T18:58:01Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z) - Trustworthy AI: A Computational Perspective [54.80482955088197]
我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。
各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
論文 参考訳（メタデータ） (2021-07-12T14:21:46Z) - Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。
倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。
このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
論文 参考訳（メタデータ） (2021-06-25T22:31:55Z) - Functionally Effective Conscious AI Without Suffering [2.017876577978849]
エンジニアリングを意識したAIの相補的な側面について論じられることはめったにない。
創造が責任のみを負うようなシステムに対する非難を避けるには、現象的な自己意識によって引き起こされる避けられない苦痛をどうやって回避するか。
論文 参考訳（メタデータ） (2020-02-13T17:59:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。