論文の概要: Symbols as a Lingua Franca for Bridging Human-AI Chasm for Explainable
and Advisable AI Systems
- arxiv url: http://arxiv.org/abs/2109.09904v1
- Date: Tue, 21 Sep 2021 01:30:06 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-22 14:22:53.177341
- Title: Symbols as a Lingua Franca for Bridging Human-AI Chasm for Explainable
and Advisable AI Systems
- Title（参考訳）: 説明可能なAIシステムのための人間-AIチャットをブリッジするLingua Francaとしてのシンボル
- Authors: Subbarao Kambhampati, Sarath Sreedharan, Mudit Verma, Yantian Zha, Lin
Guan
- Abstract要約: 我々は、人間-AI相互作用における(人間-理解可能な)シンボルの必要性は、非常に説得力があるように思える。
特に、人間は明示的な(象徴的な)知識とアドバイスを提供することに興味があり、機械の説明を期待する。
これだけでも、AIシステムは少なくとも象徴的な言葉でI/Oを行う必要がある。
- 参考スコア（独自算出の注目度）: 21.314210696069495
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Despite the surprising power of many modern AI systems that often learn their
own representations, there is significant discontent about their inscrutability
and the attendant problems in their ability to interact with humans. While
alternatives such as neuro-symbolic approaches have been proposed, there is a
lack of consensus on what they are about. There are often two independent
motivations (i) symbols as a lingua franca for human-AI interaction and (ii)
symbols as (system-produced) abstractions use in its internal reasoning. The
jury is still out on whether AI systems will need to use symbols in their
internal reasoning to achieve general intelligence capabilities. Whatever the
answer there is, the need for (human-understandable) symbols in human-AI
interaction seems quite compelling. Symbols, like emotions, may well not be
sine qua non for intelligence per se, but they will be crucial for AI systems
to interact with us humans--as we can neither turn off our emotions nor get by
without our symbols. In particular, in many human-designed domains, humans
would be interested in providing explicit (symbolic) knowledge and advice--and
expect machine explanations in kind. This alone requires AI systems to at least
do their I/O in symbolic terms. In this blue sky paper, we argue this point of
view, and discuss research directions that need to be pursued to allow for this
type of human-AI interaction.
- Abstract（参考訳）: 現代のaiシステムの多くの驚くべき力は、しばしば彼ら自身の表現を学ぶにもかかわらず、彼らの不精さと人間と対話する能力の付随する問題に対して大きな不満がある。
ニューロシンボリックアプローチのような代替案が提案されているが、それらが何であるかについてのコンセンサスが不足している。
しばしば2つの独立した動機がある
(i)人間とAIの交流のための言語フランカとしての記号
(ii)シンボルを内部推論で使用する(システム生成)抽象化として使用する。
陪審は、AIシステムが一般的な知能を達成するために、内部の推論にシンボルを使う必要があるかどうか、まだ検討中だ。
答えが何であれ、人間とAIの相互作用における(人間の理解可能な)シンボルの必要性は非常に魅力的に思える。
感情と同じように、シンボルは知性そのものにとって全く無意味ではないかもしれないが、AIシステムが人間と対話するためには不可欠だ。
特に、人間設計の多くの領域において、人間は明示的な(象徴的な)知識とアドバイスを提供することに関心を持ち、機械の説明を期待する。
これだけでも、AIシステムは少なくとも象徴的な言葉でI/Oを行う必要がある。
この青空論文では、この視点を論じ、この種の人間とAIの相互作用を可能にするために追求すべき研究の方向性について議論する。
関連論文リスト
- Aligning Generalisation Between Humans and Machines [74.120848518198]
近年のAIの進歩は、科学的発見と意思決定支援において人間を支援できる技術をもたらしたが、民主主義と個人を妨害する可能性がある。
AIの責任ある使用は、ますます人間とAIのチームの必要性を示している。
これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
論文 参考訳（メタデータ） (2024-11-23T18:36:07Z) - Intersymbolic AI: Interlinking Symbolic AI and Subsymbolic AI [3.20902205123321]
シンボルAIは、シンボルAIとサブシンボルAIを組み合わせて、AIの有効性を高める。
シンボルAIとサブシンボリックAIを組み合わせたインターシンボリックAIは、意識的思考と潜在意識的思考の組み合わせが人間の思考の有効性を高める方法に類似している。
論文 参考訳（メタデータ） (2024-06-17T14:01:59Z) - What should I say? -- Interacting with AI and Natural Language
Interfaces [0.0]
HAI(Human-AI Interaction)サブフィールドは、HCI(Human-Computer Interaction)フィールドから生まれ、この概念を検証することを目的としている。
以前の研究では、マインド表現の理論は成功と努力の無いコミュニケーションに不可欠であると示唆されていたが、AIと対話する際にマインド表現の理論が確立されるという点に関しては、ほとんど理解されていない。
論文 参考訳（メタデータ） (2024-01-12T05:10:23Z) - Human Heuristics for AI-Generated Language Are Flawed [8.465228064780744]
我々は,最も個人的かつ連続的な言語である動詞の自己表現が,AIによって生成されたかを検討した。
我々は,これらの単語がAI生成言語の人間の判断を予測可能で操作可能であることを実験的に実証した。
我々は、AIアクセントのようなソリューションについて議論し、AIによって生成された言語の誤認の可能性を減らす。
論文 参考訳（メタデータ） (2022-06-15T03:18:56Z) - Emergence of Machine Language: Towards Symbolic Intelligence with Neural
Networks [73.94290462239061]
本稿では、ニューラルネットワークを用いてシンボルとコネクショナリズムの原理を組み合わせることで、離散表現を導出することを提案する。
対話型環境とタスクを設計することにより、機械が自発的で柔軟でセマンティックな言語を生成できることを実証した。
論文 参考訳（メタデータ） (2022-01-14T14:54:58Z) - On some Foundational Aspects of Human-Centered Artificial Intelligence [52.03866242565846]
人間中心人工知能(Human Centered Artificial Intelligence)の意味については明確な定義はない。
本稿では,AIコンポーネントを備えた物理・ソフトウェア計算エージェントを指すHCAIエージェントについて紹介する。
HCAIエージェントの概念は、そのコンポーネントや機能とともに、人間中心のAIに関する技術的および非技術的議論を橋渡しする手段であると考えています。
論文 参考訳（メタデータ） (2021-12-29T09:58:59Z) - A User-Centred Framework for Explainable Artificial Intelligence in
Human-Robot Interaction [70.11080854486953]
本稿では,XAIのソーシャル・インタラクティブな側面に着目したユーザ中心型フレームワークを提案する。
このフレームワークは、エキスパートでないユーザのために考えられた対話型XAIソリューションのための構造を提供することを目的としている。
論文 参考訳（メタデータ） (2021-09-27T09:56:23Z) - Symbolic Behaviour in Artificial Intelligence [8.849576130278157]
象徴的なAIへの道は、シンボルが何であるかを再解釈することから始まります。
そして、この解釈が、人間が記号を使うときに示す行動特性をどのように統合するかを概説する。
シンボリック行動の出現に必要な認知機械を開発するためのツールとして,AI研究が社会的・文化的エンゲージメントを探求することを提案する。
論文 参考訳（メタデータ） (2021-02-05T20:07:14Z) - Future Trends for Human-AI Collaboration: A Comprehensive Taxonomy of
AI/AGI Using Multiple Intelligences and Learning Styles [95.58955174499371]
我々は、複数の人間の知性と学習スタイルの様々な側面を説明し、様々なAI問題領域に影響を及ぼす可能性がある。
未来のAIシステムは、人間のユーザと互いにコミュニケーションするだけでなく、知識と知恵を効率的に交換できる。
論文 参考訳（メタデータ） (2020-08-07T21:00:13Z) - Machine Common Sense [77.34726150561087]
機械の常識は、人工知能(AI)において広範で潜在的に無拘束な問題のままである
本稿では、対人インタラクションのようなドメインに焦点を当てたコモンセンス推論のモデル化の側面について論じる。
論文 参考訳（メタデータ） (2020-06-15T13:59:47Z) - Who is this Explanation for? Human Intelligence and Knowledge Graphs for
eXplainable AI [0.0]
我々は、eXplainable AIにヒューマンインテリジェンスがもたらす貢献に焦点を当てる。
我々は、知識表現と推論、社会科学、人間計算、人間-機械協調研究とのより優れた相互作用を求めている。
論文 参考訳（メタデータ） (2020-05-27T10:47:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。