論文の概要: Why Trust in AI May Be Inevitable

• arxiv url: http://arxiv.org/abs/2502.20701v1
• Date: Fri, 28 Feb 2025 04:20:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-03 13:44:04.639625
• Title: Why Trust in AI May Be Inevitable
• Title（参考訳）: AIの信頼が避けられない理由
• Authors: Nghi Truong, Phanish Puranam, Ilia Testlin,
• Abstract要約: 説明は時々不可能であるので、信頼は前提条件であるかもしれないと我々は主張する。 この結果は,知識ネットワークによる探索プロセスとしての説明の形式化から導かれる。 我々のモデルは、理論上理想的な条件下でも説明が失敗する可能性があることを明らかにしている。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: In human-AI interactions, explanation is widely seen as necessary for enabling trust in AI systems. We argue that trust, however, may be a pre-requisite because explanation is sometimes impossible. We derive this result from a formalization of explanation as a search process through knowledge networks, where explainers must find paths between shared concepts and the concept to be explained, within finite time. Our model reveals that explanation can fail even under theoretically ideal conditions - when actors are rational, honest, motivated, can communicate perfectly, and possess overlapping knowledge. This is because successful explanation requires not just the existence of shared knowledge but also finding the connection path within time constraints, and it can therefore be rational to cease attempts at explanation before the shared knowledge is discovered. This result has important implications for human-AI interaction: as AI systems, particularly Large Language Models, become more sophisticated and able to generate superficially compelling but spurious explanations, humans may default to trust rather than demand genuine explanations. This creates risks of both misplaced trust and imperfect knowledge integration.
• Abstract（参考訳）: 人間とAIの相互作用において、説明はAIシステムへの信頼を可能にするために必要なものであると広く見なされている。 しかし、私たちは、信頼は前提条件であるかもしれないと論じています。 この結果は、知識ネットワークによる探索過程としての説明の形式化から導かれ、そこでは、説明者は、共有概念と説明すべき概念の間の経路を有限時間以内に見つける必要がある。 我々のモデルは、理論上理想的な条件の下でも説明が失敗する可能性があることを明らかにしている。 これは、共有知識の存在だけでなく、時間的制約の中で接続経路を見つけることが必要なためであり、共有知識が発見される前に説明の試みを止めることは合理的である。 AIシステム、特にLarge Language Modelsは、より洗練され、表面的には魅力的だが刺激的な説明を生み出すことができるため、人間は真の説明を要求するのではなく、信頼をデフォルトにすることができる。 これにより、誤った信頼と不完全な知識統合のリスクが生じる。

関連論文リスト

• On the consistent reasoning paradox of intelligence and optimal trust in AI: The power of 'I don't know' [79.69412622010249]
  一貫性推論(Consistent reasoning)は、人間の知性の中心にある、同等のタスクを扱う能力である。 CRPは、一貫性のある推論は誤認を意味する、と論じている。
  論文  参考訳（メタデータ） (2024-08-05T10:06:53Z)
• Deceptive AI systems that give explanations are more convincing than honest AI systems and can amplify belief in misinformation [29.022316418575866]
  本研究は,疑似AIによる説明が個人の信念に及ぼす影響について検討した。 以上の結果から,認知的リフレクションやAIに対する信頼といった個人的要因が,必ずしも個人をこれらの影響から保護するとは限らないことが示唆された。 このことは論理的推論と批判的思考スキルを教え、論理的に無効な議論を特定することの重要性を浮き彫りにする。
  論文  参考訳（メタデータ） (2024-07-31T05:39:07Z)
• Forms of Understanding of XAI-Explanations [2.887772793510463]
  本稿では、説明可能な人工知能(XAI)の文脈における理解形態のモデル提示を目的とする。 2種類の理解は説明の可能な結果、すなわち有効性と理解の可能な結果と見なされる。 XAIにおける理解の特別な課題について論じる。
  論文  参考訳（メタデータ） (2023-11-15T08:06:51Z)
• Getting from Generative AI to Trustworthy AI: What LLMs might learn from Cyc [0.0]
  ジェネレーティブAI(Generative AI)は、AIに対して最もポピュラーなアプローチであり、必ずしも正しいとは限らないアウトプットを生成するために訓練された大規模な言語モデル(LLM)で構成されている。 我々は、現在のアプローチに関連する多くの制限を理論的に解決できるAIに代わるアプローチについて議論する。
  論文  参考訳（メタデータ） (2023-07-31T16:29:28Z)
• Diagnosing AI Explanation Methods with Folk Concepts of Behavior [70.10183435379162]
  我々は「成功」は、その説明がどんな情報を含むかだけでなく、人間の説明者がどのような情報から理解するかにも依存すると考えている。 我々は、人間の説明による社会的帰属の枠組みとして、行動の民意的概念を用いる。
  論文  参考訳（メタデータ） (2022-01-27T00:19:41Z)
• Inductive Biases for Deep Learning of Higher-Level Cognition [108.89281493851358]
  興味深い仮説は、人間と動物の知性はいくつかの原則によって説明できるということである。 この研究は、主に高いレベルとシーケンシャルな意識的処理に関心のある人を中心に、より大きなリストを考察する。 これらの特定の原則を明確にする目的は、人間の能力から恩恵を受けるAIシステムを構築するのに役立つ可能性があることである。
  論文  参考訳（メタデータ） (2020-11-30T18:29:25Z)
• Formalizing Trust in Artificial Intelligence: Prerequisites, Causes and Goals of Human Trust in AI [55.4046755826066]
  我々は、社会学の対人信頼(すなわち、人間の信頼)に着想を得た信頼のモデルについて議論する。 ユーザとAIの間の信頼は、暗黙的あるいは明示的な契約が保持する信頼である。 我々は、信頼できるAIの設計方法、信頼が浮かび上がったかどうか、保証されているかどうかを評価する方法について論じる。
  論文  参考訳（メタデータ） (2020-10-15T03:07:23Z)
• Machine Common Sense [77.34726150561087]
  機械の常識は、人工知能(AI)において広範で潜在的に無拘束な問題のままである 本稿では、対人インタラクションのようなドメインに焦点を当てたコモンセンス推論のモデル化の側面について論じる。
  論文  参考訳（メタデータ） (2020-06-15T13:59:47Z)
• A general framework for scientifically inspired explanations in AI [76.48625630211943]
  我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。 このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
  論文  参考訳（メタデータ） (2020-03-02T10:32:21Z)
• Self-explaining AI as an alternative to interpretable AI [0.0]
  二重降下は、深層ニューラルネットワークがデータポイント間のスムーズな補間によって動作することを示している。 複雑な現実世界のデータに基づいてトレーニングされたニューラルネットワークは、本質的に解釈が困難で、外挿を求めると失敗する傾向がある。 自己説明型AIは、決定と説明の両方の信頼性レベルとともに、人間に理解可能な説明を提供することができる。
  論文  参考訳（メタデータ） (2020-02-12T18:50:11Z)
• Deceptive AI Explanations: Creation and Detection [3.197020142231916]
  我々は、AIモデルを用いて、偽りの説明を作成し、検出する方法について検討する。 実験的な評価として,GradCAMによるテキスト分類と説明の変更に着目した。 被験者200名を対象に, 偽装説明がユーザに与える影響について検討した。
  論文  参考訳（メタデータ） (2020-01-21T16:41:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。