論文の概要: A Polyphonic Conception of AI Understanding

• arxiv url: http://arxiv.org/abs/2609.36079v1
• Date: Mon, 28 Sep 2026 18:25:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:46.938021
• Title: A Polyphonic Conception of AI Understanding
• Title（参考訳）: AI理解のポリフォニックな概念
• Abstract要約: アウトプットは不均一な信頼性の並列メカニズムの連立から発生し,相互に補完し,重複し,あるいは溺死することを示す。 我々は,ポリフォニックAIに適合する理解の概念を考案し,出力を確実にかつ正確に採用し,制御する音響回路に焦点を当てた。
• 参考スコア（独自算出の注目度）: 1.0026496861838445
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When a doctor, a judge, or an engineer must decide whether to trust an AI model's output, they cannot avoid asking what the model understands. Purely mathematical or statistical descriptions struggle to distinguish trustworthy from untrustworthy outputs without reintroducing the question of AI understanding in all but name. Yet the question is ill-framed as it stands, because the inherited concept operates within a monophonic paradigm: the idea that a cognitive system's understanding of something must be localised to a single mechanism underpinning all the capacities conferred by such understanding. Drawing on a wide range of mechanistic evidence, we show that LLMs are pervasively polyphonic: outputs emerge from coalitions of parallel mechanisms of uneven reliability, which variously complement, duplicate, or drown out one another, with several coalitions sufficing for a task without any one being indispensable. Polyphony not only complicates attributions of understanding, but renders monophonic inference patterns hazardous. In response, we develop a conception of understanding fit for polyphonic AI. It centres on sound circuitry that is reliably and correctly recruited and in control of outputs. Attributions of understanding thereby become tractable claims about internal organisation, and can do the work of guiding trust in AI.
• Abstract（参考訳）: 医師、裁判官、エンジニアがAIモデルのアウトプットを信頼するか決めなければならない場合、モデルが何を理解しているのかを問うことは避けられない。 純粋に数学的または統計的記述は、信頼できないアウトプットと信頼できないアウトプットを区別するのに苦労し、名前以外のAI理解の問題を再導入する。 認知システムの何かに対する理解が、そのような理解によって与えられるすべての能力を支える単一のメカニズムに局所化されなければならないという考えである。 各種の機械的証拠に基づき, LLMは多言語多言語であることを示す: 出力は不均一な信頼性の並列メカニズムの連立から発生し, 相互に補完し, 複製し, 溺れさせる。 ポリフォニーは理解の属性を複雑にするだけでなく、モノフォニック推論パターンを危険に晒す。 そこで我々は,ポリフォニックAIに適合する理解の概念を考案した。 確実に正しく採用され、出力を制御できるサウンド回路を中心としている。 これにより、理解の属性は、内部組織に関する難解な主張となり、AIへの信頼を導く作業を行うことができる。

関連論文リスト

• Artificial Intelligence as Monism: Ontological, Organisational, and Methodological Implications [31.495834538807525]
  論文は、AIは単なるコンポーネントの集まりではなく、それが複製する特異点を反映した単一の不可分な本質であると主張している。 認識論的には、AIを技術的、組織的、社会的な領域にまたがる中心的な解釈力として位置づけている。 最終的に、この論文は、AIの概念化、管理、統合のパラダイムシフトを要求する。
  論文  参考訳（メタデータ） (2026-06-15T16:43:23Z)
• Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution [80.98492754957466]
  公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。 本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
  論文  参考訳（メタデータ） (2026-05-04T14:26:28Z)
• Position: agentic AI orchestration should be Bayes-consistent [92.04373485710285]
  本稿では,エージェントシステムのオーケストレーションレベルにおいて,一貫性のある意思決定にはベイズ原理が必要であることを論じる。 信念とユーティリティ対応ポリシーがエージェントAIオーケストレーションをどのように改善するかを説明するための例とデザインパターンを提供する。
  論文  参考訳（メタデータ） (2026-05-01T15:43:43Z)
• What's in an embedding? Would a rose by any embedding smell as sweet? [0.0]
  大規模言語モデル(LLM)は、真の「理解」と知識を「理解」する能力に欠けるとしてしばしば批判される。 我々は, LLM が「幾何学的」な経験的「下地」を発達させ, NLP の様々な応用に適していると考えられることを示唆する。 これらの制限を克服するために、LLMはシンボリックAI要素を含む知識の「代数的」表現と統合されるべきである。
  論文  参考訳（メタデータ） (2024-06-11T01:10:40Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• KAT: A Knowledge Augmented Transformer for Vision-and-Language [56.716531169609915]
  我々は、OK-VQAのオープンドメインマルチモーダルタスクにおいて、最先端の強力な結果をもたらす新しいモデルである知識拡張トランスフォーマー(KAT)を提案する。 提案手法は,エンド・ツー・エンドのエンコーダ・デコーダアーキテクチャにおいて暗黙的かつ明示的な知識を統合しつつ,回答生成時に両知識源を共同で推論する。 我々の分析では、モデル予測の解釈可能性の向上に、明示的な知識統合のさらなる利点が見られる。
  論文  参考訳（メタデータ） (2021-12-16T04:37:10Z)
• Conceptual Modeling and Artificial Intelligence: Mutual Benefits from Complementary Worlds [0.0]
  これまでのところ、主に分離されたCMとAIの分野にアプローチする2つの交差点に取り組むことに興味があります。 このワークショップでは、(一)概念モデリング(CM)がAIにどのような貢献ができるのか、(一)その逆の方法で、多様体相互利益を実現することができるという仮定を取り入れている。
  論文  参考訳（メタデータ） (2021-10-16T18:42:09Z)
• The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
  私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。 その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
  論文  参考訳（メタデータ） (2021-07-28T17:32:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。