論文の概要: "What don't you understand?" Language games and black box algorithms

• arxiv url: http://arxiv.org/abs/2603.25900v1
• Date: Thu, 26 Mar 2026 20:41:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-30 21:49:48.271401
• Title: "What don't you understand?" Language games and black box algorithms
• Title（参考訳）: 「あなたは何を理解しないのですか?言語ゲームとブラックボックスアルゴリズム
• Authors: Remy Demichelis,
• Abstract要約: 本稿は、説明可能な人工知能(XAI)の初期段階に固有の「ブラックボックス」アルゴリズムの問題を理解することを目的としている。 しかし、(1) モデルを理解しようとするとき、説明可能性よりも解釈可能性について話すこと、(2) 機械は、ウィラード・ヴァン・オーマン・クワイン(英語版)の想像上の言語学者が、過激な翻訳の状況において「ガヴァガイ」という言葉が何を指しているのかを正確に決定できないのと同じように、情報への完全かつ曖昧なアクセスがないためである。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The aim of this article is to understand the problem of "black box" algorithms, an issue inherent to the nascent field of Explainable Artificial Intelligence (XAI). While it is relatively easy to understand something someone explained to us, it becomes more complicated when no one can fully grasp the issue. Our purpose is however to highlight: (1) that we should speak of interpretability rather than explainability when we seek to understand models, mainly because we never have complete and unambiguous access to information; (2) that the machines face the problem of the inscrutability of reference, in the same way that the linguist imagined by Willard Van Orman Quine cannot precisely determine what the term "gavagai" refers to in a situation of radical translation; (3) that there is no rule for the application of language, except for "language games", as Ludwig Wittgenstein's linguistics teaches us. The hope of achieving complete explicability and transparency of algorithms is undoubtedly in vain: we can only rely on partial and broad interpretations that will never fully explain the underlying rules.
• Abstract（参考訳）: 本稿の目的は、XAI(Explainable Artificial Intelligence)の初期段階に固有の「ブラックボックス」アルゴリズムの問題を理解することである。 誰かが説明してくれたことを理解するのは比較的簡単ですが、問題を完全に理解できないと、さらに複雑になります。 しかしながら、1) モデルを理解しようとするとき、説明可能性よりも解釈可能性について話すこと、2) 機械は、ウィラード・ヴァン・オーマン・クワイン(Wilard Van Orman Quine)が想像した言語学者が、過激な翻訳の状況において「ガヴァガイ」という言葉が何を指しているのかを正確に決定できないのと同じように、参照可能性の問題に直面していること、(3) ルートヴィヒ・ヴィトゲンシュタイン(Ludwig Wittgenstein)の言語学が我々に教えているように、言語の適用に関する規則が存在しないこと、などが強調されている。 アルゴリズムの完全な説明可能性と透明性を達成するという希望は、間違いなく無駄である。

関連論文リスト

• Axe the X in XAI: A Plea for Understandable AI [0.0]
  私は、XAI文献で現在使われている説明可能性の概念は、従来の科学的説明の概念とほとんど類似していないと論じる。 XAIの目標と目的を取り巻く混乱を避けるために、"理解可能なAI"というラベルを使用することは、より実りあることでしょう。
  論文  参考訳（メタデータ） (2024-03-01T06:28:53Z)
• Rethinking Explainable Machine Learning as Applied Statistics [9.03268085547399]
  説明可能な機械学習は、その並列性を応用統計と認識する必要がある、と我々は主張する。 研究論文では、これがほとんど議論されていないという事実が、現在の文献の主な欠点の1つである。
  論文  参考訳（メタデータ） (2024-02-05T10:36:48Z)
• Forms of Understanding for XAI-Explanations [3.2908604499330423]
  説明可能性(Explainability)は、コンピュータ科学と人工知能において重要なトピックとなり、説明可能な人工知能(XAI)と呼ばれるサブフィールドへとつながった。 理解」の意味はいまだ明確に定義されておらず、概念そのものが科学的研究の対象になることはめったにない。 この概念的論文は、XAIの解説などに対する理解形態のモデル提示を目的としている。
  論文  参考訳（メタデータ） (2023-11-15T08:06:51Z)
• Understanding Natural Language Understanding Systems. A Critical Analysis [91.81211519327161]
  自然言語理解システム(Natural Language Understanding (NLU) system)としても知られる usguillemotright(英語版) のようなギユモトレフトークを持つ機械の開発は、人工知能の聖杯(英語版) (AI) である。 しかし、Gillemottalking machineguillemotrightを構築することができるという信頼は、次世代のNLUシステムによってもたらされたものよりも強かった。 私たちは新しい時代の夜明けに、ついに砂利が我々に近づいたのか?
  論文  参考訳（メタデータ） (2023-03-01T08:32:55Z)
• Is the Elephant Flying? Resolving Ambiguities in Text-to-Image Generative Models [64.58271886337826]
  テキストから画像への生成モデルで生じるあいまいさについて検討する。 本稿では,ユーザから明確化を求めることによって,システムに与えられるプロンプトのあいまいさを軽減する枠組みを提案する。
  論文  参考訳（メタデータ） (2022-11-17T17:12:43Z)
• Machine Reading, Fast and Slow: When Do Models "Understand" Language? [59.897515617661874]
  本稿では,2つの言語スキル(コア参照の解決と比較)に関して,理解モデルを読み取る行動について検討する。 比較のため(コアではない)、より大きなエンコーダに基づくシステムは、より「正しい」情報に依存する傾向にあることがわかった。
  論文  参考訳（メタデータ） (2022-09-15T16:25:44Z)
• GreaseLM: Graph REASoning Enhanced Language Models for Question Answering [159.9645181522436]
  GreaseLMは、事前訓練されたLMとグラフニューラルネットワークの符号化された表現を、複数の層にわたるモダリティ相互作用操作で融合する新しいモデルである。 GreaseLMは、状況制約と構造化知識の両方の推論を必要とする問題に、より確実に答えることができる。
  論文  参考訳（メタデータ） (2022-01-21T19:00:05Z)
• Provable Limitations of Acquiring Meaning from Ungrounded Form: What will Future Language Models Understand? [87.20342701232869]
  未知のシステムが意味を習得する能力について検討する。 アサーションによってシステムが等価性のような意味関係を保存する表現をエミュレートできるかどうか検討する。 言語内のすべての表現が参照的に透明であれば,アサーションによってセマンティックエミュレーションが可能になる。 しかし、言語が変数バインディングのような非透過的なパターンを使用する場合、エミュレーションは計算不能な問題になる可能性がある。
  論文  参考訳（メタデータ） (2021-04-22T01:00:17Z)
• PuzzLing Machines: A Challenge on Learning From Small Data [64.513459448362]
  我々は,高校生を対象としたLinguistic OlympiadsのRosetta StoneパズルからなるPuzzLing Machinesという,小さなデータから学ぶための課題を紹介した。 私たちのチャレンジには、81言語から幅広い言語現象をカバーする約100のパズルが含まれています。 単純な統計アルゴリズムと最先端のディープニューラルモデルの両方が、予想通り、この課題に対して不十分に実行可能であることを示す。
  論文  参考訳（メタデータ） (2020-04-27T20:34:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。