論文の概要: Chatbots Output Meaningful (but Problematic) Language

• arxiv url: http://arxiv.org/abs/2606.02973v1
• Date: Tue, 02 Jun 2026 00:24:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-04 10:57:21.71317
• Title: Chatbots Output Meaningful (but Problematic) Language
• Title（参考訳）: Chatbotsは意味のある(しかし問題のある)言語を出力する
• Authors: Matthew Stone, Una Stojnić,
• Abstract要約: ほとんどの一般ユーザーとAIエンジニアは、答えは自明に「はい」だと考えている。 しかし、多くの認知科学者、言語学者、および言語哲学者は、言語と意味の支配的な意図主義的な説明は反対の結論をもたらすと主張している。 そのため、一般ユーザーの直感に同情的な理論家は、言語を急進的に「非人格化」することを提唱している。
• 参考スコア（独自算出の注目度）: 1.246150324257064
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Are utterances by AI chatbots meaningful? Concretely, if a user asks, say, Anthropic's agent Claude, "What is the capital of Spain?" and Claude answers, "Madrid is the capital of Spain," does that sentence have its ordinary meaning -- and does it express a true proposition? Most ordinary users, as well as AI engineers, take the answer to be trivially "yes." However, many cognitive scientists, linguists, and philosophers of language argue that dominant intentionalist accounts of language and meaning deliver the opposite conclusion. Theorists more sympathetic to ordinary users' intuitions have therefore advocated a radical "de-anthropomorphization" of language, revising our understanding of mental states, intentions, and semantic content to capture the intuition that the outputs of LLMs are meaningful. We take a different approach. While we, too, argue that LLM outputs are meaningful, we contend that a proper theory of human language already applies, as is, to current chatbots. Meaning is a low bar: claiming that LLM outputs are meaningful does not require positing mental states, intentions, rationality, or the cognitive capacities requisite for communication in LLMs -- or, indeed, making any other anthropomorphic assumptions. People do have communicative intentions (typically successful ones), but nevertheless, even in humans, language production can depart from what the speaker has in mind. Our view has important consequences for how we should theorize about -- and critically engage with -- both human linguistic output and synthetically generated text. In particular, to say that chatbots produce meaningful text is not by any means to endorse what they output, or to assume that the technology is (or is not) good, powerful, appropriate, or useful.
• Abstract（参考訳）: AIチャットボットによる発話は有意義か? 具体的には、もしユーザーが、例えば、アントロピックのエージェントであるクロードに「スペインの首都は何だ?」と尋ねると、クロードは「マドリッドはスペインの首都だ」と答える。 ほとんどの一般ユーザとAIエンジニアは、答えを自明に"はい"と捉えています。 しかし、多くの認知科学者、言語学者、哲学者は、言語と意味の圧倒的な意図論的な説明は反対の結論をもたらすと主張している。 したがって、一般ユーザーの直観に対してより同情的な理論家は、LLMのアウトプットが意味のある直観を捉えるために、精神状態、意図、意味的内容に対する我々の理解を見直し、言語を根本的に「非人為的」にすることを提唱している。 私たちは別のアプローチを取る。 LLMの出力も有意義であると主張する一方で、人間の言語に関する適切な理論は、現在のようなチャットボットにも適用されていると、私たちは主張しています。 LLMのアウトプットが意味のあること、すなわち、LLMにおけるコミュニケーションに必要な精神状態、意図、合理性、あるいは認知能力は必要とされないこと、あるいは、実際に他の人為的仮定を行うことである。人々はコミュニケーション的意図(典型的には成功したもの)を持っているが、それでも、言語生産は、話者が心に持っているものから逸脱することがある。我々の見解は、人間の言語的アウトプットと合成されたテキストの両方に、どのように -- どのように -- を理論化するべきか、重要な結果をもたらす。 特に、チャットボットが意味のあるテキストを生成することは、何を出力するかを支持したり、テクノロジーが良い、強力、適切、あるいは有用であると仮定するための手段ではない。

関連論文リスト

• Tracing the ongoing emergence of human-like reasoning in Large Language Models [0.13048920509133807]
  大規模言語モデルは、多くのタスクにおいて人間のようなパフォーマンスを示す。 人間を好むかどうかは不明。 人間は言語間の実践的推論を通して論理的推論を豊かにする。
  論文  参考訳（メタデータ） (2026-05-20T15:28:52Z)
• On the Same Wavelength? Evaluating Pragmatic Reasoning in Language Models across Broad Concepts [69.69818198773244]
  本研究では,言語理解と言語生産の両面で,多種多様なLMについて検討する。 最先端のLMは小さくはないが,言語理解において高い性能を発揮する。
  論文  参考訳（メタデータ） (2025-09-08T17:59:32Z)
• On the Thinking-Language Modeling Gap in Large Language Models [68.83670974539108]
  言語と思考のモデリングには大きなギャップがあることが示される。 本稿では,このギャップを実証し緩和するために,Language-of-Thoughts (LoT) と呼ばれる新しいプロンプト手法を提案する。
  論文  参考訳（メタデータ） (2025-05-19T09:31:52Z)
• Intermediate Languages Matter: Formal Choice Drives Neurosymbolic LLM Reasoning [50.99811144731619]
  形式言語の選択は構文的および意味論的推論能力の両方に影響を及ぼすことを示す。 平均的な文脈認識エンコーディングはLCMの推論に役立つが、コメントやマークダウン構文を使うことによる明らかな影響はない、と結論付けている。
  論文  参考訳（メタデータ） (2025-02-24T14:49:52Z)
• Trying to be human: Linguistic traces of stochastic empathy in language models [0.2638512174804417]
  大規模言語モデル(LLM)は、コンピュータ生成コンテンツの質向上を支える重要な要因である。 私たちの研究は、2つの重要な要因が人間とAIの人種にどのように貢献するかをテストする。
  論文  参考訳（メタデータ） (2024-10-02T15:46:40Z)
• Can Language Models Be Tricked by Language Illusions? Easier with Syntax, Harder with Semantics [7.759719313292493]
  我々は「言語錯覚」に関連するLMのより微妙な判断について検討する。 比較錯視、深さ電荷錯視、負極性イリュージョン(NPI)という3つの錯覚を考察する。 我々は,人間の言語処理の認知モデルとして,かつ複雑な言語材料において,ニュアンスだが重要な情報を認識する能力において,LMは相対的に制限されていることを示す。
  論文  参考訳（メタデータ） (2023-11-02T16:44:24Z)
• The Neuro-Symbolic Inverse Planning Engine (NIPE): Modeling Probabilistic Social Inferences from Linguistic Inputs [50.32802502923367]
  確率的目標推論領域における言語駆動の過程と社会的推論への影響について検討する。 本稿では,エージェントシナリオの言語入力から目標推定を行うニューロシンボリックモデルを提案する。 我々のモデルは人間の反応パターンと密に一致し、LLM単独の使用よりも人間の判断をより良く予測する。
  論文  参考訳（メタデータ） (2023-06-25T19:38:01Z)
• The Goldilocks of Pragmatic Understanding: Fine-Tuning Strategy Matters for Implicature Resolution by LLMs [26.118193748582197]
  我々は、広く使われている最先端モデルの4つのカテゴリを評価する。 2進推論を必要とする発話のみを評価するにもかかわらず、3つのカテゴリのモデルはランダムに近い性能を示す。 これらの結果は、特定の微調整戦略がモデルにおける実用的理解を誘導する上ではるかに優れていることを示唆している。
  論文  参考訳（メタデータ） (2022-10-26T19:04:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。