論文の概要: Larry Caused the Car to Stop, But the Model Didn't Notice: Transformer Blindness to the M-Heuristic

• arxiv url: http://arxiv.org/abs/2609.37497v1
• Date: Sun, 27 Sep 2026 17:24:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.528085
• Title: Larry Caused the Car to Stop, But the Model Didn't Notice: Transformer Blindness to the M-Heuristic
• Title（参考訳）: ラリーは車を停止させたが、モデルは気づかなかった:トランスフォーマーの盲点からM-ヒューリスティックへ
• Abstract要約: DeBERTaのようなエンコーダベースの変換器がM-Huristicを使用しているかを検討する。 M-ヒューリスティック(M-Heuristic)は、言語形式が顕著な意味を暗示する新グリス主義の原理である。 DeBERTa、RoBERTa、BARTは、これらの形態のプラグマティックな区別を捉える証拠を示さない。
• 参考スコア（独自算出の注目度）: 0.2864713389096699
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Modern transformer models excel at capturing semantic relationships through sentence embeddings, yet their ability to perform pragmatic reasoning remains understudied. This paper investigates whether encoder-based transformers such as DeBERTa employ the M-Heuristic (the neo-Gricean principle that marked linguistic forms implicate marked meanings). We test this hypothesis by contrasting lexical causatives (e.g., ``Larry stopped the car'') with periphrastic causatives (e.g., ``Larry caused the car to stop'') using a Natural Language Inference framework. Our experiments across 188 conditions with 15 ambitransitive verbs reveal that DeBERTa, RoBERTa, and BART show no evidence of capturing the pragmatic distinction between these forms, with DeBERTa predicting ``Neutral'' for 100% of cases. Probing analysis initially suggested a representation-use dissociation, but control experiments reveal the probe was tracking syntactic complexity, not causative pragmatics. Semantic similarity over 30 triplets places periphrastic causatives closer to unmediated manner descriptions in 29/30 cases, opposite to M-Heuristic predictions in the embedding space. Under explicit metalinguistic framing, Gemini Flash-Lite reaches 100% with item-specific traces, so the principle is available under instruction yet unused in default NLI.
• Abstract（参考訳）: 現代のトランスモデルは、文の埋め込みを通して意味的関係を捉えるのに優れているが、実際的な推論を行う能力はいまだ検討されていない。 本稿では,DeBERTaのようなエンコーダベースのトランスフォーマーがM-ヒューリスティック(言語形式が有意な意味を暗示する新グリシアン原理)を使用しているかを検討する。 この仮説を,自然言語推論フレームワークを用いて語彙因果関係(eg, ``Larry stopped the car'')と周辺因果関係(eg, ``Larry caused the car to Stop'')との対比により検証した。 DeBERTa,RoBERTa,BARTの188条件を対象に実験を行ったところ,DeBERTa,RoBERTa,BARTはこれらの形態のプラグマティックな区別を捉える証拠が得られず,DeBERTaは「Neutral」を100%の症例で予測した。 調査分析は、当初は表現用解離を示唆していたが、制御実験により、因果的プラグマティクスではなく、構文的複雑さを追跡していたことが判明した。 30個の三重項のセマンティックな類似性は、埋め込み空間におけるM-ヒューリスティックな予測とは対照的に、29/30のケースで非媒介な方法の説明に近づいた。 Gemini Flash-Liteは、明示的なメタ言語的フレーミングの下でアイテム固有のトレースで100%に達するため、デフォルトのNLIでは使われていない命令の下で利用できる。

関連論文リスト

• Mood Matters: How Syntactic Sensitivity Undermines Safety Alignment [20.833602231247514]
  我々は,この構文的脆弱性が,行動評価を用いて,最大70Bパラメータの16モデルに存在することを実証した。 我々は、この悪条件を、言語的に偏ったオープンソースのモデルのトレーニング後のデータに遡る。 以上の結果から,現在のアライメントアプローチは,拒絶決定の純粋意味的根拠を損なうような共同設立者を導入することが示唆された。
  論文  参考訳（メタデータ） (2026-08-05T21:05:12Z)
• Toward Understanding the Transferability of Adversarial Suffixes in Large Language Models [70.11800794130394]
  離散最適化ベースのjailbreaking攻撃は、入力プロンプトに付加された非意味なサフィックスを生成することを目的としている。 素早い意味的類似性は、伝達の成功と弱い相関関係にある。 これらの知見は、我々の統計的分析が攻撃成功の実践的改善にどのように変換できるかを示すために、介入実験で使用する、伝達可能性のよりきめ細かな理解につながる。
  論文  参考訳（メタデータ） (2025-10-24T20:28:49Z)
• More or Less Wrong: A Benchmark for Directional Bias in LLM Comparative Reasoning [10.301985230669684]
  本研究では,大規模言語モデルにおける意味的キュー形状推論のメカニズムについて検討する。 我々は300の比較シナリオのベンチマークであるMathCompを紹介する。 モデル誤差は、しばしば言語的ステアリングを反映し、プロンプトに存在する比較項への体系的なシフトを反映している。
  論文  参考訳（メタデータ） (2025-06-04T13:15:01Z)
• Truth-value judgment in language models: 'truth directions' are context sensitive [2.324913904215885]
  大規模言語モデルは、文の真理を予測する方向を含む。 複数の手法がそのような方向を復元し、モデルの「知識」や「信条」を明らかにすると説明されるプローブを構築する。 本研究では、この現象を調査し、文脈がプローブに与える影響を詳しく検討する。
  論文  参考訳（メタデータ） (2024-04-29T16:52:57Z)
• Simple Linguistic Inferences of Large Language Models (LLMs): Blind Spots and Blinds [59.71218039095155]
  我々は,ほとんどの人間が自明に感じる単純な推論タスクにおいて,言語理解能力を評価する。 我々は, (i) 文法的に特定された含意, (ii) 不確実性のある明らかな副詞を持つ前提, (iii) 単調性含意を目標とする。 モデルはこれらの評価セットに対して中程度から低い性能を示す。
  論文  参考訳（メタデータ） (2023-05-24T06:41:09Z)
• Abductive Commonsense Reasoning Exploiting Mutually Exclusive Explanations [118.0818807474809]
  帰納的推論は、イベントのもっともらしい説明を見つけることを目的としている。 自然言語処理における帰納的推論のための既存のアプローチは、しばしば監督のために手動で生成されたアノテーションに依存している。 この研究は、ある文脈に対して、説明のサブセットのみが正しいという事実を活用する、帰納的コモンセンス推論のアプローチを提案する。
  論文  参考訳（メタデータ） (2023-05-24T01:35:10Z)
• Logical Satisfiability of Counterfactuals for Faithful Explanations in NLI [60.142926537264714]
  本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。 これは、説明に表される論理述語に基づいて、反実仮説を生成する。 そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
  論文  参考訳（メタデータ） (2022-05-25T03:40:59Z)
• Naturalistic Causal Probing for Morpho-Syntax [76.83735391276547]
  スペインにおける実世界のデータに対する入力レベルの介入に対する自然主義的戦略を提案する。 提案手法を用いて,共同設立者から文章中の形態・症状の特徴を抽出する。 本研究では,事前学習したモデルから抽出した文脈化表現に対する性別と数字の因果効果を解析するために,本手法を適用した。
  論文  参考訳（メタデータ） (2022-05-14T11:47:58Z)
• Nested Counterfactual Identification from Arbitrary Surrogate Experiments [95.48089725859298]
  観測と実験の任意の組み合わせからネスト反事実の同定について検討した。 具体的には、任意のネストされた反事実を非ネストされたものへ写像できる反ファクト的非ネスト定理(英語版)(CUT)を証明する。
  論文  参考訳（メタデータ） (2021-07-07T12:51:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。