論文の概要: Rethinking the Idiomaticity Decomposability Hypothesis: Evidence from Distributional Learning

• arxiv url: http://arxiv.org/abs/2606.03817v1
• Date: Tue, 02 Jun 2026 15:59:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-03 22:00:05.136765
• Title: Rethinking the Idiomaticity Decomposability Hypothesis: Evidence from Distributional Learning
• Title（参考訳）: Idiomaticity Decomposability仮説の再考--分散学習からのエビデンス
• Authors: Maggie Mi, Golzar Atefi, Atsuki Yamaguchi, Felix Gers, Aline Villavicencio, Nafise Sadat Moosavi,
• Abstract要約: 本研究では,事前学習中の学習の追跡中に,人間の評価,統語的柔軟性,予測可能性との関連性を示すモデル内部尺度を提案する。 モデルにおける表現の安定化は、周波数だけでは説明できないことを示す。代わりに、素因分解可能性と周波数はすべて、最強の訓練依存効果を示す分解性に寄与する。
• 参考スコア（独自算出の注目度）: 15.730654942954267
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Idioms can be analysed in terms of their decomposability, the extent to which constituent meanings contribute to the figurative whole. Decomposability is thought to predict syntactic flexibility. Usage-based accounts instead attribute idiom behaviour to distributional experience, such as speaker familiarity and predictability. We examine these views using contextualised language models as controlled distributional learners. We propose a model-internal measure of decomposability and relate it to human ratings, syntactic flexibility, and predictability while tracking idiom learning during pretraining. Model-derived decomposability correlates weakly with human judgments and shows a small but consistent negative relationship with syntactic flexibility. Pretraining analyses show that stabilisation of idiom representations in models is not explained by frequency alone. Instead, surprisal, decomposability, and frequency all contribute, with decomposability showing the strongest training-dependent effect.
• Abstract（参考訳）: イディオムは、その分解可能性、構成的意味が比喩全体へ寄与する程度の観点から分析することができる。 分解性は構文的柔軟性を予測すると考えられている。 利用ベースのアカウントは、その代わりに、話者の親しみや予測可能性など、イディオムの振る舞いを分散経験に起因している。 制御された分散学習者として文脈型言語モデルを用いて,これらの視点について検討する。 本研究では,事前学習中のイディオム学習を追及しながら,人間の評価,構文的柔軟性,予測可能性との関連性を示すモデル内部尺度を提案する。 モデル由来の分解性は、人間の判断と弱い相関関係を持ち、構文的柔軟性と小さいが一貫した負の関係を示す。 事前学習分析により、モデルにおけるイディオム表現の安定化は周波数だけでは説明できないことが示された。 代わりに、素因性、非可逆性、周波数は全て寄与し、非可逆性は最強の訓練依存効果を示す。

関連論文リスト

• Do Language Models Know What Not to Say? Causal Evidence for Statistical Preemption in LLMs [13.891522069967507]
  建設文法は統計的プリエンプション(英語版)を提案している: 従来の形式への露出は構造的に可能であるが、証明されていない代替手段を前提としている。 本稿では,大規模言語モデルにおいて,競合するエンレンチメント仮説から統計的プリエンプションを解離する計算手法を提案する。
  論文  参考訳（メタデータ） (2026-05-21T21:06:43Z)
• Statistical Inference via Generative Models: Flow Matching and Causal Inference [0.0]
  生成AIは目覚ましい経験的な成功を収めてきたが、統計学の観点から見れば、しばしば不透明である。 この本は、フローマッチングを中心的な例として、統計言語における生成AIを再解釈する。
  論文  参考訳（メタデータ） (2026-03-09T22:56:02Z)
• Linguistic Indicators of Early Cognitive Decline in the DementiaBank Pitt Corpus: A Statistical and Machine Learning Study [4.417564179511245]
  本研究では,3つの言語表現を用いて,DementiaBank Pitt Corpusからの自発音声の書き起こしを分析する。 構文的および文法的特徴は、語彙内容が欠如していても、強力な識別力を保持する。 本研究は,透明で信頼性の高い言語ベース認知スクリーニングにおける言語基盤機能の利用を支援する。
  論文  参考訳（メタデータ） (2026-02-11T16:53:57Z)
• Enhancing Pre-trained Representation Classifiability can Boost its Interpretability [112.296393156262]
  表現内の解釈可能な意味の比率との相関を利用して、表現解釈可能性の定量化を行う。 Inherent Interpretability Score(IIS)を提案し、情報損失を評価し、解釈可能なセマンティクスの比率を測定し、表現解釈可能性の定量化を行う。
  論文  参考訳（メタデータ） (2025-10-28T06:21:06Z)
• Readability $\ne$ Learnability: Rethinking the Role of Simplicity in Training Small Language Models [33.13548175654642]
  近年の研究では、非常に小さな言語モデル(SLM)が、TinyStoriesのような子供指向コーパスで訓練されたときに驚くほど一貫性のあるテキストを生成することが示唆されている。 これらの知見は、可読性がそのような能力の実現に重要な役割を果たしている証拠として解釈されている。 一致した構造を持つ合成データセットを構成するが、可読性が異なるため、可読性だけではSLMのコヒーレンスや学習効率を予測できない。
  論文  参考訳（メタデータ） (2025-10-15T08:17:02Z)
• Counterfactual reasoning: an analysis of in-context emergence [57.118735341305786]
  我々は、言語モデルが反実的推論が可能なことを示す。 自己注意、モデル深度、トレーニング済みデータの多様性によってパフォーマンスが向上することがわかった。 以上の結果から, SDE 動態下での反実的推論が可能となった。
  論文  参考訳（メタデータ） (2025-06-05T16:02:07Z)
• Toward Understanding In-context vs. In-weight Learning [50.24035812301655]
  本研究は,文脈内学習の出現と消失を引き起こす簡易な分布特性を同定する。 そして、この研究を完全な大規模言語モデルに拡張し、自然言語プロンプトの様々なコレクションの微調整が、文脈内および重み付き学習の振る舞いをいかに引き出すかを示す。
  論文  参考訳（メタデータ） (2024-10-30T14:09:00Z)
• Beyond Interpretability: The Gains of Feature Monosemanticity on Model Robustness [68.69369585600698]
  ディープラーニングモデルは多意味性による解釈可能性の欠如に悩まされることが多い。 神経細胞が一貫したセマンティクスと異なるセマンティクスに対応するモノセマンティクスの最近の進歩は、解釈可能性を大幅に改善した。 モノセマンティックな特徴は解釈可能性を高めるだけでなく、モデル性能の具体的な向上をもたらすことを示す。
  論文  参考訳（メタデータ） (2024-10-27T18:03:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。