論文の概要: On the (In)effectiveness of AMR Augmentation for Large Language Models

• arxiv url: http://arxiv.org/abs/2609.40121v1
• Date: Wed, 30 Sep 2026 16:45:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:28.102425
• Title: On the (In)effectiveness of AMR Augmentation for Large Language Models
• Title（参考訳）: 大規模言語モデルにおけるAMR拡張の有効性について
• Abstract要約: 我々は、AMR増強による下流のかなりの上昇を報告した最近の研究を再現した。 我々は,テキストのみのベースラインがAMR拡張モデルの性能と一貫して一致しているか,上回っていることを観察する。 AMR拡張はLLMが文中の関係内容の理解を改善するのに役立ちません。
• 参考スコア（独自算出の注目度）: 6.125573651532938
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While Abstract Meaning Representation (AMR) has historically improved performance on a range of NLP tasks, the benefit---or lack thereof---of AMR augmentation for modern LLMs is thus far unclear. In this paper, we attempt to reproduce recent work that reported substantial downstream gains from AMR augmentation, finding that these are likely due to specific choices in the experimental settings used: using a consistent and unified protocol for hyperparameter selection, we observe that text-only baselines consistently match or exceed the performance of AMR-augmented models. To investigate this null result, we introduce a perplexity-based probe measuring the degree to which AMR provides an LLM with supplemental relational knowledge not already available to the model. We find that AMR augmentation does not help LLMs improve their understanding of relational content in the sentence, indicating that augmenting these models with AMR offers no clear benefit on downstream tasks.
• Abstract（参考訳）: 抽象的意味表現(AMR)は、歴史的に様々なNLPタスクのパフォーマンスを改善してきたが、現代のLLMに対するAMR強化の利点は今のところ不明である。 本稿では,AMR拡張によるダウンストリームゲインを報告した最近の研究を再現しようと試み,これらは実験環境における特定の選択によるものと考えられる: 高パラメータ選択のための一貫した統一プロトコルを用いることで,テキストのみのベースラインがAMR拡張モデルの性能に一貫した一致あるいは超越していることを確認する。 そこで本研究では, AMR が LLM の補足的関係知識をモデルに提供していない程度を, パープレキシティに基づくプローブで測定する手法を提案する。 AMRの強化はLLMが文中の関係内容の理解を改善するのに役立たないことを示し、これらのモデルをAMRで強化することは下流タスクに明確な利益をもたらすものではないことを示す。

関連論文リスト

• URA-NER: A Unified Retrieval-Augmented Framework with Retrieval Alignment and Uncertainty Reduction for Low-Resource NER [16.791824164877145]
  大規模言語モデル(LLM)に基づくコンテキスト内学習は、パフォーマンスボトルネックを軽減する上で有望な可能性を示している。 既存の手法はいまだに検索ミスや生成の不確実性の問題に直面している。 本稿では,3つの鍵成分を含む新しい統合検索拡張フレームワークURA-NERを提案する。
  論文  参考訳（メタデータ） (2026-09-21T10:04:43Z)
• MRO: Enhancing Reasoning in Diffusion Language Models via Multi-Reward Optimization [66.82303841930752]
  拡散言語モデル (DLMs) は従来の自己回帰型大規模言語モデル (LLMs) に代わる有望な選択肢を提供する。 DLMは、特にデノナイジングステップの数が減少するにつれて、LLMよりも遅れている。 本稿では,マルチリワード最適化 (MRO) 手法を提案する。
  論文  参考訳（メタデータ） (2025-10-24T13:57:59Z)
• Meaningless Tokens, Meaningful Gains: How Activation Shifts Enhance LLM Reasoning [53.35553353785948]
  問合せプロンプトの前に無意味なトークンの長いシーケンスを挿入することで、LCM性能の推論を継続的に強化できるというファズリング観測により、本研究は、この現象を駆動する基盤となるメカニズムを解析する。 その結果,LLM層における活性化の再分配により,大きな活性化が増大するにつれて,ほぼゼロに近い活性化頻度が低下することが判明した。 本稿では,入力シーケンスを変更することなく,アクティベーションを直接修正する軽量な推論時間手法を提案する。
  論文  参考訳（メタデータ） (2025-10-01T15:39:38Z)
• When Does Meaning Backfire? Investigating the Role of AMRs in NLI [5.026804100169046]
  自然言語推論(NLI)において、抽象的意味表現(AMR)という形で意味情報を追加することが、事前学習された言語モデルをより一般化するのに役立つかどうかを検討する。 AMR を NLI に組み込んだ実験により, 微調整条件と微調整条件の両方において AMR の存在がモデル一般化を阻害し, 同時に AMR を刺激すると GPT-4o がわずかに向上することが示された。
  論文  参考訳（メタデータ） (2025-06-17T15:12:54Z)
• GainRAG: Preference Alignment in Retrieval-Augmented Generation through Gain Signal Synthesis [30.185213495829164]
  Retrieval-Augmented Generation (RAG)フレームワークは、検索モジュールを導入し、検索された情報を大きな言語モデル(LLM)の入力コンテキストに動的に注入する。 提案手法は,入力パスが正しい出力にどの程度寄与するかを計測する新たな指標である「ゲイン」を定義することで,レトリバーとLLMの好みを整合させる新しい手法であるGainRAGを提案する。 実験結果はGainRAGの有効性を6つのデータセットで検証した。
  論文  参考訳（メタデータ） (2025-05-24T14:14:57Z)
• Self-Routing RAG: Binding Selective Retrieval with Knowledge Verbalization [95.85537087475882]
  既存のアプローチは、大規模言語モデル(LLM)の固有の知識を過小評価している。 本稿では,選択検索と知識の言語化を結びつける新しいフレームワークであるSelf-Routing RAGを提案する。 SR-RAGは検索回数を29%削減し、性能は5.1%向上した。
  論文  参考訳（メタデータ） (2025-04-01T17:59:30Z)
• Speculative RAG: Enhancing Retrieval Augmented Generation through Drafting [68.90949377014742]
  Speculative RAG(投機的RAG)は、より大規模なジェネラリストLMを利用して、より小さな蒸留専門のLMによって並列に生成された複数のRAGドラフトを効率よく検証するフレームワークである。 提案手法は,より小さな専門家のLMにドラフト作成を委譲することでRAGを加速し,より大きなジェネラリストのLMがドラフトに1回の検証パスを実行する。 PubHealthの従来のRAGシステムと比較して、レイテンシを50.83%削減しながら、最大12.97%の精度向上を実現している。
  論文  参考訳（メタデータ） (2024-07-11T06:50:19Z)
• Modal Regression based Structured Low-rank Matrix Recovery for Multi-view Learning [70.57193072829288]
  近年、低ランクなマルチビューサブスペース学習は、クロスビューの分類において大きな可能性を示している。 既存のLMvSLベースの手法では、ビューの区別と差別を同時に扱うことができない。 本稿では,視差を効果的に除去し,識別性を向上する独自の方法であるStructured Low-rank Matrix Recovery (SLMR)を提案する。
  論文  参考訳（メタデータ） (2020-03-22T03:57:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。