論文の概要: Slang Context-based Inference Enhancement via Greedy Search-Guided Chain-of-Thought Prompting
- arxiv url: http://arxiv.org/abs/2603.13230v1
- Date: Thu, 15 Jan 2026 18:15:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-23 08:17:42.207945
- Title: Slang Context-based Inference Enhancement via Greedy Search-Guided Chain-of-Thought Prompting
- Title(参考訳): グレディ検索誘導型チェーン・オブ・サート・プロンプティングによるスラング文脈に基づく推論の強化
- Authors: Jinghan Cao, Qingyang Ren, Xiangyun Chen, Xinjin Li, Haoxiang Gao, Yu Zhao,
- Abstract要約: 本稿では,大規模言語モデルを用いたスラング推論の課題について検討する。
本稿では,スラング解釈のための下品な検索誘導型チェーン・オブ・ソート・フレームワークを提案する。
- 参考スコア(独自算出の注目度): 3.2239703628634095
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Slang interpretation has been a challenging downstream task for Large Language Models (LLMs) as the expressions are inherently embedded in contextual, cultural, and linguistic frameworks. In the absence of domain-specific training data, it is difficult for LLMs to accurately interpret slang meaning based on lexical information. This paper attempts to investigate the challenges of slang inference using large LLMs and presents a greedy search-guided chain-of-thought framework for slang interpretation. Through our experiments, we conclude that the model size and temperature settings have limited impact on inference accuracy. Transformer-based models with larger active parameters do not generate higher accuracy than smaller models. Based on the results of the above empirical study, we integrate greedy search algorithms with chain-of-thought prompting for small language models to build a framework that improves the accuracy of slang interpretation. The experimental results indicate that our proposed framework demonstrates improved accuracy in slang meaning interpretation. These findings contribute to the understanding of context dependency in language models and provide a practical solution for enhancing slang comprehension through a structured reasoning prompting framework.
- Abstract(参考訳): スラングの解釈は、言語モデル(LLM)が本質的に文脈、文化的、言語的なフレームワークに埋め込まれているため、難しいダウンストリームタスクである。
ドメイン固有のトレーニングデータがない場合、LLMは語彙情報に基づいてスラングの意味を正確に解釈することは困難である。
本稿では,大規模LLMを用いたスラング推論の課題について検討し,スラング解釈のための検索誘導型チェーン・オブ・シント・フレームワークを提案する。
実験の結果,モデルのサイズと温度設定が推測精度に限られた影響を及ぼすことがわかった。
より大きなアクティブパラメータを持つトランスフォーマーベースのモデルでは、より小さなモデルよりも高い精度が得られない。
以上の経験的研究の結果に基づき,スラング解釈の精度を向上させるフレームワークを構築するために,小言語モデルの構築を促進すべく,欲求検索アルゴリズムとチェーン・オブ・シントを統合した。
実験の結果,提案手法はスラングの意味解釈における精度の向上を示すことがわかった。
これらの知見は,言語モデルにおける文脈依存性の理解に寄与し,構造化推論フレームワークを通じてスラング理解を高めるための実用的なソリューションを提供する。
関連論文リスト
- Improving Multilingual Retrieval-Augmented Language Models through Dialectic Reasoning Argumentations [65.11348389219887]
そこで,Dialectic-RAG(Dialectic-RAG, DRAG)を提案する。
我々は、文脈内学習戦略と、より小さなモデルをインストラクションするための実演の構築の両方において、我々のフレームワークが与える影響を示す。
論文 参考訳(メタデータ) (2025-04-07T06:55:15Z) - Beyond Memorization: Assessing Semantic Generalization in Large Language Models Using Phrasal Constructions [3.0906699069248806]
Construction Grammar (CxG) は、一般化をテストするための精神言語学的基盤となるフレームワークである。
我々のデータセットは英語のフレーズ構造で構成されており、話者は共通の場所のインスタンス化を抽象化できることが知られている。
その結果、GPT-o1を含む最先端モデルでは、第2タスクで40%以上の性能低下が見られた。
論文 参考訳(メタデータ) (2025-01-08T18:15:10Z) - In-context Learning Generalizes, But Not Always Robustly: The Case of Syntax [36.98247762224868]
In-context Learning (ICL)は、現在、大規模言語モデル(LLM)の新しいタスクを教える一般的な方法である。
モデルは、文脈によって定義されたタスクの基盤構造を推論するか、あるいは、同じ分散例にのみ一般化する表面一般化に依存するか?
GPT, PaLM, および Llama 2 ファミリーのモデルを用いた実験では, LM 間で大きなばらつきが認められた。
この分散は、モデルサイズよりも事前学習コーパスと監督方法の構成によりより説明される。
論文 参考訳(メタデータ) (2023-11-13T23:52:43Z) - RAVEN: In-Context Learning with Retrieval-Augmented Encoder-Decoder Language Models [57.12888828853409]
RAVENは検索強化されたマスク付き言語モデリングとプレフィックス言語モデリングを組み合わせたモデルである。
フュージョン・イン・コンテキスト・ラーニング(Fusion-in-Context Learning)により、追加のトレーニングを必要とせずに、より多くのコンテキスト内サンプルを利用できる。
本研究は,テキスト内学習のためのエンコーダ・デコーダ言語モデルの構築の可能性を明らかにするものである。
論文 参考訳(メタデータ) (2023-08-15T17:59:18Z) - Fairness-guided Few-shot Prompting for Large Language Models [93.05624064699965]
インコンテキスト学習は、トレーニング例、例えば順、プロンプトフォーマットのバリエーションによって、高い不安定性に悩まされる可能性がある。
ラベルや属性に対する固定的なプロンプトの予測バイアスを評価するための指標を導入する。
そこで本研究では,テキスト内学習の性能向上のための最寄りのプロンプトを特定するための,欲求探索に基づく新しい探索手法を提案する。
論文 参考訳(メタデータ) (2023-03-23T12:28:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。