論文の概要: FLEx: Language Modeling with Few-shot Language Explanations

• arxiv url: http://arxiv.org/abs/2601.04157v1
• Date: Wed, 07 Jan 2026 18:12:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-08 18:12:46.227337
• Title: FLEx: Language Modeling with Few-shot Language Explanations
• Title（参考訳）: FLEx: 短いショット言語説明による言語モデリング
• Abstract要約: 本稿では,少数の説明例を用いたモデル行動改善手法であるFLExを紹介する。 FLExは埋め込みベースのクラスタリングを用いて代表モデルエラーを選択し、関連する説明がそれらの誤りを正すかどうかを確認し、推論時に予測されるプロンプトプレフィックスにまとめる。 FLExは3つのデータセットすべてでチェーン・オブ・シークレットを一貫して上回っていることが分かりました。
• 参考スコア（独自算出の注目度）: 7.372761161298823
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language models have become effective at a wide range of tasks, from math problem solving to open-domain question answering. However, they still make mistakes, and these mistakes are often repeated across related queries. Natural language explanations can help correct these errors, but collecting them at scale may be infeasible, particularly in domains where expert annotators are required. To address this issue, we introduce FLEx ($\textbf{F}$ew-shot $\textbf{L}$anguage $\textbf{Ex}$planations), a method for improving model behavior using a small number of explanatory examples. FLEx selects representative model errors using embedding-based clustering, verifies that the associated explanations correct those errors, and summarizes them into a prompt prefix that is prepended at inference-time. This summary guides the model to avoid similar errors on new inputs, without modifying model weights. We evaluate FLEx on CounterBench, GSM8K, and ReasonIF. We find that FLEx consistently outperforms chain-of-thought (CoT) prompting across all three datasets and reduces up to 83\% of CoT's remaining errors.
• Abstract（参考訳）: 言語モデルは、数学の問題解決からオープンドメインの質問応答に至るまで、幅広いタスクで有効になっている。 しかし、それでも間違いを犯し、これらのミスは関連するクエリ間で繰り返されることが多い。 自然言語の説明はこれらのエラーを修正するのに役立ちますが、特にエキスパートアノテータが必要なドメインでは、それらを大規模に収集することは不可能です。 この問題を解決するために、少数の説明例を使ってモデルの振る舞いを改善するFLEx ($\textbf{F}$ew-shot $\textbf{L}$anguage $\textbf{Ex}$planationsを導入する。 FLExは埋め込みベースのクラスタリングを用いて代表モデルエラーを選択し、関連する説明がそれらの誤りを正すかどうかを確認し、推論時に予測されるプロンプトプレフィックスに要約する。 この要約は、モデルウェイトを変更することなく、新しい入力で同様のエラーを避けるようモデルに誘導する。 FLEx on CounterBench, GSM8K, ReasonIF。 FLExは3つのデータセットにまたがってチェーン・オブ・シークレット(CoT)を一貫して上回り、CoTの残りのエラーの最大83%を削減している。

関連論文リスト

• PluginEval: A Diagnostic Benchmark for Fine-Grained Error Attribution in Function Calling [11.1017602726296]
  大規模言語モデルは、ますます自律的なエージェントとして機能している。 現在のベンチマークには3つの制限がある。 Evalは、2段階のフレームワークで構築されたベンチマークである。
  論文  参考訳（メタデータ） (2026-08-09T13:25:54Z)
• Learn2Zinc: Fine-tuning Small Language Models for Text-to-Model Translation in MiniZinc [3.9124823111588163]
  対象とする微調整が、自然言語問題記述から適切なMiniZincモデルを生成するために、小さな言語モデルを教えることができるかどうかを検討する。 重要な発見は、このドメイン固有言語で作業する場合、構文エラーが障害を支配していることだ。 本稿では,複数のLLM実行から構文エラーを収集し,それらを利用して誤り訂正訓練データセットをキュレートするクロスモデルエラーブートストラッピング手法を提案する。
  論文  参考訳（メタデータ） (2026-05-14T22:55:14Z)
• ErrorLLM: Modeling SQL Errors for Text-to-SQL Refinement [57.98138819417949]
  テキスト・ツー・クエリを明示的にモデル化するフレームワークであるErrorLLMを提案する。 ErrorLLMは、バックボーンの初期生成よりも大幅に改善されていることを示す。 ErrorLLMは、精錬効率を維持しつつ、高い検出F1スコアで両面に対処する。
  論文  参考訳（メタデータ） (2026-03-04T05:27:20Z)
• Attention Deficits in Language Models: Causal Explanations for Procedural Hallucinations [0.0]
  正しい値がコンテキストに存在する場合でも、検証可能な、即席の仕様を実行することの失敗について検討する。 具体的には、失敗はStage2A(ゲート)エラーに分解され、モデルが応答モードに入らなかったり、Stage2B(バインディング)エラーに分解される。
  論文  参考訳（メタデータ） (2026-02-22T15:43:41Z)
• ErrorMap and ErrorAtlas: Charting the Failure Landscape of Large Language Models [19.07658752853847]
  ErrorMapはLarge Language Models失敗の原因をグラフ化する最初の方法です。 モデルは独自の"障害シグネチャ"を抽出し、ベンチマークの計測値を明確にし、エラー識別を拡張して盲点を減らす。 この手法を35のデータセットと83のモデルに適用すると、モデルエラーの分類であるErrorAtlasを生成し、繰り返し発生する障害パターンを明らかにする。
  論文  参考訳（メタデータ） (2026-01-22T09:52:39Z)
• Error Typing for Smarter Rewards: Improving Process Reward Models with Error-Aware Hierarchical Supervision [20.09181711927194]
  PathFinder-PRMは,新しい階層型,誤り認識型識別型PRMである。 PRMBenchでは、PathFinder-PRMが67.7の最先端PRMSコアを新たに達成し、3倍の少ないデータを使用しながら、以前の最高値(65.5)を上回った。
  論文  参考訳（メタデータ） (2025-05-26T08:56:36Z)
• Error Classification of Large Language Models on Math Word Problems: A Dynamically Adaptive Framework [79.40678802098026]
  数学の単語問題は、大規模言語モデルの推論能力を評価するための重要なベンチマークとなる。 現在のエラー分類法は静的および事前定義されたカテゴリに依存している。 本稿では,共通なエラーパターンを明示的なガイダンスとして組み込んだEAP(Error-Aware Prompting)を提案する。
  論文  参考訳（メタデータ） (2025-01-26T16:17:57Z)
• Reasoning Robustness of LLMs to Adversarial Typographical Errors [49.99118660264703]
  大規模言語モデル(LLM)は、Chain-of-Thought(CoT)プロンプトを使用した推論において、印象的な機能を示している。 本研究では,LLMのタイポグラフィ的誤りに対するロバスト性について検討する。 我々は,クエリに重要な単語の型を反復的にサンプリングし,攻撃に成功しそうな編集を選択する,Adversarial Typo Attack(texttATA$)アルゴリズムを設計する。
  論文  参考訳（メタデータ） (2024-11-08T05:54:05Z)
• Subtle Errors in Reasoning: Preference Learning via Error-injected Self-editing [59.405145971637204]
  eRror-Injected Self-Editing (RISE) と呼ばれる新しい好み学習フレームワークを提案する。 RISEは、事前定義された微妙なエラーをピボットトークンに注入する。 RISEの有効性を検証する実験では、Qwen2-7B-Instructでの優先学習により、GSM8Kでは3.0%、MATHでは7.9%が顕著に改善され、トレーニングサンプルは4.5Kに留まった。
  論文  参考訳（メタデータ） (2024-10-09T07:43:38Z)
• LADDER: Language Driven Slice Discovery and Error Rectification [16.146099639239615]
  現在のクラスタリングや離散属性ベースのスライス発見メソッドは、重要な制限に直面している。 我々は,(1)不完全性に対処するために自然言語の柔軟性を活用すること,(2)LLMの潜在的テクストドメイン知識と高度な推論を用いて文を分析し,仮説を直接導出する,という制限に対処することを提案する。 厳密な評価は、ラダーがバイアスを発見し緩和する際に、既存のベースラインを一貫して上回っていることを示している。
  論文  参考訳（メタデータ） (2024-07-31T14:49:35Z)
• Can Large Language Models Infer Causation from Correlation? [104.96351414570239]
  大規模言語モデル(LLM)の純粋因果推論スキルをテストする。 相関文の集合を取り、変数間の因果関係を決定する新しいタスクCorr2Causeを定式化する。 これらのモデルがタスクのランダムな性能にほぼ近い結果が得られることを示す。
  論文  参考訳（メタデータ） (2023-06-09T12:09:15Z)
• Rethinking Masked Language Modeling for Chinese Spelling Correction [70.85829000570203]
  言語モデルと誤りモデルという2つの異なるモデルによる共同決定として,中国語のスペル補正(CSC)について検討する。 細調整されたBERTは、言語モデルに不適合なままエラーモデルに過度に適合する傾向にあり、その結果、分布外エラーパターンへの一般化が不十分であることがわかった。 微調整中に入力シーケンスから20%の非エラートークンをランダムにマスキングする非常に単純な戦略は、エラーモデルを犠牲にすることなく、はるかに優れた言語モデルを学ぶのに十分であることを示す。
  論文  参考訳（メタデータ） (2023-05-28T13:19:12Z)
• Towards Fine-Grained Information: Identifying the Type and Location of Translation Errors [80.22825549235556]
  既存のアプローチでは、エラーの位置と型を同期的に考慮することはできない。 我々はtextbf の追加と textbfomission エラーを予測するために FG-TED モデルを構築した。 実験により,本モデルではエラータイプと位置の同時同定が可能であり,最先端の結果が得られた。
  論文  参考訳（メタデータ） (2023-02-17T16:20:33Z)
• TACRED Revisited: A Thorough Evaluation of the TACRED Relation Extraction Task [80.38130122127882]
  TACREDはリレーショナル抽出(RE)において最も大きく、最も広く使われているクラウドソースデータセットの1つである パフォーマンスの天井に到達したのか、改善の余地はあるのか? ラベルエラーは絶対F1テストエラーの8%を占めており、例の50%以上を可逆化する必要がある。
  論文  参考訳（メタデータ） (2020-04-30T15:07:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。