論文の概要: Improving VLMs on Scientific Chart Analysis via Autonomous Evolution
- arxiv url: http://arxiv.org/abs/2610.35077v1
- Date: Mon, 26 Oct 2026 09:22:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.810175
- Title: Improving VLMs on Scientific Chart Analysis via Autonomous Evolution
- Title(参考訳): 自律的進化による科学チャート解析におけるVLMの改善
- Abstract要約: オープンビジョン言語モデル(VLM)は、そのようなデータ型に基づいた質問応答において、性能が良くないことが知られている。
本研究では,提案モデルの「凍結」バージョンに関する推論プログラムとコードについて検討する。
この結果から, 観測誤差の大部分は推論パイプラインによるものであり, 最適化によって再学習を必要とせずに「凍結」VLMを改善することが可能であることが示唆された。
- 参考スコア(独自算出の注目度): 3.737350643678521
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Understanding and operating with scientific charts is a standard approach in data analysis, and while humans are good at interpreting such charts, open vision-language models (VLMs) are known to perform poorly when it comes to question answering based on such data types. Motivated by an initial observation that many of their errors are due to inexact answering, we raise the following natural question: how much accuracy can we recover without changing the model at all? In this paper, we study this question by searching over inference programs and the code around a "frozen" version of the model. Using ideas from autonomous evolution (famously used in AlphaEvolve), we first start from a baseline inference program, and in each round we show an LLM judge the code together with a few failures on training questions, and ask for an improving evolutionary move. As usual in autonomous evolution approaches, the candidate programs are kept in a small pool ranked by training accuracy, and the next edit is performed on top-scorers from this pool. We run this approach on three VLMs and four popular benchmarks on scientific charts, and we measure the fraction of descriptive questions whose answer exactly matches the ground truth. The accuracy improves in all experimental settings. On average, it rises from 16.6% with the starting program to 41.3% with the evolved one, and the largest single increase is 55.2 percentage points. As a side benefit, our evolved program is 3.8x faster than the starting program, because short answers are easier to grade and faster to generate. Our results demonstrate that a large part of the observed errors arise due to the inference pipeline, and that optimizing it can improve the "frozen" VLM without the need to retrain it.
- Abstract(参考訳): 科学的チャートの理解と操作は、データ分析における標準的なアプローチであり、人間はそのようなチャートの解釈に長けているのに対し、オープンビジョン言語モデル(VLM)は、そのようなデータ型に基づいた質問応答において、不適切な処理を行うことが知られている。
最初の観察では、多くのエラーは不正確な回答によるものとされ、以下の自然な疑問が提起された。
本稿では,本モデルの「凍った」バージョンを取り巻く推論プログラムとコードについて検討する。
自律進化(AlphaEvolveでよく使われる)のアイデアを使用して、まず最初にベースライン推論プログラムから始めます。各ラウンドで、トレーニング問題に関するいくつかの失敗とともに、LLMがコードを判断し、進化的な動きを改善することを示します。
通常、自律進化のアプローチでは、候補プログラムはトレーニング精度でランク付けされた小さなプールに保持され、次の編集はこのプールの上位スコーラーで実行される。
このアプローチを3つのVLMと4つの一般的なベンチマークで科学チャート上で実行し、答えが基礎的真実と正確に一致した記述的質問のごく一部を測定する。
精度はすべての実験的な設定で改善される。
平均して16.6%から41.3%に増加し、最大の増加率は55.2ポイントである。
副次的な利点として、我々の進化したプログラムは開始プログラムよりも3.8倍高速である。
この結果から, 観測誤差の大部分は推論パイプラインによるものであり, 最適化によって再学習を必要とせずに「凍結」VLMを改善することが可能であることが示唆された。
関連論文リスト
- You Only Reprogram Once: Rethinking Prolonged Training for Visual Reprogramming [3.596937797664118]
ビジュアルリプログラミングは、事前訓練されたモデルに適応するためのパラメータ効率のよい手法であるが、そのトレーニングは計算コストがかかる。
凍結応答空間から下流の予測器を構成するYou Only Re program Once (YORO)を紹介した。
3つのフルデータ設定で、最強の勾配のないマッピングよりも平均精度を18.4-24.4%向上させる。
論文 参考訳(メタデータ) (2026-09-29T04:03:12Z) - When Updating Stops Being Learning: Rethinking LLM Self-Evolution via learnable information gain [24.79800357697737]
自己進化(Self-evolution)は、大規模な言語モデル(LLM)を自身の生成されたデータを使って反復的に改善するが、多くの場合、自己進化の退化に悩まされる。
本稿では,学習可能な情報ゲインに基づく総合的枠組みを提案し,前回のラウンドと比較して,ラウンドがどれだけ斬新でパラメータ化可能な情報を提供するかを測定する。
論文 参考訳(メタデータ) (2026-09-29T02:27:47Z) - REVES: REvision and VErification--Augmented Training for Test-Time Scaling [53.197756110943395]
本稿では,オンラインデータ/プロンプト拡張とポリシー最適化を交互に行う2段階反復フレームワークを提案する。
我々は、RLベースライン上の+6.5点と、標準マルチターントレーニングにおける+4.0点の利得を観察する。
論文 参考訳(メタデータ) (2026-06-17T10:37:23Z) - Understanding and Mitigating Premature Confidence for Better LLM Reasoning [76.16007941549857]
現在の言語モデルからの思考の長い連鎖(CoT)は、しばしば論理的ギャップと不正な跳躍を含んでいる。
このような信号は、モデルの信頼性が推論中にどのように進化するかを示す。
これは、モデルを早期にコミットするのではなく、理由によってモデルの信頼性を更新するように訓練する強化学習の目標です。
論文 参考訳(メタデータ) (2026-05-23T04:42:45Z) - Self-Verified Distillation: Your Language Model Is Secretly Its Own Synthetic Data Pipeline [56.53954182896384]
大規模言語モデルのための簡単な訓練後改良アルゴリズムである自己検証蒸留を提案する。
自己検証蒸留(Self-Verified Distillation)は、未ラベルの種問に対する候補解を生成する。
プロンプトベースの自己検証を使用してフィルタリングし、結果の自己計算データセットをトレーニングする。
トレーニングデータ構築中に、より多くの候補世代をサンプリングし、より大きな検証予算を使用することで、高品質な自己計算データが得られることがわかった。
論文 参考訳(メタデータ) (2026-05-20T17:26:10Z) - EvolMathEval: Towards Evolvable Benchmarks for Mathematical Reasoning via Evolutionary Testing [45.89558878854675]
EvolMathEvalは、進化テストに基づく自動数学的ベンチマーク生成と進化のフレームワークである。
連続的な自己イテレーションによって大量の高次問題を生成することができる。
また、進化を通じてGSM8Kのような公開データセットの複雑さを著しく向上させ、モデルの精度を平均48%削減する。
論文 参考訳(メタデータ) (2025-08-18T15:24:10Z) - DiSciPLE: Learning Interpretable Programs for Scientific Visual Discovery [61.02102713094486]
優れた意思決定を可能にするため、科学的推論において優れた解釈が重要である。
本稿では,ニューラルネットワークをインターリーブする学習プログラムを用いて,そのような解釈可能な設計モデルを得るための自動手法を提案する。
本稿では,大言語モデル (LLM) の常識と事前知識を活用する進化的アルゴリズムであるDiSciPLEを提案し,視覚データを説明するPythonプログラムを作成する。
論文 参考訳(メタデータ) (2025-02-14T10:26:14Z) - The Earth is Flat? Unveiling Factual Errors in Large Language Models [89.94270049334479]
ChatGPTのような大規模言語モデル(LLM)は、事前学習や微調整の知識が豊富にあるため、様々な応用がある。
それにもかかわらず、医療、ジャーナリズム、教育といった重要な分野に懸念を抱き、事実と常識の誤りを引き起こす傾向にある。
LLMにおける事実不正確な事実を明らかにすることを目的とした,新しい自動テストフレームワークであるFactCheckerを紹介する。
論文 参考訳(メタデータ) (2024-01-01T14:02:27Z) - Freshness or Accuracy, Why Not Both? Addressing Delayed Feedback via
Dynamic Graph Neural Networks [23.952923773407043]
遅延フィードバック問題は、変換率を予測する上で最も困難な課題の1つである。
動的グラフニューラルネットワーク(DGDFEM)による遅延フィードバックモデリングを提案する。
データパイプラインの作成、動的グラフの構築、CVR予測モデルのトレーニングという3つのステージが含まれている。
論文 参考訳(メタデータ) (2023-08-15T23:49:07Z) - Deep Feedback Inverse Problem Solver [141.26041463617963]
逆問題に対する効率的で効果的で汎用的なアプローチを提案する。
我々は、フォワードプロセスが提供するフィードバック信号を活用し、反復的な更新モデルを学ぶ。
私たちのアプローチは前もってのプロセスに制限がなく、事前の知識も必要ありません。
論文 参考訳(メタデータ) (2021-01-19T16:49:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。