論文の概要: Prior or Feedback? What an LLM Uses When Adapting Neural Operators
- arxiv url: http://arxiv.org/abs/2610.12325v1
- Date: Thu, 08 Oct 2026 17:06:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:54.200171
- Title: Prior or Feedback? What an LLM Uses When Adapting Neural Operators
- Title(参考訳): プライドかフィードバックか? ニューラル演算子の適応にLLMが使うもの
- Abstract要約: 本稿では,大規模言語モデル (LLM) が限定的な試行予算の下で微調整構成を選択するニューラル演算子適応の課題について検討する。
LLMはPDEファミリー内およびPDEファミリー間での転送において、ランダム探索やベイズ最適化よりも低いホールドアウトテスト nRMSE を達成する。
LLMの判断レベル動作が与えられたタスクに応答し、結果が観察されることを確立し、タスク依存の先行と、実験的なフィードバックに対する敏感さを組み合わせていることを示す。
- 参考スコア(独自算出の注目度): 0.899394082708711
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Do LLM scientific agents rely only on their initial task context, or do they adapt their decisions in response to experimental feedback? We study this question in neural operator adaptation, where a large language model (LLM) selects fine-tuning configurations under a limited trial budget. Across transfers within and between partial differential equation (PDE) families, the LLM achieves lower held-out test nRMSE than random search and Bayesian optimisation in nearly every matched comparison. Endpoint performance alone cannot distinguish what happens, so we verify each attribution with controlled interventions. Before observing any validation score, the LLM's first configuration already ranks near the top of the corresponding random-search pool, indicating a useful initial bias. A complementary cold-start intervention shows that the selected base learning rate shifts with the PDE description. Once feedback becomes available, reassigning validation scores among evaluated configurations changes the next proposal in every case tested, whereas a value-preserving rewrite produces no comparable aggregate effect. These interventions establish that the LLM's decision-level actions respond to the given task and observed outcomes, showing that it combines a task-dependent prior with sensitivity to experimental feedback.
- Abstract(参考訳): LLMの科学エージェントは、最初のタスクコンテキストにのみ依存しているか、それとも実験的なフィードバックに応えて意思決定に適応するのか?
本稿では,大規模言語モデル (LLM) が限定的な試行予算の下で微調整構成を選択するニューラル演算子適応法について検討する。
LLMは、偏微分方程式(PDE)の族内および間を移動し、ランダム探索よりも低いホールドアウトテスト nRMSE と、ほぼ全ての一致した比較でベイズ最適化を達成する。
エンドポイントのパフォーマンスだけでは何が起こるのかを区別できないので、制御された介入でそれぞれの属性を検証する。
検証スコアを観察する前に、LCMの最初の構成は、対応するランダム検索プールの上部近くに位置しており、有用な初期バイアスを示している。
相補的なコールドスタート介入は、選択されたベースラーニングレートがPDE記述とともに変化することを示している。
一度フィードバックが利用可能になると、評価された構成間の検証スコアを再割り当てすると、テストされたすべてのケースで次の提案が変更される。
これらの介入は、LCMの意思決定レベルの行動が与えられたタスクに応答し、結果を観察し、それがタスク依存の先行と実験的なフィードバックに対する感受性を組み合わせたものであることを示す。
関連論文リスト
- LLM sequential decision making under uncertainty in biochemical domains [4.5018775756511635]
5つの大言語モデル(LLM)を、7つのデータセットの統計ベースラインに対してベンチマークする。
決定的にテストされた構成は、ドメイン全体で平均的な統計ベースラインを上回っません。
コンテキスト内履歴の削除は探索を復元し、事前とデータは切り離さなければならないことを示す。
論文 参考訳(メタデータ) (2026-09-27T00:49:09Z) - Rethinking the Evaluation and Optimization of LLM-Based Social Simulation [56.18577997572273]
主観性係数を用いて、主観性が高くなるにつれて、精度に基づく評価とハードラベルトレーニングがいかに失敗するかを分析する。
我々は193のアノテーションと100の主観的質問を含む19,300の文脈のベンチマークであるSUBJSIMを構築した。
SUBJSIMの結果は,本手法の利点を示すものである。
論文 参考訳(メタデータ) (2026-08-20T06:26:03Z) - Efficient Sequential Evaluation of Large Language Models [10.520659921457629]
本研究では,過去のパフォーマンスデータを用いた固定質問セットに基づいて,新たな大規模言語モデル(LLM)を逐次評価する問題について検討する。
我々のゴールは,モデルの信頼性シーケンス(CS)を構築し,CS幅をできるだけ早く縮小するアクティブクエリルールを設計することである。
論文 参考訳(メタデータ) (2026-07-19T21:01:34Z) - The Illusion of Intervention: Your LLM-Simulated Experiment is an Observational Study [56.649987197786096]
大規模言語モデル(LLM)は人間の行動のシミュレータとしての可能性を示している。
LLMは潜在ユーザ属性の意図しないシフトを誘発し、ユーザのドリフトを引き起こす。
ユーザのドリフトによって生じる不確実性や選択バイアスを形式化する。
論文 参考訳(メタデータ) (2026-05-20T06:09:41Z) - Towards Reliable LLM Evaluation: Correcting the Winner's Curse in Adaptive Benchmarking [40.44372785257615]
我々は,この手順レベルの目標を明示的なチューニング予算の下で推論する。
選択対応の繰り返しレポートプロトコルであるSIRENを提案する。
制御されたシミュレーションとMMLU-Proチューニング実験は、勝者ベースのレポートが楽観的であることを示している。
論文 参考訳(メタデータ) (2026-05-07T10:18:56Z) - Decoupling the Effect of Chain-of-Thought Reasoning: A Human Label Variation Perspective [60.45433515408158]
長いチェーン・オブ・ソート(CoT)がトップオプションの決定的決定要因となるが、あいまいなタスクの粒度分布キャリブレータとして機能しないことを示す。
CoTは分布アライメントを改善するが、CoTの内容によって最終的な精度が決定される。
論文 参考訳(メタデータ) (2026-01-06T16:26:40Z) - Enhancing Rating Prediction with Off-the-Shelf LLMs Using In-Context User Reviews [16.394933051332657]
等級評価予測は、言語と数学的推論の両方を効果的に解く必要がある回帰タスクである。
本研究では,市販LCMの性能を評価予測に用い,異なるコンテキスト情報を提供する。
ユーザによるレビューでは,LCMのレーティング予測性能が大幅に向上していることがわかった。
論文 参考訳(メタデータ) (2025-10-01T03:04:20Z) - LLMs for Bayesian Optimization in Scientific Domains: Are We There Yet? [25.116042999105193]
大規模言語モデル (LLM) は実験設計のための汎用エージェントとして提案されている。
本仮説は, 遺伝的摂動および分子特性探索に応用したオープンソースとクローズドソースのLLMを用いて評価する。
LLMをベースとしたエージェントは、実験的なフィードバックに敏感ではなく、実結果をランダムに置換したラベルに置き換えることは、性能に影響を与えない。
論文 参考訳(メタデータ) (2025-09-24T15:50:17Z) - Mask-DPO: Generalizable Fine-grained Factuality Alignment of LLMs [56.74916151916208]
大型言語モデル(LLM)は、様々なドメインでAIアシスタントとして機能する際、幻覚(不信または非感覚的な情報)を示す。
学習中に必然的にノイズを発生させる応答レベルの嗜好学習を行う従来の事実アライメント手法。
本稿では,Mask-DPO (Direct Preference Optimization, DPO) に基づくファクトリティアライメント手法を提案する。
論文 参考訳(メタデータ) (2025-03-04T18:20:24Z) - A Systematic Examination of Preference Learning through the Lens of Instruction-Following [83.71180850955679]
新たな合成データ生成パイプラインを用いて48,000の命令追従プロンプトを生成する。
合成プロンプトでは、リジェクションサンプリング(RS)とモンテカルロ木探索(MCTS)の2つの選好データセットキュレーション手法を用いる。
実験により、MCTSが生成した選好ペアにおける共有プレフィックスは、限界はあるが一貫した改善をもたらすことが明らかになった。
高コントラストの選好ペアは一般的に低コントラストのペアよりも優れているが、両者を組み合わせることで最高のパフォーマンスが得られることが多い。
論文 参考訳(メタデータ) (2024-12-18T15:38:39Z) - Are You Sure? Challenging LLMs Leads to Performance Drops in The
FlipFlop Experiment [82.60594940370919]
大規模言語モデル(LLM)のマルチターン動作を研究するためのFlipFlop実験を提案する。
モデルが平均46%の時間で回答を反転させ、全てのモデルが最初の予測と最終予測の間に精度を低下させ、平均17%の低下(FlipFlop効果)を示す。
我々はオープンソースのLLMで微調整実験を行い、合成されたデータに対する微調整は、性能劣化を60%低減させることができるが、サイコファンティックな振る舞いを完全には解決できないことを発見した。
論文 参考訳(メタデータ) (2023-11-14T23:40:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。