論文の概要: Exploring the Limits of Fine-grained LLM-based Physics Inference via Premise Removal Interventions
- arxiv url: http://arxiv.org/abs/2404.18384v2
- Date: Tue, 01 Oct 2024 06:17:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-02 16:32:55.683481
- Title: Exploring the Limits of Fine-grained LLM-based Physics Inference via Premise Removal Interventions
- Title(参考訳): プリミズ除去による微粒LDMによる物理推論の限界探索
- Authors: Jordan Meadows, Tamsin James, Andre Freitas,
- Abstract要約: 言語モデル(LM)は複雑な数学的推論を行う際に幻覚を与える。
物理的な文脈では、記号的な操作は複雑な意味論を満たすことが要求される。
この設定では、LMsの数学的推論は物理学的インフォームドされていない。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: Language models (LMs) can hallucinate when performing complex mathematical reasoning. Physics provides a rich domain for assessing their mathematical capabilities, where physical context requires that any symbolic manipulation satisfies complex semantics (\textit{e.g.,} units, tensorial order). In this work, we systematically remove crucial context from prompts to force instances where model inference may be algebraically coherent, yet unphysical. We assess LM capabilities in this domain using a curated dataset encompassing multiple notations and Physics subdomains. Further, we improve zero-shot scores using synthetic in-context examples, and demonstrate non-linear degradation of derivation quality with perturbation strength via the progressive omission of supporting premises. We find that the models' mathematical reasoning is not physics-informed in this setting, where physical context is predominantly ignored in favour of reverse-engineering solutions.
- Abstract(参考訳): 言語モデル(LM)は複雑な数学的推論を行う際に幻覚を与える。
物理学は、それらの数学的能力を評価するための豊富な領域を提供しており、物理的な文脈では、いかなる記号的操作も複雑な意味論(\textit{e g ,} 単位、テンソル次数)を満たすことが要求される。
本研究では、モデル推論が代数的コヒーレントでありながら非物理的であるような場合において、プロンプトから決定的な文脈を体系的に取り除く。
我々は、複数の表記と物理サブドメインを含むキュレートされたデータセットを用いて、この領域におけるLM機能を評価する。
さらに, 合成インコンテクスト例を用いてゼロショットスコアを改良し, 支持地盤の進行除去による摂動強度による導出品質の非線形劣化を実証した。
この設定では、このモデルの数学的推論は物理学にインフォームドされていないことが分かり、物理的文脈は逆エンジニアリングの解を好んで無視される。
関連論文リスト
- DimOL: Dimensional Awareness as A New 'Dimension' in Operator Learning [63.5925701087252]
本稿では,DimOL(Dimension-aware Operator Learning)を紹介し,次元解析から洞察を得る。
DimOLを実装するために,FNOおよびTransformerベースのPDEソルバにシームレスに統合可能なProdLayerを提案する。
経験的に、DimOLモデルはPDEデータセット内で最大48%のパフォーマンス向上を達成する。
論文 参考訳(メタデータ) (2024-10-08T10:48:50Z) - Physics-Informed Graph-Mesh Networks for PDEs: A hybrid approach for complex problems [0.24578723416255746]
物理インフォームドグラフニューラルネットワークと有限要素からの数値カーネルを組み合わせたハイブリッドアプローチを提案する。
モデルの理論的性質を研究した後、2次元と3次元の複素幾何学に応用する。
我々の選択はアブレーション研究によって支持され,提案手法の一般化能力を評価する。
論文 参考訳(メタデータ) (2024-09-25T07:52:29Z) - On the Dynamics Under the Unhinged Loss and Beyond [104.49565602940699]
我々は、閉形式力学を解析するための数学的機会を提供する、簡潔な損失関数であるアンヒンジド・ロスを導入する。
アンヒンジされた損失は、時間変化学習率や特徴正規化など、より実践的なテクニックを検討することができる。
論文 参考訳(メタデータ) (2023-12-13T02:11:07Z) - Discovering Interpretable Physical Models using Symbolic Regression and
Discrete Exterior Calculus [55.2480439325792]
本稿では,記号回帰(SR)と離散指数計算(DEC)を組み合わせて物理モデルの自動発見を行うフレームワークを提案する。
DECは、SRの物理問題への最先端の応用を越えている、場の理論の離散的な類似に対して、ビルディングブロックを提供する。
実験データから連続体物理の3つのモデルを再発見し,本手法の有効性を実証する。
論文 参考訳(メタデータ) (2023-10-10T13:23:05Z) - Deep symbolic regression for physics guided by units constraints: toward
the automated discovery of physical laws [0.0]
シンボリック回帰(英: Symbolic Regression)は、データに適合する解析式を自動検索するアルゴリズムの研究である。
解析記号表現を物理データから復元するフレームワークである$Phi$-SOを提案する。
論文 参考訳(メタデータ) (2023-03-06T16:47:59Z) - Generalized Neural Closure Models with Interpretability [28.269731698116257]
我々は、統合された神経部分遅延微分方程式の新規で汎用的な方法論を開発した。
マルコフ型および非マルコフ型ニューラルネットワーク(NN)の閉包パラメータ化を用いて, 偏微分方程式(PDE)における既存/低忠実度力学モデルを直接拡張する。
本研究では, 非線形波動, 衝撃波, 海洋酸性化モデルに基づく4つの実験セットを用いて, 新しい一般化ニューラルクロージャモデル(gnCMs)の枠組みを実証する。
論文 参考訳(メタデータ) (2023-01-15T21:57:43Z) - Symmetry Group Equivariant Architectures for Physics [52.784926970374556]
機械学習の分野では、対称性に対する認識が目覚ましいパフォーマンスのブレークスルーを引き起こしている。
物理学のコミュニティと、より広い機械学習のコミュニティの両方に、理解すべきことがたくさんある、と私たちは主張する。
論文 参考訳(メタデータ) (2022-03-11T18:27:04Z) - Physics informed neural networks for continuum micromechanics [68.8204255655161]
近年,応用数学や工学における多種多様な問題に対して,物理情報ニューラルネットワークの適用が成功している。
グローバルな近似のため、物理情報ニューラルネットワークは、最適化によって局所的な効果と強い非線形解を表示するのに困難である。
実世界の$mu$CT-Scansから得られた不均一構造における非線形応力, 変位, エネルギー場を, 正確に解くことができる。
論文 参考訳(メタデータ) (2021-10-14T14:05:19Z) - Scalable Differentiable Physics for Learning and Control [99.4302215142673]
微分物理学は、物理的対象や環境を含む問題を学習し、制御するための強力なアプローチである。
我々は、多数のオブジェクトとその相互作用をサポートすることができる微分可能物理学のためのスケーラブルなフレームワークを開発する。
論文 参考訳(メタデータ) (2020-07-04T19:07:51Z) - Transformation Importance with Applications to Cosmology [13.72250424474013]
本稿では,変換空間における特徴に重きを置く新しい手法を提案し,十分に訓練されたモデルにポストホックを適用する。
TRans IMportanceは、シミュレーションデータ上のディープニューラルネットワーク(DNN)を用いた宇宙パラメータ推定問題によって動機付けられている。
論文 参考訳(メタデータ) (2020-03-04T07:50:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。