論文の概要: Exploring the Limits of Fine-grained LLM-based Physics Inference via Premise Removal Interventions
- arxiv url: http://arxiv.org/abs/2404.18384v2
- Date: Tue, 01 Oct 2024 06:17:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-02 16:32:55.683481
- Title: Exploring the Limits of Fine-grained LLM-based Physics Inference via Premise Removal Interventions
- Title(参考訳): プリミズ除去による微粒LDMによる物理推論の限界探索
- Authors: Jordan Meadows, Tamsin James, Andre Freitas,
- Abstract要約: 言語モデル(LM)は複雑な数学的推論を行う際に幻覚を与える。
物理的な文脈では、記号的な操作は複雑な意味論を満たすことが要求される。
この設定では、LMsの数学的推論は物理学的インフォームドされていない。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: Language models (LMs) can hallucinate when performing complex mathematical reasoning. Physics provides a rich domain for assessing their mathematical capabilities, where physical context requires that any symbolic manipulation satisfies complex semantics (\textit{e.g.,} units, tensorial order). In this work, we systematically remove crucial context from prompts to force instances where model inference may be algebraically coherent, yet unphysical. We assess LM capabilities in this domain using a curated dataset encompassing multiple notations and Physics subdomains. Further, we improve zero-shot scores using synthetic in-context examples, and demonstrate non-linear degradation of derivation quality with perturbation strength via the progressive omission of supporting premises. We find that the models' mathematical reasoning is not physics-informed in this setting, where physical context is predominantly ignored in favour of reverse-engineering solutions.
- Abstract(参考訳): 言語モデル(LM)は複雑な数学的推論を行う際に幻覚を与える。
物理学は、それらの数学的能力を評価するための豊富な領域を提供しており、物理的な文脈では、いかなる記号的操作も複雑な意味論(\textit{e g ,} 単位、テンソル次数)を満たすことが要求される。
本研究では、モデル推論が代数的コヒーレントでありながら非物理的であるような場合において、プロンプトから決定的な文脈を体系的に取り除く。
我々は、複数の表記と物理サブドメインを含むキュレートされたデータセットを用いて、この領域におけるLM機能を評価する。
さらに, 合成インコンテクスト例を用いてゼロショットスコアを改良し, 支持地盤の進行除去による摂動強度による導出品質の非線形劣化を実証した。
この設定では、このモデルの数学的推論は物理学にインフォームドされていないことが分かり、物理的文脈は逆エンジニアリングの解を好んで無視される。
関連論文リスト
- Partition of Unity Physics-Informed Neural Networks (POU-PINNs): An Unsupervised Framework for Physics-Informed Domain Decomposition and Mixtures of Experts [6.179530974508392]
本研究では,空間逆を特定の支配物理と同一視する,教師なし学習フレームワークを提案する。
この手法の重要な特徴は、ラベル付きデータを必要としない物理特性の変動を検出する物理残差に基づく損失関数である。
その効果は多孔質熱媒質アブレーションと氷シートモデリングに応用することで実証される。
論文 参考訳(メタデータ) (2024-12-07T16:07:43Z) - LLMPhy: Complex Physical Reasoning Using Large Language Models and World Models [35.01842161084472]
そこで我々は,TraySimという物理推論タスクとデータセットを提案する。
私たちのタスクは、外部の影響を受けるトレイ上のいくつかのオブジェクトのダイナミクスを予測することです。
LLMの物理知識とプログラム合成能力を活用するゼロショットブラックボックス最適化フレームワークであるLLMPhyを提案する。
この結果から,LLMと物理エンジンの組み合わせにより,最先端のゼロショット物理推論性能が得られることがわかった。
論文 参考訳(メタデータ) (2024-11-12T18:56:58Z) - DimOL: Dimensional Awareness as A New 'Dimension' in Operator Learning [63.5925701087252]
本稿では,DimOL(Dimension-aware Operator Learning)を紹介し,次元解析から洞察を得る。
DimOLを実装するために,FNOおよびTransformerベースのPDEソルバにシームレスに統合可能なProdLayerを提案する。
経験的に、DimOLモデルはPDEデータセット内で最大48%のパフォーマンス向上を達成する。
論文 参考訳(メタデータ) (2024-10-08T10:48:50Z) - On the Dynamics Under the Unhinged Loss and Beyond [104.49565602940699]
我々は、閉形式力学を解析するための数学的機会を提供する、簡潔な損失関数であるアンヒンジド・ロスを導入する。
アンヒンジされた損失は、時間変化学習率や特徴正規化など、より実践的なテクニックを検討することができる。
論文 参考訳(メタデータ) (2023-12-13T02:11:07Z) - Discovering Interpretable Physical Models using Symbolic Regression and
Discrete Exterior Calculus [55.2480439325792]
本稿では,記号回帰(SR)と離散指数計算(DEC)を組み合わせて物理モデルの自動発見を行うフレームワークを提案する。
DECは、SRの物理問題への最先端の応用を越えている、場の理論の離散的な類似に対して、ビルディングブロックを提供する。
実験データから連続体物理の3つのモデルを再発見し,本手法の有効性を実証する。
論文 参考訳(メタデータ) (2023-10-10T13:23:05Z) - Deep symbolic regression for physics guided by units constraints: toward
the automated discovery of physical laws [0.0]
シンボリック回帰(英: Symbolic Regression)は、データに適合する解析式を自動検索するアルゴリズムの研究である。
解析記号表現を物理データから復元するフレームワークである$Phi$-SOを提案する。
論文 参考訳(メタデータ) (2023-03-06T16:47:59Z) - Generalized Neural Closure Models with Interpretability [28.269731698116257]
我々は、統合された神経部分遅延微分方程式の新規で汎用的な方法論を開発した。
マルコフ型および非マルコフ型ニューラルネットワーク(NN)の閉包パラメータ化を用いて, 偏微分方程式(PDE)における既存/低忠実度力学モデルを直接拡張する。
本研究では, 非線形波動, 衝撃波, 海洋酸性化モデルに基づく4つの実験セットを用いて, 新しい一般化ニューラルクロージャモデル(gnCMs)の枠組みを実証する。
論文 参考訳(メタデータ) (2023-01-15T21:57:43Z) - Symmetry Group Equivariant Architectures for Physics [52.784926970374556]
機械学習の分野では、対称性に対する認識が目覚ましいパフォーマンスのブレークスルーを引き起こしている。
物理学のコミュニティと、より広い機械学習のコミュニティの両方に、理解すべきことがたくさんある、と私たちは主張する。
論文 参考訳(メタデータ) (2022-03-11T18:27:04Z) - Physics informed neural networks for continuum micromechanics [68.8204255655161]
近年,応用数学や工学における多種多様な問題に対して,物理情報ニューラルネットワークの適用が成功している。
グローバルな近似のため、物理情報ニューラルネットワークは、最適化によって局所的な効果と強い非線形解を表示するのに困難である。
実世界の$mu$CT-Scansから得られた不均一構造における非線形応力, 変位, エネルギー場を, 正確に解くことができる。
論文 参考訳(メタデータ) (2021-10-14T14:05:19Z) - Scalable Differentiable Physics for Learning and Control [99.4302215142673]
微分物理学は、物理的対象や環境を含む問題を学習し、制御するための強力なアプローチである。
我々は、多数のオブジェクトとその相互作用をサポートすることができる微分可能物理学のためのスケーラブルなフレームワークを開発する。
論文 参考訳(メタデータ) (2020-07-04T19:07:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。