論文の概要: From Syntax to Semantics: Unveiling the Emergence of Chirality in SMILES Translation Models

• arxiv url: http://arxiv.org/abs/2605.09949v1
• Date: Mon, 11 May 2026 03:53:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:50.505138
• Title: From Syntax to Semantics: Unveiling the Emergence of Chirality in SMILES Translation Models
• Title（参考訳）: 構文から意味論へ:SMILES翻訳モデルにおけるキラリティの創発
• Authors: Zehao Li, Yasuhiro Yoshikai, Shumpei Nemoto, Hiroyuki Kusuhara, Tadahaya Mizuno,
• Abstract要約: SMILES翻訳のための自動回帰変換器を用いたエンコーダデコーダモデルであるPan-COREを提案する。 我々は、高時間分解能チェックポイント分析を用いて、訓練中にキラル情報がどのように学習されるかを調べる。 SMILES翻訳はCLMのセマンティックな出現を機械的解析するための有用な実験システムとして機能することが示された。
• 参考スコア（独自算出の注目度）: 1.481663141554356
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Understanding how chemical language models (CLMs) learn chemical meaning from molecular string representations, rather than only surface-level string patterns, is an important question in chemical representation learning and machine learning for chemistry. Chirality provides a demanding test case: enantiomers can differ greatly in pharmacological activity and toxicity, yet CLMs often struggle to distinguish chiral configurations reliably. Here we present Pan-CORE (Pan-Chemical Omniscale Representation Engine), a family of autoregressive Transformer-based encoder-decoder models for SMILES translation, and use high-temporal-resolution checkpoint analysis to investigate how chiral information is learned during training. Across all tested Pan-CORE variants, we observe a reproducible jump-up in which chiral-token accuracy rises abruptly after a long plateau, suggesting that chiral learning stagnation is not explained by model capacity alone and instead reflects the complexity of chiral constraints. Analyses of attention dynamics, residual-stream trajectories, and latent-space geometry support an encoder-centered mechanism in which chiral-token representations undergo transient destabilization and reconstruction, seen as a V-shaped drop and recovery in vector norm and directional stability, together with a clear reorganization of chiral molecular representations in the latent space. Encoder-decoder cross-evaluation further supports the encoder-centered nature of the transition, and targeted attention-head ablation identifies a small set of chiral-sensitive heads whose removal selectively reduces chiral-token accuracy even in the fully trained model. These findings show that SMILES translation can serve as a useful experimental system for mechanistic analysis of semantic emergence in CLMs, with implications for interpretable chemical representation learning.
• Abstract（参考訳）: 化学言語モデル(CLM)が、化学表現学習や化学の機械学習において、表面レベルの文字列パターンだけでなく、分子文字列表現から化学意味を学習する方法を理解することは重要な問題である。 キラル性は要求されるテストケースであり、エナンチオマーは薬理活性と毒性において大きく異なることがあるが、CLMはキラル構成を確実に区別するのにしばしば苦労する。 本稿では,SMILES翻訳のための自動回帰変換器を用いたエンコーダデコーダモデルであるPan-CORE(Pan-Chemical Omniscale Representation Engine)について述べる。 実験されたすべてのPan-CORE変種全体で、長い台地の後、カイラルトケンの精度が突然上昇する再現可能なジャンプアップを観察し、カイラル学習の停滞はモデル能力だけで説明されず、キラル制約の複雑さを反映していることを示唆した。 注意力学、残留流路軌道、潜時空間幾何学の解析は、過渡的不安定化と再構成を受けるキラルトケン表現がベクトルノルムと方向安定性のV字型ドロップとリカバリと見なされるエンコーダ中心のメカニズムと、潜時空間におけるキラル分子表現の明確な再構成をサポートする。 エンコーダ・デコーダのクロス評価は、トランスフォーメーションのエンコーダ中心の性質をさらに支持し、ターゲットアテンション・アブリレーションは、完全に訓練されたモデルにおいても、除去がキラルトケン精度を選択的に減少させる小さなキラル感性ヘッドのセットを特定する。 これらの結果から,SMILES翻訳はCLMにおける意味発生の機械的解析に有用なシステムであり,解釈可能な化学表現学習に有用であることが示唆された。

関連論文リスト

• Molecules Meet Language: Confound-Aware Representation Learning and Chemical Property Steering in Transformer-VAE Latent Spaces [0.9332987715848714]
  分子生成モデルは、しばしば有意義な潜在幾何学を仮定するが、明らかな特性予測可能性は、シーケンスレベルのショートカットを反映することができる。 本研究では,SELFIESをトレーニングした教師なし自己回帰変換器-VAEを用いて,この問題について検討する。 化学的に有意なステアリングは、絡み合った分子潜在空間に現れるが、デコードされた分子によってのみ検証される。
  論文  参考訳（メタデータ） (2026-05-07T14:07:10Z)
• Learning Molecular Chirality via Chiral Determinant Kernels [21.293956625903352]
  キリティは化学や生物学において立体特異的な振る舞いを管理する基本的な分子特性である。 ChiDeKは分子表現学習にステレオジェニック情報を統合するフレームワークである。 ChiDeKは最先端のベースラインよりも大幅に改善されている。
  論文  参考訳（メタデータ） (2026-02-07T07:21:43Z)
• Causal Representation Meets Stochastic Modeling under Generic Geometry [49.24293444627916]
  我々は,連続時間潜在点過程の因果表現学習を開発する。 MUTATEは時間適応型遷移モジュールを持つ変分自動エンコーダフレームワークである。 シミュレーションおよび実証研究全体で、MUTATEは科学的疑問に効果的に答えられることが判明した。
  論文  参考訳（メタデータ） (2026-02-04T20:40:53Z)
• Agentic reinforcement learning empowers next-generation chemical language models for molecular design and synthesis [51.83339196548892]
  ChemCraftは、知識ストレージから化学推論を分離する新しいフレームワークである。 ChemCraftは最小の推論コストで優れたパフォーマンスを実現する。 この研究は、AI支援化学のコスト効率とプライバシ保護のパラダイムを確立する。
  論文  参考訳（メタデータ） (2026-01-25T04:23:34Z)
• How well can off-the-shelf LLMs elucidate molecular structures from mass spectra using chain-of-thought reasoning? [51.286853421822705]
  大規模言語モデル (LLM) は推論集約的な科学的タスクを約束するが、化学的解釈の能力はまだ不明である。 我々は、分子構造を予測するために、LLMが質量スペクトルデータに対してどのように理由を持つかを評価する、Chain-of-Thought(CoT)プロンプトフレームワークとベンチマークを導入する。 SMILESの妥当性, 式整合性, 構造的類似性の指標による評価の結果, LLMは合成学的に有効で, 部分的に可視な構造を生成できるが, 分子予測の正確性やリンク推論を達成できないことがわかった。
  論文  参考訳（メタデータ） (2026-01-09T20:08:42Z)
• SIGMA: Scalable Spectral Insights for LLM Collapse [51.863164847253366]
  SIGMA(Spectral Inequalities for Gram Matrix Analysis)は,モデル崩壊のための統一的なフレームワークである。 行列のスペクトル上の決定論的境界を導出するベンチマークを利用することで、SIGMAは表現空間の収縮を追跡するために数学的に基底化された計量を提供する。 我々は、SIGMAが状態への遷移を効果的に捉え、崩壊のメカニズムに関する理論的知見の両方を提供することを示した。
  論文  参考訳（メタデータ） (2026-01-06T19:47:11Z)
• Circuits, Features, and Heuristics in Molecular Transformers [0.056179939237156]
  薬物様小分子で訓練した自己回帰変換器の力学解析を行った。 低レベルの構文解析とより抽象的な化学的妥当性制約に整合した計算パターンを同定する。
  論文  参考訳（メタデータ） (2025-12-10T15:35:22Z)
• Aligned Manifold Property and Topology Point Clouds for Learning Molecular Properties [55.2480439325792]
  この研究は、局所量子由来のスカラー場とカスタムトポロジカルディスクリプタを組み合わせた分子表面表現であるAMPTCRを導入する。 分子量については、AMPTCRが物理的に意味のあるデータをコードし、検証R2は0.87であることを確認した。 細菌抑制タスクでは、AMPTCRは大腸菌阻害値の分類と直接回帰の両方を可能にする。
  論文  参考訳（メタデータ） (2025-07-22T04:35:50Z)
• Pre-trained Molecular Language Models with Random Functional Group Masking [54.900360309677794]
  SMILESをベースとしたアンダーリネム分子アンダーリネム言語アンダーリネムモデルを提案し,特定の分子原子に対応するSMILESサブシーケンスをランダムにマスキングする。 この技術は、モデルに分子構造や特性をよりよく推測させ、予測能力を高めることを目的としている。
  論文  参考訳（メタデータ） (2024-11-03T01:56:15Z)
• Empowering Machines to Think Like Chemists: Unveiling Molecular Structure-Polarity Relationships with Hierarchical Symbolic Regression [1.6986628849901197]
  階層型ニューラルネットワークとシンボル回帰を組み合わせた非教師付き階層型シンボル回帰(UHiSR)を導入する。 UHiSRは化学直観的な極性指数を自動的に蒸留し、分子構造とクロマトグラフィーの挙動を結びつける解釈可能な方程式を発見する。
  論文  参考訳（メタデータ） (2024-01-25T02:48:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。