論文の概要: A Large Language Model and Denoising Diffusion Framework for Targeted Design of Microstructures with Commands in Natural Language
- arxiv url: http://arxiv.org/abs/2409.14473v1
- Date: Sun, 22 Sep 2024 14:45:22 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-06 22:41:53.130991
- Title: A Large Language Model and Denoising Diffusion Framework for Targeted Design of Microstructures with Commands in Natural Language
- Title（参考訳）: 自然言語の命令による微細構造設計のための大規模言語モデルとデノベーション拡散フレームワーク
- Authors: Nikita Kartashov, Nikolaos N. Vlassis,
- Abstract要約: 自然言語処理(NLP)、大言語モデル(LLM)、拡散確率モデル(DDPM)を統合したフレームワークを提案する。
我々のフレームワークは、事前訓練されたLLMによって駆動されるコンテキストデータ拡張を用いて、多様なマイクロ構造記述子のデータセットを生成し、拡張する。
再学習されたNERモデルは、ユーザが提供する自然言語入力から関連するマイクロ構造記述子を抽出し、DDPMによってターゲットとなる機械的特性とトポロジ的特徴を持つマイクロ構造を生成する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Microstructure plays a critical role in determining the macroscopic properties of materials, with applications spanning alloy design, MEMS devices, and tissue engineering, among many others. Computational frameworks have been developed to capture the complex relationship between microstructure and material behavior. However, despite these advancements, the steep learning curve associated with domain-specific knowledge and complex algorithms restricts the broader application of these tools. To lower this barrier, we propose a framework that integrates Natural Language Processing (NLP), Large Language Models (LLMs), and Denoising Diffusion Probabilistic Models (DDPMs) to enable microstructure design using intuitive natural language commands. Our framework employs contextual data augmentation, driven by a pretrained LLM, to generate and expand a diverse dataset of microstructure descriptors. A retrained NER model extracts relevant microstructure descriptors from user-provided natural language inputs, which are then used by the DDPM to generate microstructures with targeted mechanical properties and topological features. The NLP and DDPM components of the framework are modular, allowing for separate training and validation, which ensures flexibility in adapting the framework to different datasets and use cases. A surrogate model system is employed to rank and filter generated samples based on their alignment with target properties. Demonstrated on a database of nonlinear hyperelastic microstructures, this framework serves as a prototype for accessible inverse design of microstructures, starting from intuitive natural language commands.
- Abstract（参考訳）: 組織は材料のマクロな特性を決定する上で重要な役割を担っており、合金設計、MEMSデバイス、組織工学などにも応用されている。
計算フレームワークは、ミクロ構造と物質的挙動の複雑な関係を捉えるために開発された。
しかし、これらの進歩にもかかわらず、ドメイン固有の知識と複雑なアルゴリズムに関連した急勾配学習曲線は、これらのツールの幅広い適用を制限する。
この障壁を低くするために,自然言語処理(NLP),大規模言語モデル(LLM),拡散確率モデル(DDPM)を統合し,直感的な自然言語コマンドを用いたマイクロ構造設計を可能にするフレームワークを提案する。
我々のフレームワークは、事前訓練されたLLMによって駆動されるコンテキストデータ拡張を用いて、多様なマイクロ構造記述子のデータセットを生成し、拡張する。
再学習されたNERモデルは、ユーザが提供する自然言語入力から関連するマイクロ構造記述子を抽出し、DDPMによってターゲットとなる機械的特性とトポロジ的特徴を持つマイクロ構造を生成する。
フレームワークのNLPとDDPMコンポーネントはモジュール化されており、個別のトレーニングとバリデーションを可能にし、異なるデータセットやユースケースにフレームワークを適用する際の柔軟性を保証する。
シュロゲートモデルシステムを用いて, 対象特性との整合性に基づいて生成したサンプルのランク付けとフィルタリングを行う。
非線形超弾性マイクロストラクチャのデータベース上で実証されたこのフレームワークは、直感的な自然言語コマンドから始まる、マイクロストラクチャのアクセス可能な逆設計のプロトタイプとして機能する。
関連論文リスト
- APT: Architectural Planning and Text-to-Blueprint Construction Using Large Language Models for Open-World Agents [8.479128275067742]
本稿では,自律型エージェントによるMinecraftの複雑な構造構築を可能にする,LLM(Large Language Model)駆動のフレームワークを提案する。
連鎖分解とマルチモーダル入力を用いることで、このフレームワークは詳細なアーキテクチャレイアウトと青写真を生成する。
本エージェントは, メモリとリフレクションモジュールの両方を組み込んで, 生涯学習, 適応的洗練, エラー訂正を容易にする。
論文 参考訳（メタデータ） (2024-11-26T09:31:28Z) - Autonomous Droplet Microfluidic Design Framework with Large Language Models [0.6827423171182153]
本研究では,処理および特徴抽出のためのフレームワークであるMicroFluidic-LLMsを提案する。
コンテンツが言語形式に変換され、事前訓練された大きな言語モデルを活用することで、処理上の課題を克服する。
当社のMicroFluidic-LLMsフレームワークは、ディープニューラルネットワークモデルに極めて効果的で簡単なものにすることができることを実証しています。
論文 参考訳（メタデータ） (2024-11-11T03:20:53Z) - Learning to Extract Structured Entities Using Language Models [52.281701191329]
機械学習の最近の進歩は、情報抽出の分野に大きな影響を与えている。
タスクをエンティティ中心にすることで、さまざまなメトリクスの使用を可能にします。
我々は、Structured Entity extractを導入し、Adroximate Entity Set OverlaPメトリックを提案し、この分野にコントリビュートします。
論文 参考訳（メタデータ） (2024-02-06T22:15:09Z) - Physics of Language Models: Part 1, Learning Hierarchical Language Structures [51.68385617116854]
トランスフォーマーベースの言語モデルは効率的だが複雑であり、内部動作を理解することは大きな課題である。
本稿では,長文を生成可能な階層規則を生成する合成CFGのファミリーを紹介する。
我々は、GPTのような生成モデルがこのCFG言語を正確に学習し、それに基づいて文を生成することを実証する。
論文 参考訳（メタデータ） (2023-05-23T04:28:16Z) - LasUIE: Unifying Information Extraction with Latent Adaptive
Structure-aware Generative Language Model [96.889634747943]
全ての典型的な情報抽出タスク(UIE)を1つの生成言語モデル(GLM)で普遍的にモデル化し、大きな可能性を明らかにした。
UIE のための構文知識のパワーを完全に解放する構造対応 GLM を提案する。
7つのタスクにわたるIEベンチマークが12以上あり、私たちのシステムはベースラインのUIEシステムよりも大幅に改善されていることを示しています。
論文 参考訳（メタデータ） (2023-04-13T04:01:14Z) - Autoregressive Structured Prediction with Language Models [73.11519625765301]
本稿では, PLM を用いた自己回帰的手法を用いて, モデル構造を行動列として記述する。
我々のアプローチは、私たちが見てきた全ての構造化予測タスクにおいて、新しい最先端を実現する。
論文 参考訳（メタデータ） (2022-10-26T13:27:26Z) - SIM-Trans: Structure Information Modeling Transformer for Fine-grained
Visual Categorization [59.732036564862796]
本稿では,オブジェクト構造情報を変換器に組み込んだSIM-Trans(Structure Information Modeling Transformer)を提案する。
提案した2つのモジュールは軽量化されており、任意のトランスフォーマーネットワークにプラグインでき、エンドツーエンドで容易に訓練できる。
実験と解析により,提案したSIM-Transが細粒度視覚分類ベンチマークの最先端性能を達成することを示した。
論文 参考訳（メタデータ） (2022-08-31T03:00:07Z) - Convex Polytope Modelling for Unsupervised Derivation of Semantic
Structure for Data-efficient Natural Language Understanding [31.888489552069146]
Convex-Polytopic-Modelベースのフレームワークは、生のダイアログコーパスを利用して意味パターンを自動的に抽出する大きな可能性を示している。
このフレームワークは,コーパスのセマンティックフレーム関連機能を活用し,発話の基盤となるセマンティック構造を明らかにし,最小限の監視で最先端のNLUモデルの性能を向上させることができることを示す。
論文 参考訳（メタデータ） (2022-01-25T19:12:44Z) - GroupBERT: Enhanced Transformer Architecture with Efficient Grouped
Structures [57.46093180685175]
トランスフォーマー層の構造を改良し,より効率的なアーキテクチャを実現する。
自己認識モジュールを補完する畳み込みモジュールを追加し、局所的およびグローバルな相互作用の学習を分離する。
得られたアーキテクチャを言語表現学習に適用し、異なるスケールのBERTモデルと比較して優れた性能を示す。
論文 参考訳（メタデータ） (2021-06-10T15:41:53Z) - Deep Generative Modeling for Mechanistic-based Learning and Design of
Metamaterial Systems [20.659457956055366]
深部生成モデルに基づく新しいデータ駆動メタマテリアル設計フレームワークを提案する。
本研究では,VAEの潜伏空間が,形状類似度を測定するための距離メートル法を提供することを示す。
機能的グレードとヘテロジニアスなメタマテリアルシステムの両方を設計することで、我々のフレームワークを実証する。
論文 参考訳（メタデータ） (2020-06-27T03:56:55Z) - Data-Driven Topology Optimization with Multiclass Microstructures using
Latent Variable Gaussian Process [18.17435834037483]
メタマテリアルの微細構造ライブラリーのための多応答潜在変数ガウス過程 (LVGP) モデルを開発した。
MR-LVGPモデルでは、混合変数の応答に対する集合的影響に基づいて、混合変数を連続的な設計空間に埋め込む。
マイクロ構造, マクロ構造に対する一貫した負荷伝達経路により, マルチクラスのマイクロ構造を考えることで, 性能の向上が期待できることを示す。
論文 参考訳（メタデータ） (2020-06-27T03:55:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。