論文の概要: Freeze, Diffuse, Decode: Geometry-Aware Adaptation of Pretrained Transformer Embeddings for Antimicrobial Peptide Design
- arxiv url: http://arxiv.org/abs/2511.23120v1
- Date: Fri, 28 Nov 2025 12:07:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-01 19:47:55.885564
- Title: Freeze, Diffuse, Decode: Geometry-Aware Adaptation of Pretrained Transformer Embeddings for Antimicrobial Peptide Design
- Title(参考訳): 凍結, 拡散, 復号: 微生物ペプチド設計のための予混合変圧器の幾何学的適応
- Authors: Pankhil Gawade, Adam Izdebski, Myriam Lizotte, Kevin R. Moon, Jake S. Rhodes, Guy Wolf, Ewa Szczurek,
- Abstract要約: FDD(Flyze, Diffuse, Decode)は,事前学習した埋め込みを下流タスクに適応させる,新しい拡散ベースのフレームワークである。
FDDは内在多様体内在的な凍結埋め込みに沿って教師付き信号を伝播し、埋め込み空間の幾何学的適応を可能にする。
- 参考スコア(独自算出の注目度): 11.120840203434915
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Pretrained transformers provide rich, general-purpose embeddings, which are transferred to downstream tasks. However, current transfer strategies: fine-tuning and probing, either distort the pretrained geometric structure of the embeddings or lack sufficient expressivity to capture task-relevant signals. These issues become even more pronounced when supervised data are scarce. Here, we introduce Freeze, Diffuse, Decode (FDD), a novel diffusion-based framework that adapts pre-trained embeddings to downstream tasks while preserving their underlying geometric structure. FDD propagates supervised signal along the intrinsic manifold of frozen embeddings, enabling a geometry-aware adaptation of the embedding space. Applied to antimicrobial peptide design, FDD yields low-dimensional, predictive, and interpretable representations that support property prediction, retrieval, and latent-space interpolation.
- Abstract(参考訳): 事前訓練されたトランスフォーマーは、下流タスクに転送されるリッチで汎用的な埋め込みを提供する。
しかし、現在の転送戦略:微調整と探索、埋め込みの事前訓練された幾何学的構造を歪めるか、タスク関連信号を捉えるのに十分な表現性がないかのどちらかである。
これらの問題は、教師付きデータが不足している場合にさらに顕著になる。
本稿では,Fyze, Diffuse, Decode (FDD)について紹介する。FDDは,基礎となる幾何学的構造を保ちながら,事前学習した埋め込みを下流タスクに適用する,新しい拡散ベースのフレームワークである。
FDDは、凍結埋め込みの内在多様体に沿って教師付き信号を伝播し、埋め込み空間の幾何学的適応を可能にする。
抗微生物ペプチドの設計に適用すると、FDDは特性予測、検索、潜時空間補間をサポートする低次元、予測、解釈可能な表現をもたらす。
関連論文リスト
- Latent Iterative Refinement Flow: A Geometric-Constrained Approach for Few-Shot Generation [5.062604189239418]
少ショット生成に対する新しいアプローチであるLIRF(Latent Iterative Refinement Flow)を導入する。
LIRFは,新しいtextbfmanifold保存損失をトレーニングしたオートエンコーダを用いて,安定な潜伏空間を確立する。
このサイクルの中で、候補サンプルは幾何的テクスチャ補正演算子によって洗練される。
論文 参考訳(メタデータ) (2025-09-24T08:57:21Z) - Diffusion Bridge Variational Inference for Deep Gaussian Processes [31.082191748525137]
拡散橋変分推論(DBVI)は拡散変分推論(DDVI)の原理的拡張である
DBVIは学習可能なデータ依存の初期分布から逆拡散を開始する。
DDVIや他の変分ベースラインを予測精度、収束速度、後部品質で一貫して上回る。
論文 参考訳(メタデータ) (2025-09-23T14:36:47Z) - GeoAda: Efficiently Finetune Geometric Diffusion Models with Equivariant Adapters [61.51810815162003]
制御された生成タスクに対してフレキシブルかつパラメータ効率の良い微調整を可能にするSE(3)-equivariant Adapter framework(GeoAda)を提案する。
GeoAdaは、過剰適合と破滅的な忘れを緩和しながら、モデルの幾何的一貫性を保っている。
我々は、フレーム制御、グローバル制御、サブグラフ制御、広範囲のアプリケーションドメインを含む多様な幾何学的制御タイプにまたがるGeoAdaの適用性を実証する。
論文 参考訳(メタデータ) (2025-07-02T18:44:03Z) - SeqPE: Transformer with Sequential Position Encoding [76.22159277300891]
SeqPEは、各$n$次元位置指数をシンボルシーケンスとして表現し、軽量なシーケンシャル位置エンコーダを用いて埋め込みを学習する。
言語モデリング、長文質問応答、および2次元画像分類による実験により、SeqPEはパープレキシティ、正確なマッチング(EM)、精度の強いベースラインを超えるだけでなく、手作業によるアーキテクチャ再設計を必要とせず、多次元入力へのシームレスな一般化を可能にする。
論文 参考訳(メタデータ) (2025-06-16T09:16:40Z) - Geometry-Editable and Appearance-Preserving Object Compositon [67.98806888489385]
汎用オブジェクト合成(GOC)は、対象オブジェクトを望まれる幾何学的性質を持つ背景シーンにシームレスに統合することを目的としている。
近年のアプローチは意味的埋め込みを導出し、それらを高度な拡散モデルに統合し、幾何学的に編集可能な生成を可能にする。
本稿では,まずセマンティックな埋め込みを活用して,所望の幾何学的変換を暗黙的にキャプチャするDistangled Geometry-editable and Outearance-Preserving Diffusionモデルを提案する。
論文 参考訳(メタデータ) (2025-05-27T09:05:28Z) - GIFD: A Generative Gradient Inversion Method with Feature Domain
Optimization [52.55628139825667]
Federated Learning(FL)は、クライアントのプライバシを保護するための有望な分散機械学習フレームワークとして登場した。
近年の研究では、事前学習された生成逆ネットワーク(GAN)を事前知識として活用することにより、攻撃者が共有勾配を逆転し、FLシステムに対する機密データを回復できることが示されている。
textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD)を提案する。
論文 参考訳(メタデータ) (2023-08-09T04:34:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。