論文の概要: Poisoning the corpora of protein design systems during pre-training and retrieval

• arxiv url: http://arxiv.org/abs/2610.21200v1
• Date: Thu, 15 Oct 2026 04:00:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:16.168824
• Title: Poisoning the corpora of protein design systems during pre-training and retrieval
• Title（参考訳）: タンパク質設計システムの事前学習と検索におけるコーパスの排除
• Abstract要約: タンパク質設計システムに対する2つのデータのみの毒殺攻撃について検討する。 はじめに3億のパラメータのProtGPT2とProGen2を事前訓練し、有毒なタンパク質配列を導入した。 第2の攻撃では、重みを変更したりデコードしたりすることなく、検索コーパスシステムにレコードを挿入した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Protein foundation models increasingly support the generation of novel biological sequences, yet their reliance on large public datasets creates opportunities for adversarial manipulation of the material they learn from and retrieve. We investigate two data-only poisoning attacks against protein design systems, targeting the pre-training corpus of autoregressive protein language models and the retrieval corpus of a text-guided protein generator. For the first, we pre-trained ProtGPT2 and ProGen2 variants of 300 million parameters, introducing poisoned protein sequences containing one of two triggers followed by one of three payloads. Across all poisoned runs, both architectures acquired highly reliable trigger-dependent generation under uniform and ramped poisoning schedules. Under ramped exposure, the earliest majority activation occurred after only 200 contaminated examples, while for the uniform schedule earliest activation occurred around 5000 poisoned samples. For the second attack, we inserted records into a retrieval corpus system without modifying its weights or decoding procedure. A single query-aware record captured a top-16 retrieval position for 58\% of templated requests and 97\% of free-text requests. Conditional on successful poisoned retrieval, 62\% of requests produced altered sequences, while 19-21% acquired the inserted domain by profile-HMM homology. A universal query-unaware attack using 1,500 records also achieved substantial retrieval capture and domain transfer. Together, these findings demonstrate that adversarial protein sequence contributions can establish persistent, sequence-specific behaviour during pre-training or redirect protein generation at inference, while leaving ordinary model behaviour largely preserved. Our work establishes the integrity and biological provenance of protein sequence data as critical safeguards for generative protein design systems.
• Abstract（参考訳）: タンパク質基盤モデルは、新しい生物学的配列の生成をますます支援しているが、大規模な公開データセットへの依存は、彼らが学習し、取り出す物質を敵対的に操作する機会を生み出している。 本稿では, 自己回帰型タンパク質言語モデルの事前学習コーパスと, テキスト誘導型タンパク質生成器の検索コーパスを対象とする, タンパク質設計システムに対する2つのデータのみ中毒攻撃について検討する。 はじめに3億のパラメータのProtGPT2とProGen2を事前訓練し、2つのトリガのうちの1つを含む有毒なタンパク質配列を導入し、3つのペイロードのうちの1つを紹介した。 すべての有毒な走行で、どちらのアーキテクチャも、一様で高信頼のトリガー依存の世代を、中毒のスケジュールで獲得した。 曝露下では、汚染されたサンプルがわずか200個あった後、最も早期に活性化され、均一なスケジュールでは5000個の有毒サンプルが早期に活性化された。 第2の攻撃では、重みを変更したりデコードしたりすることなく、検索コーパスシステムにレコードを挿入した。 単一のクエリ対応レコードは、テンプレートリクエストの58\%とフリーテキストリクエストの97\%で、トップ16検索位置をキャプチャした。 有毒な検索を成功させる条件として、62\%のリクエストが変化した配列を生成し、19-21%がプロファイルHMMホモロジーによって挿入されたドメインを取得した。 1500レコードを使用した普遍的なクエリ非認識攻撃も、実質的な検索とドメイン転送を実現した。 これらの結果から, 逆行性タンパク質配列のコントリビューションは, 推論におけるタンパク質生成の事前訓練やリダイレクトにおいて永続的, 配列特異的な振る舞いを確立でき, 通常のモデル行動はほとんど保存されていることが示唆された。 本研究は, タンパク質配列データの完全性と生物学的証明を, 生成タンパク質設計システムにとって重要な安全策として確立するものである。

関連論文リスト

• S$^2$Drug: Bridging Protein Sequence and 3D Structure in Contrastive Representation Learning for Virtual Screening [72.89086338778098]
  タンパク質リガンドコントラスト表現学習のための2段階フレームワークを提案する。 最初の段階では、ESM2ベースのバックボーンを用いて、ChemBLでタンパク質配列を事前訓練する。 第2段階では、残基レベルゲーティングモジュールを介して配列と構造情報を融合することでPDBBindを微調整する。 この補助的なタスクは、モデルを誘導し、タンパク質配列内の結合残基を正確に局在させ、それらの3次元空間配列をキャプチャする。
  論文  参考訳（メタデータ） (2025-11-10T11:57:47Z)
• Distilled Protein Backbone Generation [59.63474232035653]
  拡散およびフローベースの生成モデルは、デノボタンパク質の設計に前例のない能力を提供する。 これらのモデルは生成速度によって制限され、しばしば逆拡散過程において数百の反復的なステップを必要とする。 本研究は,Score Identity Distillation (SiD) を用いて,数段階のタンパク質バックボーン生成装置の訓練を行う方法を示す。
  論文  参考訳（メタデータ） (2025-10-03T15:25:08Z)
• xTrimoPGLM: Unified 100B-Scale Pre-trained Transformer for Deciphering the Language of Protein [74.64101864289572]
  本稿では,タンパク質の理解と生成を同時に行うために,統一されたタンパク質言語モデル xTrimoPGLM を提案する。 xTrimoPGLMは、4つのカテゴリにわたる18のタンパク質理解ベンチマークにおいて、他の高度なベースラインを著しく上回っている。 また、自然の原理に従ってデノボタンパク質配列を生成でき、微調整を監督した後にプログラム可能な生成を行うことができる。
  論文  参考訳（メタデータ） (2024-01-11T15:03:17Z)
• A Text-guided Protein Design Framework [106.79061950107922]
  本稿では,タンパク質設計のためのテキスト記述を利用するマルチモーダルフレームワークであるProteinDTを提案する。 タンパク質DTは以下の3つのステップから構成される:2つのモダリティの表現を整列するProteinCLAP、テキストモダリティからタンパク質表現を生成するファシリテーター、表現からタンパク質配列を生成するデコーダ。 本研究では,(1)テキスト誘導タンパク質生成における90%以上の精度,(2)ゼロショットテキスト誘導タンパク質編集タスクにおけるベストヒット率,(3)タンパク質特性予測ベンチマーク6項目中4項目における優れた性能の3つの課題に対するProteinDTの有効性を定量的に検証した。
  論文  参考訳（メタデータ） (2023-02-09T12:59:16Z)
• On the Robustness of AlphaFold: A COVID-19 Case Study [16.564151738086434]
  高い精度にもかかわらず、AlphaFoldはそのような堅牢性を示していないことを実証する。 これにより、予測されたタンパク質構造が信頼される範囲を検知し定量化することが困難になる。
  論文  参考訳（メタデータ） (2023-01-10T17:31:39Z)
• Reprogramming Pretrained Language Models for Protein Sequence Representation Learning [68.75392232599654]
  エンドツーエンドの表現学習フレームワークである辞書学習(R2DL)による表現学習を提案する。 R2DLは、タンパク質配列の埋め込みを学ぶために、事前訓練された英語モデルを再プログラムする。 我々のモデルは,事前訓練および標準教師付き手法によって設定されたベースラインに対して,最大105ドルの精度でデータ効率を大幅に向上させることができる。
  論文  参考訳（メタデータ） (2023-01-05T15:55:18Z)
• ProGen2: Exploring the Boundaries of Protein Language Models [15.82416400246896]
  タンパク質言語モデルであるProGen2を導入し、最大6.4Bのパラメータに拡張する。 ProGen2モデルは、観察された進化系列の分布を捉える際に、最先端の性能を示す。 モデルのサイズが大きくなり, タンパク質配列の数が多くなりつつあるため, タンパク質配列モデルに提供されるデータ分布に重点を置く必要があることが示唆された。
  論文  参考訳（メタデータ） (2022-06-27T17:55:02Z)
• Pre-training Protein Language Models with Label-Agnostic Binding Pairs Enhances Performance in Downstream Tasks [1.452875650827562]
  タンパク質配列の1%未満は構造的にも機能的にも注釈付けされている。 本稿では,結合タンパク質配列と非結合タンパク質配列を混合したRoBERTaモデルを提案する。 トランスフォーマーの注意機構は,タンパク質結合部位の発見に寄与することが示唆された。
  論文  参考訳（メタデータ） (2020-12-05T17:37:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。