論文の概要: Training-Data Extraction from Genomic Language Models

• arxiv url: http://arxiv.org/abs/2610.15396v1
• Date: Sun, 11 Oct 2026 06:50:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 01:19:14.282816
• Title: Training-Data Extraction from Genomic Language Models
• Title（参考訳）: ゲノム言語モデルからの学習データ抽出
• Abstract要約: ゲノム言語モデルは短い接頭辞から長いヌクレオチド連続を生成する。 繰り返し世代からなる収束群を選択するEvo 2に対して出力のみのブラックボックス攻撃を示す。 その結果、長いトレーニングシーケンスセグメントを回復するための実用的な出力のみの信号として、繰り返したヌクレオチド世代間の収束を確立した。
• 参考スコア（独自算出の注目度）: 24.98553115897866
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Genomic language models generate long nucleotide continuations from short prefixes, exposing a direct route for studying training-sequence extraction through the generation interface. We present an output-only black-box attack on Evo 2 that selects convergent groups of repeated generations without gradients, token likelihoods, or training-corpus access during candidate selection. Recovered content is then scored by an evaluator combining aligned length, nucleotide identity, match multiplicity, and sequence complexity. Across 304 runs on Evo 2 7B with bacteriophage and plasmid prefixes, the attack yields 888 candidate clusters, of which 85 match training segments of at least 500 bp, giving a cluster-level attack success rate of 9.57%. Final filtering retains 22 uniquely matched extraction events at the 500-bp threshold and 15 at 1,000 bp, covering 14 and 7 distinct training-sequence regions, respectively. Within-category source-homology screening retains 11 of the 22 events at a 99% exclusion threshold and four at 98%, with the latter mapping to two reference regions. The results establish convergence among repeated nucleotide generations as a practical output-only signal for recovering long training-sequence segments and characterize how recovery depends on prefix length, cluster size, perplexity, early stopping, and sequence domains.
• Abstract（参考訳）: ゲノム言語モデルは、短い接頭辞から長いヌクレオチド連続を生成する。 Evo 2 に対して出力のみのブラックボックス攻撃を行い、候補選択中に勾配、トークン確率、トレーニングコーパスアクセスを伴わずに繰り返し発生する収束群を選択する。 得られた内容は、整列長、ヌクレオチドの同一性、重複度、シーケンスの複雑さを組み合わせた評価器によって評価される。 304を超える攻撃は、バクテリオファージとプラスミドプレフィックスを持つEvo 2 7B上で実行され、888個の候補クラスターが生成され、85個のトレーニングセグメントは少なくとも500 bpと一致し、クラスターレベルの攻撃成功率は9.57%である。 最終フィルタリングは、500bpのしきい値で22、1000bpで15、それぞれ14と7の異なる訓練系列領域でそれぞれ一致した抽出イベントを保持する。 カテゴリ内のソース・ホモロジースクリーニングでは、22件のうち11件が99%の排除閾値で、4件が98%で、後者が2つの参照領域にマッピングされている。 その結果、長いトレーニングシーケンスセグメントを復元するための実用的な出力のみ信号として繰り返しヌクレオチド世代間の収束を確立し、リカバリがプレフィックス長、クラスタサイズ、複雑度、早期停止およびシーケンスドメインに依存するかを特徴付ける。

関連論文リスト

• Bison: Cross-Dataset Learning for Unseen-Compound Perturbation Prediction [60.9298168217299]
  私たちはChem-PerturBridgeを使って、8つのデータセットを16,771の化合物でベンチマークします。 高総合的な反応合意は、薬物特有の差異の弱い予測と共存することができる。 8つのデータセットで共同でトレーニングされた1つのバイソンモデルでは、Pearsonの相関が最大となる。
  論文  参考訳（メタデータ） (2026-09-26T10:58:44Z)
• Open ultrasound foundation model for robust segmentation and clinical measurement across heterogeneous settings [66.3653308198376]
  SonoCorpusは、24の臨床応用と17の国にまたがる53のパブリックデータセットから、456,963のイメージと1,626,085のエキスパートマスクを統合するオープンリソースである。 SonoBaseは、事前にトレーニングされたインタラクティブセグメンテーション基盤モデルである。
  論文  参考訳（メタデータ） (2026-09-16T15:34:21Z)
• Coarse composition suffices: tabular in-context learning for multi-activity antimicrobial peptide profiling [2.571440349338848]
  単純なシーケンスのみのパイプラインは、マルチモーダルな構造条件のディープモデルにマッチし、超えられることを示す。 ESCAPE (82,359 peptides; 5 labels)では、ラベル・パワーセットのTabPFNモデルがmAP-5 = 77.8%を達成する。
  論文  参考訳（メタデータ） (2026-08-31T06:50:09Z)
• Token Budget Saturation and Mechanistic Early Detection of Reasoning Non-Convergence in Chain-of-Thought Models [1.4563514298965277]
  チェーン・オブ・シント推論モデルはバイモーダル収束パターンを示す。 世代は、(収束しない)トークン予算内で終了するか、(収束しない)結論に達することなくそれを排気する AIME 1983-2024では収束世代が90.3%、非収束世代は6.6%であり、全体の収束率は62.0%である。
  論文  参考訳（メタデータ） (2026-07-23T15:37:04Z)
• Output Vector Editing for Memorization Mitigation in Large Language Models [68.30351930772788]
  大規模な言語モデルは、トレーニングデータからシーケンスを記憶し、再現し、プライバシ、著作権、セキュリティリスクを生み出す。 既存のニューロンレベルの緩和方法は、ニューロンの活性化をゼロにすることで編集を等しくするが、活性化はニューロンが関与するかどうかのみを制御する。 記憶継続に責任を負うニューロンの小さな集合を探索する制約最適化編集である出力ベクトル編集を提案する。
  論文  参考訳（メタデータ） (2026-06-17T07:29:18Z)
• Hybrid Tokenization Strategy for DNA Language Model using Byte Pair Encoding and K-MER Methods [0.0]
  従来のk-merトークン化は、局所的なDNA配列構造を捉えるのに効果的であるが、しばしば課題に直面している。 選択したBPEトークンを600のBPEサイクルで生成し,ユニークな6merトークンと組み合わせることを提案する。 このハイブリッドアプローチにより、バランスの取れたコンテキスト対応の語彙が保証され、モデルがショートパターンとロングパターンの両方をキャプチャできる。
  論文  参考訳（メタデータ） (2025-07-24T16:45:23Z)
• Enhancing Downstream Analysis in Genome Sequencing: Species Classification While Basecalling [1.0017486177151396]
  本稿では,ヌクレオチド配列の決定と並行して,シークエンシング装置からの信号のプロファイリングを行う手法を提案する。 本稿では,共有層に対するモデル重みを組み合わせて,ベースコールと分類の損失を個別にバックプロモートする新たな損失戦略を提案する。 我々は最先端のベースコール精度を達成する一方、分類精度は最先端のバイナリ分類器の結果を超えている。
  論文  参考訳（メタデータ） (2025-04-09T17:30:43Z)
• HyenaDNA: Long-Range Genomic Sequence Modeling at Single Nucleotide Resolution [76.97231739317259]
  本稿では,ヒト参照ゲノム上に,最大100万個のトークンを単一ヌクレオチドレベルで有するゲノム基盤モデルであるHyenaDNAについて紹介する。 Nucleotide Transformerの微調整されたベンチマークでは、HyenaDNAが18のデータセットのうち12の最先端(SotA)に到達した。
  論文  参考訳（メタデータ） (2023-06-27T20:46:34Z)
• Semi-supervised Contrastive Learning with Similarity Co-calibration [72.38187308270135]
  SsCL(Semi-supervised Contrastive Learning)と呼ばれる新しいトレーニング戦略を提案する。 ssclは、自己教師付き学習におけるよく知られたコントラスト損失と、半教師付き学習におけるクロスエントロピー損失を組み合わせる。 SsCLはより差別的な表現を生じさせ,ショット学習に有益であることを示す。
  論文  参考訳（メタデータ） (2021-05-16T09:13:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。