論文の概要: BioShield: A Context-Aware Firewall for Securing Bio-LLMs

• arxiv url: http://arxiv.org/abs/2603.22612v1
• Date: Mon, 23 Mar 2026 22:18:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.20532
• Title: BioShield: A Context-Aware Firewall for Securing Bio-LLMs
• Title（参考訳）: BioShield:バイオLLMをセキュアにするためのコンテキスト対応ファイアウォール
• Abstract要約: バイオLLMは、正当な研究クエリーのガイドの下で有害な生物学的洞察を生成するために利用することができる。 静的プロンプトフィルタリングのような既存のセーフガードは、Bio-LLMが動的生物学的およびアプリケーション層システムに埋め込まれている場合、不十分である。 両用攻撃に対してBio LLMを保護するために設計された,コンテキスト対応のアプリケーションレベルのファイアウォールであるBioShieldを提案する。
• 参考スコア（独自算出の注目度）: 1.2694660563081597
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The rapid advancement of Large Language Models (LLMs) in biological research has significantly lowered the barrier to accessing complex bioinformatics knowledge, ex perimental design strategies, and analytical workflows. While these capabilities accelerate innovation, they also introduce serious dual-use risks, as Bio-LLMs can be exploited to generate harmful biological insights under the guise of legitimate research queries. Existing safeguards, such as static prompt filtering and policy-based restrictions, are insufficient when LLMs are embedded within dynamic biological workflows and application-layer systems. In this paper, we present BioShield, a context-aware application-level firewall designed to secure Bio LLMs against dual-use attacks. At the core of BioShield is a domain-specific prompt scanner that performs contextual risk analysis of incoming queries. The scanner leverages a harmful scoring mechanism tailored to biological dual-use threat cat egories to identify prompts that attempt to conceal malicious intent within seemingly benign research requests. Queries ex ceeding a predefined risk threshold are blocked before reaching the model, effectively preventing unsafe knowledge generation at the source. In addition to pre-generation protection, BioShield deploys a post-generation output verification module that inspects model responses for actionable or weaponizable biological content. If an unsafe response is detected, the system triggers controlled regeneration under strengthened safety constraints. By combining contextual prompt scanning with response-level validation, BioShield provides a layered defense framework specifically designed for bio-domain LLM deployments. Our framework advances cyberbiosecurity by formalizing dual-use threat detection in Bio-LLMs and proposing a structured mitigation strategy for secure, responsible AI driven biological research.
• Abstract（参考訳）: 生物学的研究における大規模言語モデル(LLM)の急速な進歩は、複雑なバイオインフォマティクス知識、外周設計戦略、分析ワークフローへのアクセス障壁を大幅に低下させた。 これらの能力がイノベーションを加速する一方で、Bio-LLMは正当な研究クエリのガイドの下で有害な生物学的洞察を生成するために利用されるため、深刻な二重利用リスクももたらされる。 静的プロンプトフィルタリングやポリシーベースの制約といった既存のセーフガードは、LCMが動的生物学的ワークフローやアプリケーション層システムに組み込まれている場合、不十分である。 本稿では,Bio LLMをデュアルユース攻撃に対して保護するために設計された,コンテキスト対応のアプリケーションレベルのファイアウォールであるBioShieldを提案する。 BioShieldのコアはドメイン固有のプロンプトスキャナで、入ってくるクエリのコンテキスト的リスク分析を実行する。 このスキャナーは、生物学的な二重使用の脅威猫のエゴリーに合わせた有害なスコアリング機構を利用して、明らかに良質な研究要求の中で悪意のある意図を隠そうとするプロンプトを識別する。 事前定義されたリスク閾値を除外したクエリは、モデルに到達する前にブロックされ、ソースでの安全でない知識生成を効果的に防止する。 プレジェネレーション保護に加えて、BioShieldはポストジェネレーション出力検証モジュールをデプロイし、実行可能または兵器化可能な生物学的内容に対するモデル応答を検査する。 安全でない応答が検出されると、システムは強化された安全制約の下で制御された再生をトリガーする。 文脈的プロンプトスキャンと応答レベルのバリデーションを組み合わせることで、BioShieldは、バイオドメインLLMデプロイメント用に特別に設計されたレイヤ化された防御フレームワークを提供する。 我々のフレームワークは、バイオLLMの二重利用脅威検出を形式化し、セキュアで責任あるAI駆動生物研究のための構造化緩和戦略を提案することにより、サイバーバイオセキュリティを向上する。

関連論文リスト

• Artificial intelligence and biosecurity: capabilities, threat pathways, and defense-in-depth governance [0.0]
  汎用的な大規模言語モデルは、科学的情報を取得し、統合することができる。 生物基盤モデルは、タンパク質、遺伝子、ゲノムスケールの配列を予測、最適化、生成することができる。 自動実験室は設計-ビルド-テスト-学習サイクルを部分的に閉じることができる。
  論文  参考訳（メタデータ） (2026-09-14T18:44:00Z)
• A Blind Spot in Alignment: Quantifying Biosecurity Risks in Large Language Models [24.33428502712115]
  大きな言語モデル(LLM)は生物学的研究を加速しているが、この能力は重要なバイオセキュリティの脅威をもたらす。 現在の安全性評価は自然言語で行われており、モデル生成アミノ酸配列が生物学的ジベリッシュかどうかを判断できない。 LLMのより厳密なバイオセキュリティ評価を支援するために,SPIKE-BenchとBioSafe-Guardをリリースする。
  論文  参考訳（メタデータ） (2026-08-03T03:51:19Z)
• An Early Warning of Emerging Biosecurity Risks in Frontier LLMs [62.01705276160883]
  Intern-BioBreakerは、特殊な生体赤チームモデルであり、計算と物理を統合したフレームワークである。 このフレームワーク内では、Intern-BioBreakerがターゲットのjailbreakプロンプトを生成して、アライメントされたモデルを誘導して運用ガイダンスを提供することができるかどうかをテストする。 本評価では,テキストレベルの保護と,有能な科学モデルによるリスクとのギャップを明らかにする。
  論文  参考訳（メタデータ） (2026-07-20T15:26:23Z)
• Large Language Models in Misinformation Ecosystems: Misuse, Defense, and Vulnerability [65.56750741053266]
  大規模言語モデル(LLM)は、誤情報をコンテンツ中心の問題からより広範なエコシステムレベルのセキュリティ課題に転換した。 本稿では,これらのリスクと防御を統一する役割層フレームワークを提案する。 この役割はLLMを攻撃者、ディフェンダー、検証システムの脆弱なコンポーネントとして特徴づけ、層次元はコンテンツ、社会的コンテキスト、エビデンス環境、検証をカバーしている。
  論文  参考訳（メタデータ） (2026-07-11T17:04:17Z)
• GAS-Leak-LLM: Genetic Algorithm-Based Suffix Optimization for Black-Box LLM Jailbreaking [1.4804984980847007]
  大規模言語モデル(LLM)は、AIが支配する技術エコシステムにおける重要なコンポーネントである。 LLMは敵の操作に弱いままであり、特にジェイルブレイクや即発注射技術を通じてである。 そこで我々はGAS-Leak-LLMを,対人接尾辞を体系的に進化させ,安全性の制約を回避した遺伝的アルゴリズムに基づく新しい脱獄攻撃として提案する。
  論文  参考訳（メタデータ） (2026-06-14T12:41:21Z)
• Unlocking Biological Workflows for Robust Protein-Text Question Answering: A Dual-Dimensional RAG Framework [60.82334952881798]
  タンパク-テキスト質問回答(QA)は、自然言語による生物学的配列の解釈に不可欠である。 2D-ProteinRAGは,大規模言語モデル(LLM)を金本位生物研究ワークフロー内で動作させる新しいフレームワークである。 本研究では,2D-Proteinが常に最先端の性能を達成し,微調整ベースラインや他のRAG法よりも優れた性能を発揮することを示す。
  論文  参考訳（メタデータ） (2026-05-17T05:03:24Z)
• Just Ask: Curious Code Agents Reveal System Prompts in Frontier LLMs [65.6660735371212]
  textbftextscJustAskは,インタラクションのみで効果的な抽出戦略を自律的に発見するフレームワークである。 これは、アッパー信頼境界に基づく戦略選択と、原子プローブと高レベルのオーケストレーションにまたがる階層的なスキル空間を用いて、オンライン探索問題として抽出を定式化する。 この結果から,現代のエージェントシステムにおいて,システムプロンプトは致命的ではあるがほぼ無防備な攻撃面であることがわかった。
  論文  参考訳（メタデータ） (2026-01-29T03:53:25Z)
• INFA-Guard: Mitigating Malicious Propagation via Infection-Aware Safeguarding in LLM-Based Multi-Agent Systems [70.37731999972785]
  本稿では,感染防止対策の枠組みであるINFA-Guardを提案する。 修復中、INFA-Guardは攻撃者を置き換え、感染した者を修復し、トポロジカルな整合性を維持しながら悪意のある伝播を避ける。
  論文  参考訳（メタデータ） (2026-01-21T05:27:08Z)
• Biothreat Benchmark Generation Framework for Evaluating Frontier AI Models I: The Task-Query Architecture [0.38186458149494623]
  本稿では,Biothreat Benchmark Generation (BBG)フレームワークの最初のコンポーネントについて述べる。 BBGアプローチは、既存のAIモデルと将来のAIモデルのバイオセキュリティリスク上昇と一般的な害ポテンシャルを、モデル開発者と評価者が確実に測定し評価するのに役立つように設計されている。 パイロットとして、BBGは細菌の生物学的脅威にのみ対処するために開発された。
  論文  参考訳（メタデータ） (2025-12-09T00:16:44Z)
• Generative AI for Biosciences: Emerging Threats and Roadmap to Biosecurity [56.331312963880215]
  生物科学における生成人工知能(GenAI)は、バイオテクノロジー、医学、合成生物学を変革している。 この概要は、バイオサイエンスにおけるGenAIの現状と、脱獄攻撃やプライバシーリスクから、自律的なAIエージェントによって引き起こされるデュアルユースな課題まで、出現する脅威ベクターの概要を概説する。 我々は、厳格なデータフィルタリング、開発中の倫理原則との整合性、有害な要求をブロックするためのリアルタイム監視など、GenAIの安全性に対する多層的なアプローチを提唱する。
  論文  参考訳（メタデータ） (2025-10-13T00:24:41Z)
• MalGEN: A Generative Agent Framework for Modeling Malicious Software in Cybersecurity [0.0]
  MalGENは、マルウェアサンプルを生成するために敵の振る舞いをシミュレートするマルチエージェントフレームワークである。 MalGENを用いて10種類の新規ウイルスサンプルを合成し,抗ウイルスおよび行動検出エンジンに対して評価した。 このフレームワークはデータの不足に対処し、厳格なテストを可能にし、弾力性と将来的な検出戦略の開発をサポートする。
  論文  参考訳（メタデータ） (2025-06-09T09:32:03Z)
• Risks of AI Scientists: Prioritizing Safeguarding Over Autonomy [65.77763092833348]
  この視点は、AI科学者の脆弱性を調べ、その誤用に関連する潜在的なリスクに光を当てる。 我々は、ユーザ意図、特定の科学的領域、およびそれらが外部環境に与える影響を考慮に入れている。 本稿では,人間規制,エージェントアライメント,環境フィードバックの理解を含む三段階的枠組みを提案する。
  論文  参考訳（メタデータ） (2024-02-06T18:54:07Z)
• Artificial intelligence and biological misuse: Differentiating risks of language models and biological design tools [0.0]
  本稿では,大規模言語モデル(LLM)と生物設計ツール(BDT)の2種類のAIツールを区別する。
  論文  参考訳（メタデータ） (2023-06-24T12:48:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。