論文の概要: BioShield: A Context-Aware Firewall for Securing Bio-LLMs

• arxiv url: http://arxiv.org/abs/2603.22612v1
• Date: Mon, 23 Mar 2026 22:18:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.20532
• Title: BioShield: A Context-Aware Firewall for Securing Bio-LLMs
• Title（参考訳）: BioShield:バイオLLMをセキュアにするためのコンテキスト対応ファイアウォール
• Authors: Protiva Das, Sovon Chakraborty, Sidhant Narula, Lucas Potter, Xavier-Lewis Palmer, Pratip Rana, Daniel Takabi, Mohammad Ghasemigol,
• Abstract要約: バイオLLMは、正当な研究クエリーのガイドの下で有害な生物学的洞察を生成するために利用することができる。 静的プロンプトフィルタリングのような既存のセーフガードは、Bio-LLMが動的生物学的およびアプリケーション層システムに埋め込まれている場合、不十分である。 両用攻撃に対してBio LLMを保護するために設計された,コンテキスト対応のアプリケーションレベルのファイアウォールであるBioShieldを提案する。
• 参考スコア（独自算出の注目度）: 1.2694660563081597
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The rapid advancement of Large Language Models (LLMs) in biological research has significantly lowered the barrier to accessing complex bioinformatics knowledge, ex perimental design strategies, and analytical workflows. While these capabilities accelerate innovation, they also introduce serious dual-use risks, as Bio-LLMs can be exploited to generate harmful biological insights under the guise of legitimate research queries. Existing safeguards, such as static prompt filtering and policy-based restrictions, are insufficient when LLMs are embedded within dynamic biological workflows and application-layer systems. In this paper, we present BioShield, a context-aware application-level firewall designed to secure Bio LLMs against dual-use attacks. At the core of BioShield is a domain-specific prompt scanner that performs contextual risk analysis of incoming queries. The scanner leverages a harmful scoring mechanism tailored to biological dual-use threat cat egories to identify prompts that attempt to conceal malicious intent within seemingly benign research requests. Queries ex ceeding a predefined risk threshold are blocked before reaching the model, effectively preventing unsafe knowledge generation at the source. In addition to pre-generation protection, BioShield deploys a post-generation output verification module that inspects model responses for actionable or weaponizable biological content. If an unsafe response is detected, the system triggers controlled regeneration under strengthened safety constraints. By combining contextual prompt scanning with response-level validation, BioShield provides a layered defense framework specifically designed for bio-domain LLM deployments. Our framework advances cyberbiosecurity by formalizing dual-use threat detection in Bio-LLMs and proposing a structured mitigation strategy for secure, responsible AI driven biological research.
• Abstract（参考訳）: 生物学的研究における大規模言語モデル(LLM)の急速な進歩は、複雑なバイオインフォマティクス知識、外周設計戦略、分析ワークフローへのアクセス障壁を大幅に低下させた。 これらの能力がイノベーションを加速する一方で、Bio-LLMは正当な研究クエリのガイドの下で有害な生物学的洞察を生成するために利用されるため、深刻な二重利用リスクももたらされる。 静的プロンプトフィルタリングやポリシーベースの制約といった既存のセーフガードは、LCMが動的生物学的ワークフローやアプリケーション層システムに組み込まれている場合、不十分である。 本稿では,Bio LLMをデュアルユース攻撃に対して保護するために設計された,コンテキスト対応のアプリケーションレベルのファイアウォールであるBioShieldを提案する。 BioShieldのコアはドメイン固有のプロンプトスキャナで、入ってくるクエリのコンテキスト的リスク分析を実行する。 このスキャナーは、生物学的な二重使用の脅威猫のエゴリーに合わせた有害なスコアリング機構を利用して、明らかに良質な研究要求の中で悪意のある意図を隠そうとするプロンプトを識別する。 事前定義されたリスク閾値を除外したクエリは、モデルに到達する前にブロックされ、ソースでの安全でない知識生成を効果的に防止する。 プレジェネレーション保護に加えて、BioShieldはポストジェネレーション出力検証モジュールをデプロイし、実行可能または兵器化可能な生物学的内容に対するモデル応答を検査する。 安全でない応答が検出されると、システムは強化された安全制約の下で制御された再生をトリガーする。 文脈的プロンプトスキャンと応答レベルのバリデーションを組み合わせることで、BioShieldは、バイオドメインLLMデプロイメント用に特別に設計されたレイヤ化された防御フレームワークを提供する。 我々のフレームワークは、バイオLLMの二重利用脅威検出を形式化し、セキュアで責任あるAI駆動生物研究のための構造化緩和戦略を提案することにより、サイバーバイオセキュリティを向上する。

関連論文リスト

• INFA-Guard: Mitigating Malicious Propagation via Infection-Aware Safeguarding in LLM-Based Multi-Agent Systems [70.37731999972785]
  本稿では,感染防止対策の枠組みであるINFA-Guardを提案する。 修復中、INFA-Guardは攻撃者を置き換え、感染した者を修復し、トポロジカルな整合性を維持しながら悪意のある伝播を避ける。
  論文  参考訳（メタデータ） (2026-01-21T05:27:08Z)
• Biothreat Benchmark Generation Framework for Evaluating Frontier AI Models I: The Task-Query Architecture [0.38186458149494623]
  本稿では,Biothreat Benchmark Generation (BBG)フレームワークの最初のコンポーネントについて述べる。 BBGアプローチは、既存のAIモデルと将来のAIモデルのバイオセキュリティリスク上昇と一般的な害ポテンシャルを、モデル開発者と評価者が確実に測定し評価するのに役立つように設計されている。 パイロットとして、BBGは細菌の生物学的脅威にのみ対処するために開発された。
  論文  参考訳（メタデータ） (2025-12-09T00:16:44Z)
• Generative AI for Biosciences: Emerging Threats and Roadmap to Biosecurity [56.331312963880215]
  生物科学における生成人工知能(GenAI)は、バイオテクノロジー、医学、合成生物学を変革している。 この概要は、バイオサイエンスにおけるGenAIの現状と、脱獄攻撃やプライバシーリスクから、自律的なAIエージェントによって引き起こされるデュアルユースな課題まで、出現する脅威ベクターの概要を概説する。 我々は、厳格なデータフィルタリング、開発中の倫理原則との整合性、有害な要求をブロックするためのリアルタイム監視など、GenAIの安全性に対する多層的なアプローチを提唱する。
  論文  参考訳（メタデータ） (2025-10-13T00:24:41Z)
• MalGEN: A Generative Agent Framework for Modeling Malicious Software in Cybersecurity [0.0]
  MalGENは、マルウェアサンプルを生成するために敵の振る舞いをシミュレートするマルチエージェントフレームワークである。 MalGENを用いて10種類の新規ウイルスサンプルを合成し,抗ウイルスおよび行動検出エンジンに対して評価した。 このフレームワークはデータの不足に対処し、厳格なテストを可能にし、弾力性と将来的な検出戦略の開発をサポートする。
  論文  参考訳（メタデータ） (2025-06-09T09:32:03Z)
• Risks of AI Scientists: Prioritizing Safeguarding Over Autonomy [65.77763092833348]
  この視点は、AI科学者の脆弱性を調べ、その誤用に関連する潜在的なリスクに光を当てる。 我々は、ユーザ意図、特定の科学的領域、およびそれらが外部環境に与える影響を考慮に入れている。 本稿では,人間規制,エージェントアライメント,環境フィードバックの理解を含む三段階的枠組みを提案する。
  論文  参考訳（メタデータ） (2024-02-06T18:54:07Z)
• Artificial intelligence and biological misuse: Differentiating risks of language models and biological design tools [0.0]
  本稿では,大規模言語モデル(LLM)と生物設計ツール(BDT)の2種類のAIツールを区別する。
  論文  参考訳（メタデータ） (2023-06-24T12:48:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。