論文の概要: Artificial intelligence and biosecurity: capabilities, threat pathways, and defense-in-depth governance
- arxiv url: http://arxiv.org/abs/2609.16213v1
- Date: Mon, 14 Sep 2026 18:44:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 14:56:08.178445
- Title: Artificial intelligence and biosecurity: capabilities, threat pathways, and defense-in-depth governance
- Title（参考訳）: 人工知能とバイオセキュリティ:能力、脅威経路、詳細な統治
- Abstract要約: 汎用的な大規模言語モデルは、科学的情報を取得し、統合することができる。
生物基盤モデルは、タンパク質、遺伝子、ゲノムスケールの配列を予測、最適化、生成することができる。
自動実験室は設計-ビルド-テスト-学習サイクルを部分的に閉じることができる。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Artificial intelligence is reshaping biological research across an increasingly connected digital-to-physical workflow. General-purpose large language models can retrieve and integrate scientific information, support experimental planning, and computational analysis; biological foundation models can predict, optimize, and generate proteins, genes, and genome-scale sequences; agentic systems can coordinate multistep research tasks; automated laboratories can partially close the design-build-test-learn cycle. These technologies could greatly benefit medicine, public health, and biotechnology. However, their biosecurity risk depends not only on what the AI can do, but also on who uses it, their expertise and intent, their access to laboratory tools and materials, and the safeguards in place. Current evidence shows that AI uplift exists but primarily affects digital rather than physical tasks. Frontier systems have exceeded expert baselines on in-silico, and screening-evasion benchmarks, whereas controlled wet-laboratory studies find that tacit knowledge and physical execution remain substantial barriers. This review describes the different biological threats from AI tool use, from information gathering and biological design to procurement, synthesis, testing, scale-up, and potential release. We further examine why alignment techniques for general-purpose models transfer poorly to biological ones, and the emerging role of interpretability in auditing whether hazardous capabilities are genuinely removed. We argue for defense-in-depth governance that links capability thresholds to proportionate responsibilities across the biological AI ecosystem, reducing high-consequence risk while preserving beneficial use.
- Abstract（参考訳）: 人工知能は、ますますつながったデジタルと物理のワークフローの中で、生物学的研究を再構築している。
汎用的な大規模言語モデルは、科学的情報を取得し、統合し、実験計画と計算分析をサポートし、生物学的基礎モデルはタンパク質、遺伝子、ゲノムスケールの配列を予測、最適化、生成することができる。
これらの技術は医療、公衆衛生、バイオテクノロジーに大きな恩恵をもたらす可能性がある。
しかし、彼らのバイオセキュリティのリスクは、AIができることだけでなく、誰がそれを使うか、専門知識と意図、実験器具や材料へのアクセス、そしてその場所にある安全対策にも依存する。
現在の証拠は、AIの上昇は存在するが、主に物理的なタスクよりもデジタルに影響を及ぼすことを示している。
フロンティアシステムは、サイリコのエキスパートベースラインを超え、スクリーニング回避ベンチマークを上回り、湿式実験では、暗黙の知識と物理的な実行が重大な障壁であることがわかった。
このレビューでは、情報収集や生物学的デザインから調達、合成、テスト、スケールアップ、潜在的なリリースに至るまで、AIツールの使用によるさまざまな生物学的脅威について説明する。
さらに, 汎用モデルにおけるアライメント技術が生物学的モデルに悪影響を及ぼす理由と, 有害能力を真に除去するかどうかの監査における解釈可能性の役割について検討する。
我々は、能力閾値をリンクし、生物学的AIエコシステム全体にわたる責任を比例させ、有益な使用を保ちながら、高頻度のリスクを低減する、詳細なガバナンスについて論じる。
関連論文リスト
- An Early Warning of Emerging Biosecurity Risks in Frontier LLMs [62.01705276160883]
Intern-BioBreakerは、特殊な生体赤チームモデルであり、計算と物理を統合したフレームワークである。
このフレームワーク内では、Intern-BioBreakerがターゲットのjailbreakプロンプトを生成して、アライメントされたモデルを誘導して運用ガイダンスを提供することができるかどうかをテストする。
本評価では,テキストレベルの保護と,有能な科学モデルによるリスクとのギャップを明らかにする。
論文 参考訳（メタデータ） (2026-07-20T15:26:23Z) - AI4X Roadmap: Artificial Intelligence for the advancement of scientific pursuit and its future directions [65.44445343399126]
我々は、生物学、化学、気候科学、数学、材料科学、物理学、自動運転研究所、非伝統的コンピューティングにまたがるAI可能な科学を考察する。
多様な信頼性のあるデータの必要性、伝達可能な電子構造と原子間モデル、AIシステムがエンドツーエンドの科学合成に統合される。
ドメイン全体にわたって、大規模な基礎モデル、アクティブラーニング、自動運転車研究所が、予測と検証の間のループを閉じる方法について強調する。
論文 参考訳（メタデータ） (2025-11-26T02:10:28Z) - AI Agents in Drug Discovery [1.9777700354742123]
エージェントAIシステムは、多様なバイオメディカルデータを統合し、タスクを実行し、ロボットプラットフォームを介して実験を行い、クローズドループで仮説を反復的に洗練することができる。
エージェントAIアーキテクチャの概念的および技術的概要は、ReAct、Reflection、Supervisor、Swarmシステムまで様々である。
文献合成,毒性予測,自動プロトコル生成,小分子合成,薬物再資源化,エンドツーエンド意思決定など,薬物発見の重要な段階にまたがる応用について解説する。
論文 参考訳（メタデータ） (2025-10-31T03:07:14Z) - Position: Intelligent Science Laboratory Requires the Integration of Cognitive and Embodied AI [98.19195693735487]
知的科学研究所(ISL)のパラダイムを提案する。
ISLは、認知と具体的知性を深く統合した多層クローズドループフレームワークである。
このようなシステムは、現在の科学的発見の限界を克服するために不可欠である、と我々は主張する。
論文 参考訳（メタデータ） (2025-06-24T13:31:44Z) - Scaling Laws in Scientific Discovery with AI and Robot Scientists [72.3420699173245]
自律的なジェネラリスト科学者(AGS)の概念は、エージェントAIとエンボディロボットを組み合わせて、研究ライフサイクル全体を自動化している。
AGSは科学的発見に必要な時間と資源を大幅に削減することを目指している。
これらの自律的なシステムが研究プロセスにますます統合されるにつれて、科学的な発見が新しいスケーリング法則に従うかもしれないという仮説を立てる。
論文 参考訳（メタデータ） (2025-03-28T14:00:27Z) - Strategic priorities for transformative progress in advancing biology with proteomics and artificial intelligence [54.14779179869007]
データ分析から新たな生物学的洞察に至るまで、AIがイノベーションを推進している重要な領域を強調します。
その中には、データ生成、共有、分析のためのAIフレンドリーなエコシステムの開発も含まれる。
論文 参考訳（メタデータ） (2025-02-21T13:20:33Z) - How to Build the Virtual Cell with Artificial Intelligence: Priorities and Opportunities [46.671834972945874]
仮想セル構築にAIの進歩を活用するというビジョンを提案する。
我々は、生物の普遍的な表現を含む、そのようなAI仮想セルの望ましい能力について議論する。
我々は、AI仮想細胞が新しい薬物標的を特定し、摂動に対する細胞反応を予測し、スケール仮説を探索する未来を想像する。
論文 参考訳（メタデータ） (2024-09-18T02:41:50Z) - Prioritizing High-Consequence Biological Capabilities in Evaluations of Artificial Intelligence Models [0.0]
AI評価モデルは、高頻度リスクへの対処を優先すべきである、と我々は主張する。
これらのリスクは、パンデミックなど、大衆に大規模な被害をもたらす可能性がある。
二重用途の生物学的リスクを特定し緩和する科学者の経験は、生物学的AIモデルを評価するための新しいアプローチに役立ちます。
論文 参考訳（メタデータ） (2024-05-25T16:29:17Z) - Empowering Biomedical Discovery with AI Agents [15.125735219811268]
我々は「AI科学者」を懐疑的な学習と推論が可能なシステムとして想定する。
バイオメディカルAIエージェントは、人間の創造性と専門知識と、大規模なデータセットを分析するAIの能力を組み合わせる。
AIエージェントは、仮想細胞シミュレーション、プログラム可能な表現型の制御、細胞回路の設計、新しい治療法の開発など、幅広い領域に影響を与える可能性がある。
論文 参考訳（メタデータ） (2024-04-03T16:08:01Z) - The whack-a-mole governance challenge for AI-enabled synthetic biology:
literature review and emerging frameworks [0.0]
AIによる合成生物学は、大きな可能性を秘めているが、バイオリスクも著しく増大している。
将来のAIによるバイオハザードの予防と緩和を可能にする早期警戒システムを実現するには、常に進化する必要がある。
生成AIによって実現されたチャットボットの最近の進歩は、高度な生物学的洞察が悪性個人や組織の手に入りやすいという懸念を復活させた。
論文 参考訳（メタデータ） (2024-02-01T03:53:13Z) - Artificial intelligence and biological misuse: Differentiating risks of
language models and biological design tools [0.0]
本稿では,大規模言語モデル(LLM)と生物設計ツール(BDT)の2種類のAIツールを区別する。
論文 参考訳（メタデータ） (2023-06-24T12:48:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。