論文の概要: Testing Large Language Model Agents on the Use of Biological Tools for Nucleic Acid Synthesis Screening Evasion

• arxiv url: http://arxiv.org/abs/2610.03852v1
• Date: Fri, 02 Oct 2026 17:03:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:46:45.203461
• Title: Testing Large Language Model Agents on the Use of Biological Tools for Nucleic Acid Synthesis Screening Evasion
• Title（参考訳）: 核酸合成スクリーニングのための生物ツールを用いた大規模言語モデルエージェントの試験
• Abstract要約: 報告は、大規模言語モデル(LLM)駆動型人工知能(AI)エージェントがAI対応生物学的ツール(BT)と対話する能力をテストする以前の取り組みの継続である。 このタスクはAIエージェントの潜在的な能力を評価し、様々な生物学的誤用シナリオを防ぐために設計された、重要な初期防御層の破滅を可能にする。
• 参考スコア（独自算出の注目度）: 0.30768531824000345
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: This report is a continuation of previous efforts to test the ability of large language model (LLM)-driven artificial intelligence (AI) agents to interface with AI-enabled biological tools (BTs). While rapid advancements in BTs in recent years have brought promise to accelerate scientific discovery, they also raise significant biosecurity concerns about potential misuse. The biosecurity community is particularly interested in the extent to which LLMs can lower technical barriers and assist non-expert users in accessing and operating BTs. Despite this interest, few evaluations have focused on LLM-BT interactions in the context of a defined threat model. To address this gap, this report describes a test of frontier LLM-driven AI Agents on their ability to use BTs to redesign peptides and proteins to evade nucleic acid synthesis screening measures. Highly relevant to biorisk, this task assesses a potential capability of AI agents that could enable a breach of a critical early defensive layer designed to prevent a multitude of biological misuse scenarios. The findings presented here intend to offer a foundation for biosecurity researchers and AI developers to conduct or further risk and capability assessments as these technologies progress.
• Abstract（参考訳）: この報告は、大規模言語モデル(LLM)駆動型人工知能(AI)エージェントが、AI対応生物学的ツール(BT)と対話する能力をテストするための以前の取り組みの継続である。 近年のBTの急速な進歩は、科学的発見の加速を約束する一方で、潜在的な誤用に関するバイオセキュリティの懸念も持ち上がっている。 バイオセキュリティコミュニティは、LLMが技術的障壁を減らし、BTへのアクセスと運用において非専門家のユーザを支援することができる範囲に特に関心を持っている。 この関心にもかかわらず、定義された脅威モデルの文脈におけるLLM-BT相互作用に焦点を当てた評価はほとんどない。 このギャップに対処するため、本報告では、BTを用いてペプチドやタンパク質を再設計し、核酸合成スクリーニング対策を回避するための、フロンティアLLM駆動型AIエージェントのテストについて述べる。 このタスクはバイオリスクに強く関係しているため、AIエージェントの潜在的な能力を評価する。 この調査結果は、バイオセキュリティ研究者やAI開発者が、これらの技術が進むにつれて、リスクや能力の評価を行うための基盤を提供することを目的としている。

関連論文リスト

• Can LLM Agents Select and Engage with Biological Tools? [0.29221691417926604]
  大規模言語モデル(LLM)エージェントは、非専門家による悪用に対する障壁を省くことができる。 AIが生物兵器開発経路をどのように変えるかの評価は、LLMエージェントがBTとどのように相互作用するかを調べる必要がある。 BT との相互作用の初期段階における LLM エージェントの能力評価について述べる。
  論文  参考訳（メタデータ） (2026-10-02T17:04:44Z)
• Artificial intelligence and biosecurity: capabilities, threat pathways, and defense-in-depth governance [0.0]
  汎用的な大規模言語モデルは、科学的情報を取得し、統合することができる。 生物基盤モデルは、タンパク質、遺伝子、ゲノムスケールの配列を予測、最適化、生成することができる。 自動実験室は設計-ビルド-テスト-学習サイクルを部分的に閉じることができる。
  論文  参考訳（メタデータ） (2026-09-14T18:44:00Z)
• An Early Warning of Emerging Biosecurity Risks in Frontier LLMs [62.01705276160883]
  Intern-BioBreakerは、特殊な生体赤チームモデルであり、計算と物理を統合したフレームワークである。 このフレームワーク内では、Intern-BioBreakerがターゲットのjailbreakプロンプトを生成して、アライメントされたモデルを誘導して運用ガイダンスを提供することができるかどうかをテストする。 本評価では,テキストレベルの保護と,有能な科学モデルによるリスクとのギャップを明らかにする。
  論文  参考訳（メタデータ） (2026-07-20T15:26:23Z)
• Embracing Trustworthy Brain-Agent Collaboration as Paradigm Extension for Intelligent Assistive Technologies [51.93721053301417]
  本稿では,脳-コンピュータ・インタフェースから脳-エージェント・コラボレーションへのパラダイム拡張を視野に入れている。 我々は、受動的脳信号データプロセッサではなく、知的支援のためのアクティブで協調的なパートナーとして、リフレーミングエージェントを強調している。
  論文  参考訳（メタデータ） (2025-10-25T00:25:45Z)
• Generative AI for Biosciences: Emerging Threats and Roadmap to Biosecurity [56.331312963880215]
  生物科学における生成人工知能(GenAI)は、バイオテクノロジー、医学、合成生物学を変革している。 この概要は、バイオサイエンスにおけるGenAIの現状と、脱獄攻撃やプライバシーリスクから、自律的なAIエージェントによって引き起こされるデュアルユースな課題まで、出現する脅威ベクターの概要を概説する。 我々は、厳格なデータフィルタリング、開発中の倫理原則との整合性、有害な要求をブロックするためのリアルタイム監視など、GenAIの安全性に対する多層的なアプローチを提唱する。
  論文  参考訳（メタデータ） (2025-10-13T00:24:41Z)
• An Evaluation of Large Language Models in Bioinformatics Research [52.100233156012756]
  本研究では,大規模言語モデル(LLM)の性能について,バイオインフォマティクスの幅広い課題について検討する。 これらのタスクには、潜在的なコーディング領域の同定、遺伝子とタンパク質の命名されたエンティティの抽出、抗微生物および抗がんペプチドの検出、分子最適化、教育生物情報学問題の解決が含まれる。 以上の結果から, GPT 変種のような LLM がこれらのタスクの多くをうまく処理できることが示唆された。
  論文  参考訳（メタデータ） (2024-02-21T11:27:31Z)
• Risks of AI Scientists: Prioritizing Safeguarding Over Autonomy [65.77763092833348]
  この視点は、AI科学者の脆弱性を調べ、その誤用に関連する潜在的なリスクに光を当てる。 我々は、ユーザ意図、特定の科学的領域、およびそれらが外部環境に与える影響を考慮に入れている。 本稿では,人間規制,エージェントアライメント,環境フィードバックの理解を含む三段階的枠組みを提案する。
  論文  参考訳（メタデータ） (2024-02-06T18:54:07Z)
• Artificial intelligence and biological misuse: Differentiating risks of language models and biological design tools [0.0]
  本稿では,大規模言語モデル(LLM)と生物設計ツール(BDT)の2種類のAIツールを区別する。
  論文  参考訳（メタデータ） (2023-06-24T12:48:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。