論文の概要: BioTIER: A Refusal Benchmark for Targeted Biological Risk Mitigation
- arxiv url: http://arxiv.org/abs/2607.14479v1
- Date: Thu, 16 Jul 2026 01:52:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-17 17:01:32.952669
- Title: BioTIER: A Refusal Benchmark for Targeted Biological Risk Mitigation
- Title（参考訳）: BioTIER: バイオリスク対策のための拒絶ベンチマーク
- Abstract要約: BioTIERは3つの危険セットに分類する: カタストロフィ回避(CA)、バイオメディカルDURC(BD)、関連生物学(RB)
我々はBioTIERをリリースし、誤用による破滅的なリスクを招きかねないわずかな情報の分離とゲーティングを支援します。
- 参考スコア（独自算出の注目度）: 0.3160220724075709
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As large language models become increasingly capable, concerns about their potential to assist with biological misuse continue to grow. Prioritization of safety differs across the model ecosystem, with some models freely providing high-risk information that could be misused, and others refusing benign scientific content, potentially hindering legitimate research. Both failures stem from a lack of targeted mitigation to distinguish the most dangerous information from broader scientific content. To address this, we introduce BioTIER (Biological Targeted Information for Exclusion and Refusal), a benchmark designed to enable more targeted biological risk mitigation. BioTIER organizes biological content into three risk sets: Catastrophe Avoidance (CA), Biomedical DURC (BD) and Related Biology (RB). These sets represent a spectrum from extremely narrow high-risk topics to a broad range of benign and beneficial biological knowledge. The benchmark consists of 542 expert-curated prompts with rich associated metadata to support differentiated access policies. We release BioTIER to aid in isolating and gating the tiny fraction of information that could engender catastrophic risk from misuse, while ensuring access to the vast wealth of knowledge that is essential for advancing biological science.
- Abstract（参考訳）: 大きな言語モデルがますます有能になるにつれて、生物学的誤用を支援する可能性への懸念が高まり続けている。
安全性の優先順位付けはモデルエコシステムによって異なり、一部のモデルは誤用される可能性のあるリスクの高い情報を自由に提供し、他のモデルは良質な科学的内容を拒否し、正当な研究を妨げる可能性がある。
どちらの失敗も、より広い科学的内容から最も危険な情報を識別するための標的緩和の欠如に起因する。
これを解決するために,より標的となる生物学的リスク軽減を目的としたベンチマークであるBioTIER(Biological Targeted Information for Exclusion and Refusal)を紹介する。
BioTIERは、生物学的コンテンツを3つの危険セット、CA(Caastrophe Avoidance)、BD(Biomedical DURC)、RB(Relationed Biology)に分類する。
これらの集合は、非常に狭い高リスクトピックから幅広い良識と有益な生物学的知識までのスペクトルを表す。
ベンチマークは、専門家による542のプロンプトと豊富なメタデータで構成され、差別化されたアクセスポリシーをサポートする。
我々はBioTIERをリリースし、生物科学の発展に不可欠な膨大な知識へのアクセスを確保しながら、誤用による壊滅的なリスクを招きかねないわずかな情報の分離とゲーティングを支援します。
関連論文リスト
- Artificial intelligence and biosecurity: capabilities, threat pathways, and defense-in-depth governance [0.0]
汎用的な大規模言語モデルは、科学的情報を取得し、統合することができる。
生物基盤モデルは、タンパク質、遺伝子、ゲノムスケールの配列を予測、最適化、生成することができる。
自動実験室は設計-ビルド-テスト-学習サイクルを部分的に閉じることができる。
論文 参考訳（メタデータ） (2026-09-14T18:44:00Z) - An Early Warning of Emerging Biosecurity Risks in Frontier LLMs [62.01705276160883]
Intern-BioBreakerは、特殊な生体赤チームモデルであり、計算と物理を統合したフレームワークである。
このフレームワーク内では、Intern-BioBreakerがターゲットのjailbreakプロンプトを生成して、アライメントされたモデルを誘導して運用ガイダンスを提供することができるかどうかをテストする。
本評価では,テキストレベルの保護と,有能な科学モデルによるリスクとのギャップを明らかにする。
論文 参考訳（メタデータ） (2026-07-20T15:26:23Z) - ViroBench: Benchmarking Nucleotide Foundation Models on Viral Genomics Tasks [86.89727311669937]
我々は、ヌクレオチド基礎モデル(NFM)に特化して設計された最初の包括的かつ大規模ベンチマークであるViroBenchを紹介する。
ViroBench氏は、生物学的理解と潜伏するバイオセキュリティリスクという、2つの重要な側面にわたるモデルを評価し、4つのタスクタイプ内の18のさまざまなシナリオをカバーしている。
ViroBenchは、ウイルスヌクレオチド基盤モデルの研究のための解釈可能、診断的評価および再現可能な測定フレームワークを提供する。
論文 参考訳（メタデータ） (2026-05-25T03:31:46Z) - BioShield: A Context-Aware Firewall for Securing Bio-LLMs [1.2694660563081597]
バイオLLMは、正当な研究クエリーのガイドの下で有害な生物学的洞察を生成するために利用することができる。
静的プロンプトフィルタリングのような既存のセーフガードは、Bio-LLMが動的生物学的およびアプリケーション層システムに埋め込まれている場合、不十分である。
両用攻撃に対してBio LLMを保護するために設計された,コンテキスト対応のアプリケーションレベルのファイアウォールであるBioShieldを提案する。
論文 参考訳（メタデータ） (2026-03-23T22:18:54Z) - Overview of TREC 2025 Biomedical Generative Retrieval (BioGen) Track [12.380459437905833]
大規模言語モデル(LLM)の最近の進歩は、複数のバイオメディカルタスクで大きく進歩している。
これらのモデルは、複雑なバイオメディカル情報の処理と合成において強力な能力を示している。
これらの進歩にもかかわらず、LLMをバイオメディカルで使用する場合、幻覚や折り畳みは依然として重要な課題である。
論文 参考訳（メタデータ） (2026-03-23T05:10:16Z) - BABE: Biology Arena BEnchmark [51.53220868983288]
BABEは、生物学的AIシステムの実験的推論能力を評価するために設計されたベンチマークである。
われわれのベンチマークは、AIシステムが科学者を実践するのと同じように、いかにうまく判断できるかを評価するための堅牢なフレームワークを提供する。
論文 参考訳（メタデータ） (2026-02-05T16:39:20Z) - BioMaze: Benchmarking and Enhancing Large Language Models for Biological Pathway Reasoning [49.487327661584686]
実際の研究から5.1Kの複雑な経路問題を持つデータセットであるBioMazeを紹介する。
CoT法やグラフ拡張推論法などの手法の評価は,LLMが経路推論に苦慮していることを示している。
そこで本稿では,インタラクティブなサブグラフベースのナビゲーションにより推論を強化するLLMエージェントであるPathSeekerを提案する。
論文 参考訳（メタデータ） (2025-02-23T17:38:10Z) - Large Language Models for Bioinformatics [58.892165394487414]
本調査はバイオインフォマティクス特化言語モデル(BioLM)の進化,分類,特徴の識別に焦点をあてる。
疾患診断, 薬物発見, ワクチン開発などの重要な分野において, バイオフィルムの幅広い応用について検討する。
データプライバシやセキュリティ上の問題,解釈可能性の問題,トレーニングデータやモデル出力のバイアス,ドメイン適応複雑性など,BioLMに固有の重要な課題や制限を特定します。
論文 参考訳（メタデータ） (2025-01-10T01:43:05Z) - The Reality of AI and Biorisk [24.945718952309157]
AIモデルやシステムがバイオリスクを増大させるための健全な理論的脅威モデルと、その脅威モデルをテストする堅牢な方法の両方を持つことが必要である。
本稿では,2つのAIおよびバイオリスク脅威モデルに関する既存の研究について分析する。
論文 参考訳（メタデータ） (2024-12-02T20:14:46Z) - Prioritizing High-Consequence Biological Capabilities in Evaluations of Artificial Intelligence Models [0.0]
AI評価モデルは、高頻度リスクへの対処を優先すべきである、と我々は主張する。
これらのリスクは、パンデミックなど、大衆に大規模な被害をもたらす可能性がある。
二重用途の生物学的リスクを特定し緩和する科学者の経験は、生物学的AIモデルを評価するための新しいアプローチに役立ちます。
論文 参考訳（メタデータ） (2024-05-25T16:29:17Z) - ProBio: A Protocol-guided Multimodal Dataset for Molecular Biology Lab [67.24684071577211]
研究結果を複製するという課題は、分子生物学の分野に重大な障害をもたらしている。
まず、この目的に向けた最初のステップとして、ProBioという名前の包括的なマルチモーダルデータセットをキュレートする。
次に、透明なソリューショントラッキングとマルチモーダルなアクション認識という2つの挑戦的なベンチマークを考案し、BioLab設定におけるアクティビティ理解に関連する特徴と難しさを強調した。
論文 参考訳（メタデータ） (2023-11-01T14:44:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。