論文の概要: The Future of Safety for SaMD

• arxiv url: http://arxiv.org/abs/2609.15438v1
• Date: Mon, 14 Sep 2026 12:01:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 07:15:06.317076
• Title: The Future of Safety for SaMD
• Title（参考訳）: SMDの安全性の将来
• Abstract要約: 人工臓器は、航空機や原子炉の規模で失敗する結果をもたらすが、それを駆動するソフトウェアは同じ基準に保持されることは滅多にない。 本稿では, 人工臓器の形式的検証方法, ステージごとのステージ, デバイスについて, それぞれの技術が実際に保証するものについて検討する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: An artificial organ carries failure consequences on the scale of an aircraft or a reactor, but the software driving it is rarely held to the same standard. Teams building them rely on testing, which only reaches the failure modes someone thought of in advance. In a pump or controller that runs inside a patient for months, the dangerous cases are the ones nobody anticipated. Formal verification closes that gap. Applied to the device's software, it proves the code meets its specification for every execution that specification allows, and where a proof fails, it returns the exact input sequence that breaks it. The same methods already protect rail, aviation, and nuclear control systems, and they extend the IEC 62304 lifecycle that a manufacturer already follows rather than replacing it. In this paper, we explore how to apply formal verification to artificial organs, stage by stage, and what each technique actually guarantees about the device.
• Abstract（参考訳）: 人工臓器は、航空機や原子炉の規模で失敗する結果をもたらすが、それを駆動するソフトウェアは同じ基準に保持されることは滅多にない。 それらを構築するチームはテストに頼るが、これは誰かが事前に考えた失敗モードにしか達しない。 数ヶ月間患者の中を走るポンプやコントローラーでは、危険なケースは誰も予想しなかったものだ。 形式的検証はそのギャップを埋めます。 デバイスのソフトウェアに適用すると、コードは仕様が許すすべての実行に対してその仕様を満たすことを証明し、証明が失敗すると、それを破る正確な入力シーケンスを返す。 同じ方法が既に鉄道、航空、核制御システムを保護しており、メーカーが置き換えるのではなく、既に従っているIEC 62304のライフサイクルを拡張している。 本稿では, 人工臓器の形式的検証方法, ステージごとのステージ, デバイスについて, それぞれの技術が実際に保証するものについて検討する。

関連論文リスト

• Don't Trust the Code, Check Its Effects: Runtime Refinement for Regenerated Systems Code Under an Adversarial Generator [0.7074368998367698]
  最近の作業では、仕様からシステムコードを生成するために、大きな言語モデルを使用している。 ここで運用する唯一の安全な方法は、生成されたコードに対して行動する権限を否定することです。
  論文  参考訳（メタデータ） (2026-08-31T22:06:48Z)
• The Prover Is the Judge: Verified Security Software from AI Coding Agents in Ada/SPARK [0.0]
  検証者主導のループにおいて、AIエージェントは古典的および後量子暗号、TLS 1.3、IKEv2、X.509、マトリックスクライアントにまたがるAda/SPARKのベアメタルセキュリティソフトウェアを書いて検証した。 GNATproveは49,280の証明義務を解除し、選択されたプリミティブに対して機能的正当性を確立し、残りのプリミティブに対して実行時のエラーがないことを証明した。 それぞれのレイヤが障害をキャッチし,中心的な教訓を引き出す方法を報告します。エージェントが確立するために信頼できるものは,そのフィードバックの強さに縛られているのです。
  論文  参考訳（メタデータ） (2026-07-15T20:09:05Z)
• Phantom Guardrails: When Self-Improving Agent Harnesses Fix Failures That Never Happened [9.045839210217883]
  自己改善型AIエージェントは、過ちから学ぶように設計されている。 彼らはまた、決して起こらなかった間違いを幻覚させることもできる。 本稿では, ファクチャリファクチャリファクチャリファクチャリファクチャリファクチャリファクチャリファクチャリファクチャリメーションラボについて紹介する。
  論文  参考訳（メタデータ） (2026-07-13T10:14:15Z)
• Is Your Agent Playing Dead? Deployed LLM Agents Exhibit Constraint-Evasive Fabrication and Thanatosis [8.019946418415302]
  本稿では, 従来報告されていない動作のスペクトルを, 制約・侵襲的製作(CEF)と呼ぶ。 CEFは、エージェントが不可避な制約の下で動作し、プラウチブルな外部障害物を自発的に作成し、それを事実として提示する場合である。 このスペクトルの極端にConstraint-Evasive Thanatosis (CET) があり、これは可算的な言い訳を発明するのではなく、モデルが完全なシステムクラッシュをシミュレートして、ユーザが完全に切り離すという制限ケースである。
  論文  参考訳（メタデータ） (2026-06-12T14:53:42Z)
• Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
  安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。 敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。 最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
  論文  参考訳（メタデータ） (2026-04-14T06:48:33Z)
• Detecting Object Tracking Failure via Sequential Hypothesis Testing [80.7891291021747]
  ビデオにおけるリアルタイムのオンラインオブジェクト追跡は、コンピュータビジョンにおける中核的なタスクである。 本稿では,物体追跡を逐次的仮説テストとして解釈することを提案する。 本研究では,地中追跡情報と内部追跡情報の両方を活用することにより,教師なしと教師なしの両方の変種を提案する。
  論文  参考訳（メタデータ） (2026-02-13T14:57:15Z)
• Building a Foundational Guardrail for General Agentic Systems via Synthetic Data [76.18834864749606]
  LLMエージェントは、計画段階で介入するマルチステップタスクを計画できる。 既存のガードレールは主にポスト・エグゼクティブ(英語版)を運用しており、スケーリングが困難であり、計画レベルで制御可能な監督を行う余地がほとんどない。 我々は、良性軌道を合成し、カテゴリーラベル付きリスクを困難に注入し、自動報酬モデルを介して出力をフィルタリングする制御可能なエンジンであるAuraGenを紹介する。
  論文  参考訳（メタデータ） (2025-10-10T18:42:32Z)
• Adaptive Attacks on Trusted Monitors Subvert AI Control Protocols [80.68060125494645]
  プロトコルとモニタモデルを知っている信頼できないモデルによるアダプティブアタックについて検討する。 我々は、攻撃者がモデル出力に公知またはゼロショットプロンプトインジェクションを埋め込む単純な適応攻撃ベクトルをインスタンス化する。
  論文  参考訳（メタデータ） (2025-10-10T15:12:44Z)
• Verifying User Interfaces using SPARK Ada: A Case Study of the T34 Syringe Driver [0.0]
  多くのヒューマンファクターリスクは、実際の環境で適切なテストが完了するまでキャッチされない。 本研究は、T34シリンジドライバの動作モデルに対して、SPARK Adaの正式な検証ツールを使用する。
  論文  参考訳（メタデータ） (2025-09-20T13:14:59Z)
• Can a Bayesian Oracle Prevent Harm from an Agent? [48.12936383352277]
  我々は、所定の安全仕様に違反する確率に基づいて、文脈依存境界を推定することを検討する。 世界の異なる仮説が全く異なる結果をもたらす可能性があることに注意し、我々は真だが未知の仮説の下で予測される安全違反の確率に基づいて導かれる。 我々は、この結果の2つの形態、すなわち、i.d.の場合と非i.d.の場合を考察し、そのような理論結果を実用的なAIガードレールに変換するためのオープンな問題で結論付ける。
  論文  参考訳（メタデータ） (2024-08-09T18:10:42Z)
• Safety Shielding under Delayed Observation [59.86192283565134]
  シールドは安全な実行を保証するコンストラクション・バイ・コンストラクション・インストラクタである。 シールドは、将来の干渉が最小化される可能性が最も高い方法で、安全な修正行動を選択するべきである。 現実的な運転シミュレータにおけるシールドの最初の統合について述べる。
  論文  参考訳（メタデータ） (2023-07-05T10:06:10Z)
• Sample-Efficient Safety Assurances using Conformal Prediction [57.92013073974406]
  早期警戒システムは、安全でない状況が差し迫ったときに警告を提供することができる。 安全性を確実に向上させるためには、これらの警告システムは証明可能な偽陰性率を持つべきである。 本稿では,共形予測と呼ばれる統計的推論手法とロボット・環境力学シミュレータを組み合わせたフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-09-28T23:00:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。