論文の概要: BoardSafety: AI-Ready Data from Manufacturer Documentation for Development-Board Safety

• arxiv url: http://arxiv.org/abs/2610.33448v1
• Date: Sat, 24 Oct 2026 04:59:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.331367
• Title: BoardSafety: AI-Ready Data from Manufacturer Documentation for Development-Board Safety
• Title（参考訳）: ボードセーフティ:開発作業の安全のため、製造者文書からAI対応のデータ
• Abstract要約: 大規模言語モデル(LLM)はハードウェア実験を支援することができるが、特定の開発ボードに対して提案された操作が安全かどうかを判断することはできない。 この問題に対処するために、ボードセーフティベンチマークを導入します。 我々は、ボード固有のルールへのアクセスと構造化レーションプロンプトの使用を変動させることで、一連のモデルを評価する。
• 参考スコア（独自算出の注目度）: 6.539396945667215
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The development of large language models (LLMs) are capable to assist with hardware experiments. In this scenario, this raises a practical question: Can LLMs determine whether a proposed operation is safe for a specific development board? Documented operating limits and safety requirements are board-specific, even across products from the same manufacturer. This variation makes board-specific safety judgments by an LLM difficult to evaluate. To address this problem, we introduce the BoardSafety Benchmark. The benchmark is built from vendor datasheets and hardware guides. For data transformation, these documents are converted into a board-specific safety rule base and are then used to create labeled operating scenarios. Each data item pairs a board and a proposed operation to an applicable safety rule with ground-truth label, indicating the level of safety. The categorized level for each operation includes safe, unsafe, or insufficient-info. In addition, the benchmark covers diverse operations, board-specific cases, boundary conditions, and missing-information cases. We evaluate a series of models by varying their access to board-specific rules and the use of structured-rationale prompting. Our results demonstrate that providing the safety rules generally improves accuracy, whereas structured-rationale prompting produces gains that vary across models and rule-access conditions. Overall, the evaluated models cannot yet reliably determine whether an operation is safe, which implies that critical exploration is required for this field.
• Abstract（参考訳）: 大規模言語モデル(LLM)の開発は、ハードウェア実験を支援することができる。 LLMは特定の開発ボードに対して提案された操作が安全かどうかを判断できますか? 文書化された運用制限と安全要件は、同じメーカーの製品に対してさえ、ボード固有のものだ。 この変動は、LCMによるボード固有の安全判断を評価しにくくする。 この問題に対処するために、ボードセーフティベンチマークを紹介します。 ベンチマークはベンダーのデータシートとハードウェアガイドから作成されている。 データ変換では、これらのドキュメントはボード固有の安全ルールベースに変換され、ラベル付き操作シナリオを作成するために使用される。 各データ項目は、ボードと提案された操作を、安全レベルを示すグラウンドトルースラベルと適用可能な安全ルールにペアリングする。 各操作の分類レベルには、セーフ、アンセーフ、または不十分なインフォが含まれる。 さらに、ベンチマークでは、さまざまなオペレーション、ボード固有のケース、境界条件、欠落情報ケースがカバーされている。 我々は、ボード固有のルールへのアクセスと構造化レーションプロンプトの使用を変動させることで、一連のモデルを評価する。 その結果,安全ルールの提供は一般的に精度が向上するのに対し,構造的条件のプロンプトはモデルやルールアクセス条件によって異なる利得を生み出すことがわかった。 全体として、評価されたモデルでは、操作が安全かどうかを確実に判断することはできない。

関連論文リスト

• Reading, Not Manipulating: Leveraging Router Logits for Multimodal Safety in MoE Vision-Language Models [51.95643874494937]
  視覚言語モデル(VLM)は、視覚的入力とテキスト入力の相互作用から有害な意図が生じるような構成上の安全リスクに直面している。 本稿では,プロンプトプリフィル中のルーティング信号を読み出し,生成前の安全でない要求を識別する軽量なルータログ安全検出器を提案する。
  論文  参考訳（メタデータ） (2026-10-06T05:09:02Z)
• Evaluating Large Language Model Performance on International Maritime Dangerous Goods Code Compliance [47.37396434232136]
  本稿では,IMDG修正42-24の知識を評価するための最初のベンチマークであるDGEvalを紹介する。 複数の選択、オープンエンド、DGLルックアップ、規制識別タスクにまたがる1,678の質問で構成されている。 我々は、複数の思考構成の6つのプロバイダから13のモデルを評価する。
  論文  参考訳（メタデータ） (2026-08-21T12:32:31Z)
• SABER: Benchmarking Operational Safety of LLM Coding Agents in Stateful Project Workspaces [18.650640826228862]
  SABERは、大規模言語モデルにおける環境に配慮した運用安全性のベンチマークである。 リアルなエージェントスタイルのプロジェクトにモデルを配置し、一連のアクションの後に最終環境状態から安全性を評価する。 評価の結果, 最高性能モデルでさえ, 54%以上の有害な安全違反率を有することが明らかとなった。
  論文  参考訳（メタデータ） (2026-05-31T16:06:02Z)
• Token-level Data Selection for Safe LLM Fine-tuning [15.039068315115372]
  カスタムデータセット上での微調整大型言語モデル(LLM)は、これらのモデルを特定のドメインやアプリケーションに適用するための標準的なアプローチとなっている。 近年の研究では、このような微調整がモデルの安全性を著しく低下させる可能性があることが示されている。 本稿では,安全劣化モデルとユーティリティ指向モデルとの損失差を測定することにより,各トークンの安全性リスクを定量化する新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-01T16:52:05Z)
• DeepKnown-Guard: A Proprietary Model-Based Safety Response Framework for AI Agents [12.054307827384415]
  大きな言語モデル(LLM)はますます顕著になり、重要なドメインへの信頼性の高いデプロイメントを厳しく制限しています。 本稿では,LLMを入力レベルと出力レベルの両方で保護する新しい安全応答フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-11-05T03:04:35Z)
• Safe Vision-Language Models via Unsafe Weights Manipulation [75.04426753720551]
  我々は、異なるレベルの粒度で安全性を評価する新しい指標セットであるSafe-Groundを導入し、安全性の評価を見直した。 我々は異なる方向を採り、トレーニングなしでモデルをより安全にできるかどうかを探り、Unsafe Weights Manipulation (UWM)を導入します。 UWMは、セーフとアンセーフのインスタンスのキャリブレーションセットを使用して、セーフとアンセーフのコンテンツのアクティベーションを比較し、後者を処理する上で最も重要なパラメータを特定する。
  論文  参考訳（メタデータ） (2025-03-14T17:00:22Z)
• Controllable Safety Alignment: Inference-Time Adaptation to Diverse Safety Requirements [46.79887158348167]
  大規模言語モデル(LLM)の安全性アライメントに関する現在のパラダイムは、一大のアプローチに従っている。 我々は,モデルの再トレーニングを伴わず,多様な安全要件に適応するフレームワークとして,制御可能な安全アライメント(CoSA)を提案する。
  論文  参考訳（メタデータ） (2024-10-11T16:38:01Z)
• Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
  CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。 次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。 これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
  論文  参考訳（メタデータ） (2022-08-23T05:02:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。