論文の概要: Beyond Semantic Accuracy: Consequence-Aware Evaluation for Safety-Critical Language Understanding

• arxiv url: http://arxiv.org/abs/2608.24621v2
• Date: Mon, 31 Aug 2026 12:39:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 15:47:04.050025
• Title: Beyond Semantic Accuracy: Consequence-Aware Evaluation for Safety-Critical Language Understanding
• Title（参考訳）: 意味的正確性を超えて:安全批判的言語理解のためのコンシークエンス・アウェア評価
• Abstract要約: 操縦士と操縦士の通信がほぼゼロに近いエラー耐性を必要とする航空交通管制の問題点について検討する。 結果認識評価を用いて,セマンティックスコアが動作の信頼性を損なうかどうかを判定する。
• 参考スコア（独自算出の注目度）: 6.5835891807589775
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Can language models be trusted in safety- critical operations? In such settings, strong per- formance on semantic metrics does not guaran- tee operational reliability: a misread altitude, a dropped execution condition, or a confused call- sign may score well under standard F1 yet carry sharply asymmetric operational consequences. We study this problem in air traffic control (ATC), where controller-pilot communication demands near-zero error tolerance, and use consequence-aware evaluation to test whether semantic scores misstate operational reliabil- ity. The framework is instantiated in a con- trolled diagnostic ATC benchmark grounded in aviation standards and feedback from 40 air traffic controllers across three countries. Evaluating 8 models, we uncover a system- atic semantic-safety gap: conventional scores give substantially higher performance estimates than consequence-aware evaluation, even for models that appear reliable under standard met- rics. Risk-aware fine-tuning narrows but does not close this gap, showing that consequence- aware evaluation is a necessary complement to standard NLP metrics before any real safety- critical deployment claim
• Abstract（参考訳）: 言語モデルは安全クリティカルな操作に信頼できますか? このような設定では、セマンティックメトリクスのフォーマンス単位での強い操作信頼性は保証されない: 誤読高度、低下した実行条件、または混乱したコールサインは標準F1の下ではよくスコアを付けるが、鋭く非対称な操作結果をもたらす。 本研究では,パイロット間通信においてほぼゼロに近いエラー耐性が要求されるエアトラヒック制御(ATC)においてこの問題について検討し,セマンティックスコアが動作の信頼性を損なうかどうかを判断するために結果認識評価を用いる。 このフレームワークは、航空基準と3か国40の航空交通管制官からのフィードバックに基づいて、コントラルド診断ATCベンチマークでインスタンス化されている。 従来のスコアは、標準のmatch-ricsの下で信頼性の高いように見えるモデルであっても、結果認識評価よりもはるかに高いパフォーマンスの見積を行う。 リスクに敏感な微調整の狭さはあるものの、このギャップを埋めることはなく、実際の安全クリティカルデプロイメントのクレームの前には、結果に敏感な評価が標準のNLP指標に必須の補完であることを示している。

関連論文リスト

• FLY-EVAL++: An Evidence-Driven Evaluation Protocol for Safety-Constrained Flight Prediction with Large Language Models [45.90905049052029]
  FLY-EVAL++は,安全クリティカル環境下での大規模言語モデルに対するエビデンス駆動評価プロトコルである。 PilotBench設定を履歴条件および多段階予測タスクで拡張することにより、FLY-EVAL++ for Flight Trajectory and Attitude Prediction (FTAP)をインスタンス化する。 本結果より, 安全クリティカル領域の評価は, 精度中心の報告のみに頼るのではなく, 制約満足度と構造的妥当性を明示的に測定すべきであることが示唆された。
  論文  参考訳（メタデータ） (2026-09-03T16:00:02Z)
• Conformal Changepoint Localization and Root Cause Analysis with Corrupted Observations [55.76952683833966]
  本稿では,データ破損時の信頼性設定サイズを低減するために,重み付きCONCH(W-CONCH)と重み付きCROC(W-CROC)を提案する。 画像ベースおよび実世界の変化点と根本原因ベンチマークの実験は、不確実性ベースの重み付けが信頼性セットのサイズを大幅に減少させることを示している。
  論文  参考訳（メタデータ） (2026-07-29T05:16:59Z)
• Action-Conditioned Risk Gating for Safety-Critical Control under Partial Observability [79.08785366532287]
  部分観測可能性下でのリスク感応制御のための軽量なリスクゲート強化学習近似を提案する。 安全クリティカルな部分観測可能な2つの領域 – 自動グルコース調節と安全制約ナビゲーション – でアプローチを評価した。
  論文  参考訳（メタデータ） (2026-05-14T01:23:09Z)
• Safety-Oriented Evaluation of Language Understanding Systems for Air Traffic Control [7.102251210849638]
  本稿では, 航空交通制御(ATC)の運用に適した, 安全性を重視した結果認識評価フレームワークを提案する。 以上の結果から,現在のLCMは合理的な集約精度を達成できるが,運用信頼性は著しく制限されていることが明らかとなった。 これらの知見は、AI支援ATCシステムの責任ある展開において、結果認識評価プロトコルの必要性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2026-05-12T08:39:54Z)
• ReconVLA: An Uncertainty-Guided and Failure-Aware Vision-Language-Action Framework for Robotic Control [7.018221049093963]
  視覚-言語-アクション(VLA)モデルは、視覚観察と自然言語命令を連続的なアクションシーケンスにマッピングできる汎用ロボットコントローラとして登場した。 ReconVLAは、不確実性誘導および故障認識制御信号を生成する信頼性の高いコンフォメーションモデルである。 以上の結果から, 共形行動予測は失敗予測を継続的に改善し, 破滅的エラーを低減し, 基礎となるVLAを調整・修正することなく信頼度を調整できることが示唆された。
  論文  参考訳（メタデータ） (2026-04-17T20:20:43Z)
• Towards a Science of AI Agent Reliability [9.570634569436535]
  AIエージェントは、重要なタスクを実行するためにますますデプロイされる。 標準ベンチマークにおける精度の上昇は急速な進歩を示唆する一方で、多くのエージェントが実際に失敗し続けている。 エージェントの信頼性を4つの重要な次元(一貫性、堅牢性、予測可能性、安全性)に沿って分解する12のメトリクスを提案する。
  論文  参考訳（メタデータ） (2026-02-18T18:05:44Z)
• Decomposed Prompting Does Not Fix Knowledge Gaps, But Helps Models Say "I Don't Know" [47.930782177987446]
  大規模言語モデルは、クローズドブックの質問応答において知識限界を認識するのに苦労することが多く、自信ある幻覚へと繋がる。 我々は、モデルスケールの異なるDirect、Assistive、Incrementalの3つのタスク等価プロンプトとマルチホップQAベンチマークを評価した。 幻覚が一致している間に事実知識が安定しているため、クロスレジームは内部の不確実性の正確なシグナルを与える。
  論文  参考訳（メタデータ） (2026-02-04T18:39:58Z)
• Steering Externalities: Benign Activation Steering Unintentionally Increases Jailbreak Risk for Large Language Models [62.16655896700062]
  活性化ステアリングは大規模言語モデル(LLM)の有用性を高める技術である 重要かつ過度に調査された安全リスクを無意識に導入することを示します。 実験によると、これらの介入は強制乗算器として機能し、ジェイルブレイクに新たな脆弱性を発生させ、標準ベンチマークで攻撃成功率を80%以上向上させる。
  論文  参考訳（メタデータ） (2026-02-03T12:32:35Z)
• Conformal Safety Monitoring for Flight Testing: A Case Study in Data-Driven Safety Learning [7.0366838632617705]
  我々は、パイロットが不確実なパラメータで航空機の操縦を行う飛行試験における安全監視のためのデータ駆動型アプローチを開発した。 パイロットが直面している短期安全リスクのキャリブレーションされた統計モデルを、オフライン軌道シミュレーションを用いて学習する。 本研究では,不確実なパラメータを持つ飛行力学モデルを用いて,安全でないシナリオを確実に識別できることを示す。
  論文  参考訳（メタデータ） (2025-11-25T19:57:07Z)
• Pointwise Feasibility of Gaussian Process-based Safety-Critical Control under Model Uncertainty [77.18483084440182]
  制御バリア関数(CBF)と制御リアプノフ関数(CLF)は、制御システムの安全性と安定性をそれぞれ強化するための一般的なツールである。 本稿では, CBF と CLF を用いた安全クリティカルコントローラにおいて, モデル不確実性に対処するためのガウスプロセス(GP)に基づくアプローチを提案する。
  論文  参考訳（メタデータ） (2021-06-13T23:08:49Z)
• Approaching Neural Network Uncertainty Realism [53.308409014122816]
  自動運転車などの安全クリティカルなシステムには、定量化または少なくとも上限の不確実性が不可欠です。 マハラノビス距離に基づく統計的テストにより、厳しい品質基準である不確実性リアリズムを評価します。 自動車分野に採用し、プレーンエンコーダデコーダモデルと比較して、不確実性リアリズムを大幅に改善することを示した。
  論文  参考訳（メタデータ） (2021-01-08T11:56:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。