論文の概要: Decomposed Relation Extraction from Aviation Accident Narratives: Evaluating Transformer-Based Safety Knowledge Discovery under Relational Sparsity
- arxiv url: http://arxiv.org/abs/2610.27013v1
- Date: Mon, 19 Oct 2026 12:25:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.420283
- Title: Decomposed Relation Extraction from Aviation Accident Narratives: Evaluating Transformer-Based Safety Knowledge Discovery under Relational Sparsity
- Title(参考訳): 航空事故物語からの分解的関係抽出:関係性空間下でのトランスフォーマーに基づく安全知識発見の評価
- Abstract要約: 本研究では,概念識別から関係分類を分離する枠組みについて検討する。
国家運輸安全委員会(NTSB)の300の説話のベンチマークが21,038の候補組に拡張された。
SVMは96の基準関係を回復したが7,018の偽陽性を発生し、RoBERTaは125は回復したが9,824は発生した。
- 参考スコア(独自算出の注目度): 2.238581855525266
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Relation extraction from aviation accident narratives is challenging because genuine safety relations are sparse among possible concept pairs. This study evaluates a decomposed framework separating relation classification from concept identification. A benchmark of 300 National Transportation Safety Board (NTSB) narratives containing 2,524 unique concept-text nodes was expanded into 21,038 ordered candidate pairs, with only 248 (1.18%) representing RESULTS_IN or CONTRIBUTES_TO relations. A TF-IDF Linear Support Vector Machine (SVM) and weighted RoBERTa classifier were developed using an independent graph-annotated resource with hard-negative sampling and frozen before sealed evaluation. Development Macro-F1 scores of 0.4738 (SVM) and 0.4809 (RoBERTa) declined to 0.2741 and 0.2420 under exhaustive evaluation, with Matthews correlation coefficients of 0.0128 and 0.0197. False positives dominated: the SVM recovered 96 reference relations but generated 7,018 false positives, while RoBERTa recovered 125 but generated 9,824. Post-test diagnostics revealed overlapping RoBERTa confidence distributions and false positives even within valid relation-category directions. Complementary end-to-end SmolLM2 evaluation identified missed and unsupported relations alongside malformed outputs. These findings demonstrate that known concept endpoints do not guarantee reliable relation extraction and that sampled-negative development performance may poorly reflect exhaustive evaluation. Controlling false positives and managing candidate-space sparsity remain essential for aviation safety knowledge extraction.
- Abstract(参考訳): 航空事故の物語からの関係抽出は、真の安全関係は、考えられる概念のペア間では疎いため、困難である。
本研究では,概念識別から関係分類を分離するフレームワークについて検討した。
2,524のユニークなコンセプトテキストノードを含む国家運輸安全委員会(NTSB)の300のナラティブのベンチマークが21,038の順序付き候補ペアに拡張され、RESULTS_INまたはConTRIBUTES_TO関係を表す248 (18%)しかなかった。
TF-IDFリニアサポートベクトルマシン(SVM)と重み付きRoBERTa分類器を開発した。
開発マクロF1は0.4738(SVM)と0.4809(RoBERTa)のスコアが0.2741と0.2420となり、マシューズ相関係数は0.00128と0.0197となった。
SVMは96の基準関係を回復したが7,018の偽陽性を発生し、RoBERTaは125は回復したが9,824は発生した。
検査後診断ではRoBERTaの信頼度分布と偽陽性が有意な相関方向でも重複していた。
相補的なエンドツーエンドSmolLM2評価では、不正な出力とともに欠落と欠落の関係が同定された。
これらの結果は、既知の概念終端は信頼性の高い関係抽出を保証せず、サンプル負の開発性能は徹底的な評価を十分に反映していないことを示している。
航空安全知識抽出には, 偽陽性の制御と候補空間の空白管理が不可欠である。
関連論文リスト
- DRSR: Learning Set-Level Deletion Risk for Efficient Long-Horizon Agents [55.84813053778976]
ロングホライゾン言語モデルエージェントは、現在の決定と関係が変化する推論の痕跡、ツール交換、観察を蓄積する。
直接セットリスクスコアは、削除セットの選択としてエージェント履歴圧縮リスクを定式化する。
メカニカル・アナリシスとアブリケーションは、決定に制約のある関係、保持されたコンテキスト情報、ペア・インタラクション、および棄権がそれぞれ信頼できるプルーニングに寄与していることを示している。
論文 参考訳(メタデータ) (2026-09-23T03:06:01Z) - Passive Hybrid Network-Based Intrusion Detection System (Hybrid-NIDS) Combining Suricata and Random Forest [0.0]
本稿では,Suricataとランダムフォレストフロー分類と集中型ELKに基づく警報処理を組み合わせた,パッシブハイブリッドネットワークによる侵入検知システム(Hybrid-NIDS)の試作機について検討する。
その結果、公開ベンチマークでの強いパフォーマンスは、直接的に運用効率に変換されないことがわかった。
論文 参考訳(メタデータ) (2026-09-21T10:40:21Z) - Not All Relations Are Equal: Relation-Balanced and Calibrated Graph Learning for Provenance-Based Intrusion Detection [69.06648810271712]
本稿では,関係バランスの取れたグラフ学習を用いた教師なしフレームワークRECALについて述べる。
3つのDARPA E3データセットにおいて、RECALはF1スコアの99.99%、99.93%、99.99%を達成し、各データセットでそれぞれ0.88、0.82、0.42で最高のベースラインを上回っている。
論文 参考訳(メタデータ) (2026-09-15T00:31:01Z) - The Model Proposes, the Code Disposes: A Pre-Registered Ablation of a Verifier-and-Acceptance Stage in an LLM-Orchestrated Offensive-Security Agent [0.0]
決定的コードによって検証が強制されるモデル検証装置である検証受理段階が、LCMが主導する攻撃セキュリティエージェントが報告するものを変更するかどうかを評価する。
本報告では,15回の探索パイロット,20回の予備登録検定アブレーション,および2回の故意に脆弱な検査対象を40回実施した2×2因子分析を行った。
検証者はシステムが提供するものを変更し、決定論的コードは強制と監査性を提供します。
論文 参考訳(メタデータ) (2026-09-14T17:13:05Z) - Empirical Evaluation of Membership Inference Attacks on NLP Text Classifiers: A Baseline Study on SST-2 [0.0]
メンバーシップ推論攻撃(MIA)は、モデルをトレーニングするために特定のレコードが使用されたかどうかを判断しようとする。
本稿では,GLUE SST-2感情データセットを用いたテキスト分類におけるメンバシップ推定脆弱性のベンチマークを提案する。
論文 参考訳(メタデータ) (2026-09-10T00:53:20Z) - Unmatched Does Not Mean False: Incomplete Reference Sets Can Reverse Calibration Rankings in Open-Ended Theory-of-Mind Tracking [0.5735035463793009]
Open-ended Theory-of-Mind (ToM) トラッカーは有限参照を欠く有効な信念を出力する。
有限参照+マーチャントパイプラインは、不正な出力をマークし、適切なスコアモデル選択をリバース可能なプロキシラベルを生成する。
論文 参考訳(メタデータ) (2026-08-26T11:36:31Z) - RAPID: Reliability-Aware Pair Importance Distillation [2.5565719921628443]
RAPID(Reliability Aware Pair Importance Distillation)は、信頼性の高いゲート付きリレーショナルターゲットと完全なサポート適応ペアの提案を分離する。
信頼性は教師関係が重視されるかを決定するが、校正された教師エントロピーと分離された生徒-教師残差はどの関係が評価されるかを決定する。
論文 参考訳(メタデータ) (2026-08-23T09:29:50Z) - AMRFact: Enhancing Summarization Factuality Evaluation with AMR-Driven Negative Samples Generation [57.8363998797433]
抽象的意味表現(AMR)を用いた摂動要約を生成するフレームワークであるAMRFactを提案する。
提案手法は,AMRグラフに一貫した要約を解析し,制御された事実不整合を注入して負の例を生成し,一貫性のない事実不整合要約を高い誤差型カバレッジで生成する。
論文 参考訳(メタデータ) (2023-11-16T02:56:29Z) - Open Set Relation Extraction via Unknown-Aware Training [72.10462476890784]
負のインスタンスを動的に合成することでモデルを正規化する未知の学習手法を提案する。
テキストの敵対的攻撃に触発されて、我々は適応的に、小さいが重要な摂動を元のトレーニングインスタンスに適用する。
実験結果から, 既知の関係の分類を損なうことなく, 未知の関係検出を行うことができた。
論文 参考訳(メタデータ) (2023-06-08T05:45:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。