論文の概要: Enhancing Operational Safety via Agentic Dialogue Hazard Identification Analysis
- arxiv url: http://arxiv.org/abs/2606.03812v1
- Date: Tue, 02 Jun 2026 15:54:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-03 22:00:05.13345
- Title: Enhancing Operational Safety via Agentic Dialogue Hazard Identification Analysis
- Title（参考訳）: エージェント対話ハザード識別分析による作業安全性の向上
- Authors: Sanjay Das, Ran Elgedawy, Ethan Seefried, Ryan Burchfield, Tirthankar Ghosal,
- Abstract要約: HAZDIALは,構造化エージェント対話・マルチエージェント・マルチターンインタラクションがNLPに基づくハザード識別の質を向上させるかどうかを調査するフレームワークである。
この研究は対話システム、マルチエージェント推論、AI安全性の交差点を前進させ、対話駆動型ハザード分析の実証的な証拠を提供する。
- 参考スコア（独自算出の注目度）: 3.799062340436994
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Operational safety in high-stakes domains such as industrial process control, autonomous, and safety-critical systems, demand reliable hazard identification. While large language models (LLMs) have shown promise in automating safety analysis tasks, single-turn, monolithic inference is brittle: it lacks the self-correction, deliberation, and contextual refinement that safety engineers apply iteratively. In this paper, we introduce HAZDIAL, a framework that investigates whether structured agentic dialogue-multi-agent, multi-turn interactions improves the quality of NLP- based hazard identification over single-pass baselines. We systematically compare two dialogue modalities: adversarial debate and constructive discussion, and propose an algorithm-based agentic interaction optimization. We evaluate all configurations against a curated golden dataset using standard classification metrics (accuracy, precision, recall, F1) and novel dialogue metrics. This work advances the intersection of dialogue systems, multi-agent reasoning, and AI safety, providing an empirical evidence for dialogue-driven hazard analysis.
- Abstract（参考訳）: 産業プロセス制御、自律システム、安全クリティカルシステムといった高リスク領域における運用上の安全性は、信頼性の高いハザード識別を要求する。
大きな言語モデル(LLM)は、安全分析タスクの自動化において有望であるが、シングルターン、モノリシック推論は不安定である。
本稿では,複数エージェント・マルチエージェント・マルチターンインタラクションが単一パスベースライン上でのNLPに基づくハザード識別の質を向上するかどうかを調査するフレームワークであるHAZDIALを紹介する。
本稿では,敵対的議論と構築的議論という2つの対話モードを体系的に比較し,アルゴリズムに基づくエージェント間相互作用最適化を提案する。
標準的な分類基準(精度、精度、リコール、F1)と新しい対話指標を用いて、キュレートされたゴールデンデータセットに対して全ての構成を評価する。
この研究は、対話システム、マルチエージェント推論、AI安全性の交差点を前進させ、対話駆動型ハザード分析の実証的な証拠を提供する。
関連論文リスト
- Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。
この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。
各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
論文 参考訳（メタデータ） (2026-05-17T10:26:37Z) - State-Dependent Safety Failures in Multi-Turn Language Model Interaction [70.52906620450847]
我々は、状態空間の観点から安全性障害を研究し、多くのマルチターン障害が構造化状態の進化から生じることを示す。
本稿では,対話履歴を状態遷移演算子として扱う状態指向診断フレームワークSTARを紹介する。
静的な評価の下で頑健なように見えるシステムは、構造化されたマルチターン相互作用の下で、迅速かつ再現可能な安全破壊を受けることができる。
論文 参考訳（メタデータ） (2026-03-15T12:13:01Z) - Coherence-Driven Multimodal Safety Dialogue with Active Learning for Embodied Agents [23.960719833886984]
M-CoDAL(M-CoDAL)は、安全クリティカルな状況下でのコミュニケーションをよりよく理解するために、実施エージェント向けに設計されたマルチモーダル対話システムである。
提案手法は,2K Reddit画像から抽出した1Kの安全違反を含む,新たに作成されたマルチモーダルデータセットを用いて評価する。
このデータセットで得られた結果は、我々のアプローチが会話の安全性だけでなく、安全状況、ユーザーの感情、および会話の安全性の解決を改善することを実証している。
論文 参考訳（メタデータ） (2024-10-18T03:26:06Z) - Towards Safer Generative Language Models: A Survey on Safety Risks,
Evaluations, and Improvements [76.80453043969209]
本調査では,大規模モデルに関する安全研究の枠組みについて述べる。
まず、広範囲にわたる安全問題を導入し、その後、大型モデルの安全性評価手法を掘り下げる。
トレーニングからデプロイメントまで,大規模なモデルの安全性を高めるための戦略について検討する。
論文 参考訳（メタデータ） (2023-02-18T09:32:55Z) - Using In-Context Learning to Improve Dialogue Safety [45.303005593685036]
チャットボットからの応答のバイアスや毒性を低減するための検索手法について検討する。
コンテキスト内学習を使用して、モデルをより安全な世代に向けて操る。
本手法は,トレーニングを必要とせず,強いベースラインと競合する。
論文 参考訳（メタデータ） (2023-02-02T04:46:03Z) - Towards Identifying Social Bias in Dialog Systems: Frame, Datasets, and
Benchmarks [95.29345070102045]
本稿では,ダイアログの安全性問題に対する社会的バイアス検出に焦点をあてる。
まず,会話における社会的バイアスを現実的に分析する新しいダイアルバイアスフレームを提案する。
中国初の社会バイアスダイアログデータセットであるCDail-Biasデータセットを紹介する。
論文 参考訳（メタデータ） (2022-02-16T11:59:29Z) - On the Safety of Conversational Models: Taxonomy, Dataset, and Benchmark [42.322782754346406]
本研究では,人間とロボットの対話に特有の不安全行動の把握を目的とした対話安全のための分類法を提案する。
DiaSafetyは6つの安全でないカテゴリのデータセットで、リッチなコンテキストに敏感なアンセーフな例をコンパイルします。
実験により、既存の発話レベルの安全ツールが我々のデータセットで破滅的に失敗することが示された。
論文 参考訳（メタデータ） (2021-10-16T04:17:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。