論文の概要: Behavioural self-monitoring for autonomous earth observation agents: The attribute reliability monitor (ARM)

• arxiv url: http://arxiv.org/abs/2610.18548v1
• Date: Tue, 13 Oct 2026 15:25:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 20:48:46.102455
• Title: Behavioural self-monitoring for autonomous earth observation agents: The attribute reliability monitor (ARM)
• Title（参考訳）: 自律型地球観測エージェントの行動自己監視:属性信頼性モニタ(ARM)
• Abstract要約: この研究は、個々のセマンティック属性を評価するために時間をかけて疑念の証拠を蓄積するフレームワークである属性信頼性モニター(ARM)を導入している。 ARMは異なる検出器と時間モニタリング方法に対応し、介入ポリシーを消費システムに残す。 衛星熱赤外画像のための特殊な視覚言語モデルを用いて初期実装を評価した。
• 参考スコア（独自算出の注目度）: 51.56484100374058
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Language and vision language models can support autonomous systems, but changing operating conditions may compromise the reliability of their semantic outputs. This work introduces the Attribute Reliability Monitor (ARM), a framework that accumulates evidence of suspicion over time to assess individual semantic attributes. ARM accommodates different detectors and temporal monitoring methods, while leaving intervention policies to the consuming system. An initial implementation was evaluated using a specialized vision language model developed for satellite thermal infrared imagery. Monitoring followed a black box approach, using only observable responses without access to internal model states, confidence scores, or external reference answers. Under controlled input degradation, disagreement between responses provided evidence for selective suspension of attributes. The results illustrate how external behavioral monitoring can inform continued use of model outputs, while distinguishing operational suspicion from semantic correctness.
• Abstract（参考訳）: 言語と視覚言語モデルは自律システムをサポートすることができるが、動作条件の変更はセマンティックアウトプットの信頼性を損なう可能性がある。 この研究は、個々のセマンティック属性を評価するために時間をかけて疑念の証拠を蓄積するフレームワークである属性信頼性モニター(ARM)を導入している。 ARMは異なる検出器と時間モニタリング方法に対応し、介入ポリシーを消費システムに残す。 衛星熱赤外画像のための特殊な視覚言語モデルを用いて初期実装を評価した。 監視はブラックボックスのアプローチに従い、内部モデル状態や信頼性スコア、外部リファレンス回答へのアクセスなしに、観測可能な応答のみを使用する。 制御された入力劣化の下では、応答の相違は属性の選択的停止を示す証拠となった。 その結果、外部の行動監視が、操作上の疑念と意味的正しさを区別しながら、モデル出力の継続的な使用を通知する方法が示されている。

関連論文リスト

• Intrusion Detection for Agentic Processes: Evidence-Based Runtime Monitoring [0.0]
  本稿では,実行時侵入検知のためのエージェント・プロセス侵入検知システム(A-IDS)を提案する。 A-IDSは、エビデンスをサポートする観測結果と、ワークフロー状態、認可、通信、強制イベントのための管理およびバージョン管理された予測ベースラインを比較する。 A-IDSは異常な振る舞いから悪意のある意図を推測せず、観測されていない事象を非発生の証明として扱わず、新しい異常検知器、時間論理、前兆モデルも主張しない。
  論文  参考訳（メタデータ） (2026-09-10T14:37:12Z)
• The Invisible Editorial Layer: Formalizing Undisclosed Inference-Time Steering, Probability Placement, and the Attribution Problem in Deployed Language Models [0.0]
  生成言語モデルの評価は、しばしば、政治的スタンス、ブランドの傾き、規範的フレーミングといった観察可能な行動特性を、モデルの重みの表示、訓練後のアライメント、またはプロンプトとして解釈する。 モデルパラメータの変更を必要とせずに、組織的、イデオロギー的、商業的なフレームに対して生成されたテキストを体系的に操る。 生成システムのガバナンスは、モデルを監査することと、最終的に話すデプロイされたシステムの監査とを、ますます区別する必要がある、と我々は主張する。
  論文  参考訳（メタデータ） (2026-08-25T15:05:19Z)
• FabriMAE I Trust Myself? Self-Evaluating VLA Action Generation with Markov Attention Entropy [63.26759696630558]
  VLA(Vision-Language-Action Model)は、視覚認識、言語命令、アクション生成をエンドツーエンドのポリシーに統合する。 既存の手法は専門家のアノテーションに頼るか、出力統計のみから不確実性を見積もる。 我々は,内部の注意信号をアーキテクチャ対応信頼性スコアに変換する自己評価フレームワークであるMAE(Markov Attention Entropy)を提案する。
  論文  参考訳（メタデータ） (2026-08-17T15:14:53Z)
• The Attribution Blind Spot: Detecting When Language Models Rely on Memory Rather Than Retrieved Context [22.202409807556517]
  帰属盲点に対処するために,計算現実モニタリングを導入する。 CRMは、認知科学の現実監視フレームワークから適応した原則を運用する。 プレトレーニングされた露光が測定可能な内部軌道シグネチャを残すかどうかを検出する。
  論文  参考訳（メタデータ） (2026-05-26T09:48:51Z)
• Threat-Oriented Digital Twinning for Security Evaluation of Autonomous Platforms [0.4083182125683813]
  本稿では,学習可能な自律プラットフォームにおけるサイバーセキュリティ評価のための,脅威指向のディジタルツインニング手法を提案する。 このアプローチは、分離された感受性、自律性、および監督制御機能を備えた、代表的自律スタックのオープンソースでモジュール化されたツインとしてインスタンス化されている。
  論文  参考訳（メタデータ） (2026-04-28T15:21:02Z)
• Automated Detection of Visual Attribute Reliance with a Self-Reflective Agent [58.90049897180927]
  視覚モデルにおける視覚的特徴の意図しない依存を検出するための自動フレームワークを提案する。 自己反射エージェントは、モデルが依存する可能性のある視覚特性に関する仮説を生成し、テストする。 我々は,視覚特性の多様さを示すために設計された130モデルの新しいベンチマークに対して,我々のアプローチを評価した。
  論文  参考訳（メタデータ） (2025-10-24T17:59:02Z)
• Self-Consistency as a Free Lunch: Reducing Hallucinations in Vision-Language Models via Self-Reflection [71.8243083897721]
  視覚言語モデルは、しばしば詳細を幻覚させ、既存のオブジェクトを生成するか、出力信頼性を損なう不正確な属性を生成する。 本稿では、長文応答と短文応答の自己整合性を利用して、学習のための選好ペアを生成する新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-27T10:37:11Z)
• Unsupervised Model Diagnosis [49.36194740479798]
  本稿では,ユーザガイドを使わずに,意味論的対実的説明を生成するために,Unsupervised Model Diagnosis (UMO)を提案する。 提案手法は意味論における変化を特定し可視化し,その変化を広範囲なテキストソースの属性と照合する。
  論文  参考訳（メタデータ） (2024-10-08T17:59:03Z)
• Explanatory Model Monitoring to Understand the Effects of Feature Shifts on Performance [61.06245197347139]
  そこで本研究では,機能シフトによるブラックボックスモデルの振る舞いを説明する新しい手法を提案する。 本稿では,最適輸送と共有値の概念を組み合わせた提案手法について,説明的性能推定として紹介する。
  論文  参考訳（メタデータ） (2024-08-24T18:28:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。