論文の概要: Honesty Testing of LLMs and AI Agents: A Vision for Software Engineering

• arxiv url: http://arxiv.org/abs/2610.34239v2
• Date: Tue, 27 Oct 2026 08:52:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-28 21:04:31.348614
• Title: Honesty Testing of LLMs and AI Agents: A Vision for Software Engineering
• Title（参考訳）: LLMとAIエージェントの正直なテスト - ソフトウェアエンジニアリングのビジョン
• Abstract要約: 我々は,大規模言語モデルとAIエージェントの正直なテストを提案する。 既存の誠実な評価に基づいて、私たちのゴールは、ソフトウェアの品質要件を忠実に報告することにあります。 制御された入力下でのLLMレベルのテストと,完全システムのエージェントレベルのテストを対象とする初期フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 14.59862073147791
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Human oversight of large language models (LLMs) and artificial intelligence (AI) agents increasingly depends on their reports. Claims that conflict with a system's own judgments can conceal failures, prevent timely intervention, and contribute to severe harm. Greater autonomy makes faithful reporting increasingly important for maintaining human control. In this vision paper, we propose honesty testing of LLMs and AI agents as a new research area in software engineering. Building on existing honesty evaluations, our goal is to make faithful reporting a software quality requirement that developers can specify, test, and maintain. We define honesty bugs as behavioural defects in which an LLM or AI agent, when required to communicate faithfully, makes an explicit claim that conflicts with its own judgment at the time of reporting. We present an initial framework covering LLM-level testing under controlled inputs and agent-level testing of complete systems. The framework connects these levels to testing workflows and oracle evidence. We identify research directions in benchmarks, model and harness analysis, oracle construction, and lifecycle testing to support effective oversight alongside task correctness.
• Abstract（参考訳）: 大規模言語モデル(LLM)と人工知能(AI)エージェントの人間の監視は、ますます彼らの報告に依存している。 システム自身の判断に反する主張は、失敗を隠蔽し、タイムリーな介入を防ぎ、深刻な損害をもたらす可能性がある。 より優れた自律性は、人間のコントロールを維持するために、忠実な報告をますます重要にします。 本稿では,ソフトウェア工学の新しい研究分野として,LLMとAIエージェントの正直なテストを提案する。 私たちのゴールは、開発者が指定し、テストし、メンテナンスできるソフトウェア品質要件を忠実に報告することにあります。 我々は、正直なバグを、LLMまたはAIエージェントが誠実にコミュニケーションする必要がある場合に、報告時に自身の判断と矛盾する明示的な主張を行う行動上の欠陥として定義する。 制御された入力下でのLLMレベルのテストと,完全システムのエージェントレベルのテストを対象とする初期フレームワークを提案する。 このフレームワークはこれらのレベルを、ワークフローやオラクルのエビデンスをテストするために結びつける。 ベンチマーク、モデルおよびハーネス分析、オラクル構築、ライフサイクルテストにおける研究の方向性を特定し、タスクの正しさとともに効果的な監視を支援する。

関連論文リスト

• (Over)Reliance on Test Agents in AI-Assisted Software Testing [0.0]
  AIベースのテストエージェントは、継続的開発におけるフィードバックループを短くすることで、ソフトウェアテストの加速を約束する。 これらのメリットを実現するために、エンジニアは、エージェント出力が有用で、有効で、信頼性が高いかどうかを評価できなければならない。 本稿では、テストにおけるAIの過信はどちらも機関の問題であり、エンジニアはテスト設計決定に対する認知的制御を引き継ぐことができる、と論じる。
  論文  参考訳（メタデータ） (2026-07-20T13:23:49Z)
• Time to REFLECT: Can We Trust LLM Judges for Evidence-based Research Agents? [61.49434544687523]
  本稿では,エージェント環境におけるきめ細かい故障検出を目的としたメタ評価ベンチマークREFLECTを紹介する。 REFLECTはプロセスレベルの障害モードと結果レベルの障害モードの詳細な分類を定義し、制御および局所的な介入を実行することでインスタンス化する。 私たちの実験では、最高のパフォーマンスモデルでさえ、推論、ツール使用、レポート品質の失敗に対して、全体的なアキュラシーを55%以下に達成しています。
  論文  参考訳（メタデータ） (2026-05-18T23:55:08Z)
• Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
  エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。 この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。 各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
  論文  参考訳（メタデータ） (2026-05-17T10:26:37Z)
• When AIs Judge AIs: The Rise of Agent-as-a-Judge Evaluation for LLMs [8.575522204707958]
  大規模言語モデル(LLM)は能力と自律性が向上し、特にオープンで複雑なタスクにおいて、アウトプットの評価が重要なボトルネックとなっている。 新たなパラダイムが生まれつつある。AIエージェントを評価対象として使用することだ。 本稿では,エージェント・アズ・ア・ジャッジの概念を定義し,単一モデル審査員から動的マルチエージェント・ディスカッション・フレームワークへの進化を辿り,その強みと欠点を批判的に検証する。
  論文  参考訳（メタデータ） (2025-08-05T01:42:25Z)
• The AI Imperative: Scaling High-Quality Peer Review in Machine Learning [49.87236114682497]
  AIによるピアレビューは、緊急の研究とインフラの優先事項になるべきだ、と私たちは主張する。 我々は、事実検証の強化、レビュアーのパフォーマンスの指導、品質改善における著者の支援、意思決定におけるAC支援におけるAIの具体的な役割を提案する。
  論文  参考訳（メタデータ） (2025-06-09T18:37:14Z)
• Evaluating LLM-Contaminated Crowdsourcing Data Without Ground Truth [18.069595635842557]
  クラウドソーシングワーカーによる大規模言語モデル(LLM)は、人間の入力を反映するデータセットに挑戦する。 LLMの共謀を考慮に入れたクラウドソーシングモデルの下で,理論的保証付き学習自由スコアリング機構を提案する。
  論文  参考訳（メタデータ） (2025-06-08T04:38:39Z)
• Can We Trust AI Agents? A Case Study of an LLM-Based Multi-Agent System for Ethical AI [10.084913433923566]
  AIベースのシステムは、多様なタスクをサポートすることによって数百万に影響を及ぼすが、誤情報、偏見、誤用といった問題に直面している。 本研究では,Large Language Models (LLM) を用いたAI倫理の実践について検討する。 エージェントがAIインシデントデータベースから現実のAI倫理問題に関する構造化された議論を行うプロトタイプを設計する。
  論文  参考訳（メタデータ） (2024-10-25T20:17:59Z)
• How Far Are LLMs from Believable AI? A Benchmark for Evaluating the Believability of Human Behavior Simulation [46.42384207122049]
  我々は,人間の振る舞いをシミュレートする際の大規模言語モデル (LLM) の信頼性を評価するために SimulateBench を設計する。 SimulateBenchに基づいて、文字をシミュレートする際、広く使われている10個のLLMの性能を評価する。
  論文  参考訳（メタデータ） (2023-12-28T16:51:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。