論文の概要: Reliable AI-Assisted Decisions via Selective Auditing

• arxiv url: http://arxiv.org/abs/2610.31662v1
• Date: Thu, 22 Oct 2026 17:59:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.515414
• Title: Reliable AI-Assisted Decisions via Selective Auditing
• Title（参考訳）: 選択的監査による信頼性の高いAI支援決定
• Abstract要約: 我々は、一連の意思決定を生成するAIシステムのオンラインモニタリングについて検討する。 各ラウンドにおいて、システムは提案された決定を、決定の信頼性を推定する信頼スコアと共に出力する。 この情報に基づいて、我々はAIの判断を自動で受け入れるか、あるいは人間監査官のような専門家に相談するかを決めなければならない。
• 参考スコア（独自算出の注目度）: 14.749120479949633
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We consider online monitoring of an AI system that produces a sequence of decisions. At each round, the system outputs a proposed decision together with a confidence score estimating the trustworthiness of the decision. The decision and confidence score need not be produced by the same model: for example, one agent may propose a decision, while a separate verifier agent evaluates it and outputs a correctness or safety score. Based on this information, we must decide whether to accept the AI decision automatically or consult an expert, such as a human auditor, who reviews the proposal and either accepts or corrects it. We formulate this task as an online constrained optimization problem in which the goal is to minimize the frequency of expert auditing while guaranteeing that the fraction of AI errors that go unaudited stays below a user-defined threshold. We derive a family of algorithms with provable error-control guarantees with no assumptions, including a method that is optimally efficient: it asymptotically attains the best achievable auditing rate for both adversarial and i.i.d. data streams. Experiments on screening harmful requests to large language models, qualitative text annotation, and data labeling show that our methods achieve valid error control in practice while substantially reducing the need for human auditing compared to baselines.
• Abstract（参考訳）: 我々は、一連の意思決定を生成するAIシステムのオンラインモニタリングについて検討する。 各ラウンドにおいて、システムは提案された決定を、決定の信頼性を推定する信頼スコアと共に出力する。 例えば、あるエージェントが決定を提案し、別の検証エージェントがそれを評価し、正当性または安全性スコアを出力する。 この情報に基づいて、我々はAIの判断を自動で受け入れるか、あるいは人間監査官のような専門家に相談するかを決めなければならない。 私たちは、このタスクを、専門家監査の頻度を最小限に抑えつつ、未確認のAIエラーのごく一部がユーザ定義のしきい値以下であることを保証する、オンライン制約付き最適化問題として定式化します。 我々は、最適に効率的な手法を含む仮定なしで、証明可能なエラー制御保証を持つアルゴリズム群を導出する。 大規模言語モデルに対する有害な要求のスクリーニング,質的テキストアノテーション,データラベリング実験により,本手法が実際に有効なエラー制御を実現し,ベースラインに比べて人体監査の必要性を大幅に低減した。

関連論文リスト

• Risk-Aware Online Conformal State Probing [65.02200443982082]
  オンライン整合状態探索(オンライン整合状態探索、OCSP)は、分布仮定に頼ることなく最悪のケースの信頼性レベルを認定する行動・探索政策である。 OCSPは、リトレーニングや微調整を必要とせずに、既存のバリューベースのコントロールポリシーに適用することができる。
  論文  参考訳（メタデータ） (2026-09-22T08:55:09Z)
• Designing Service Systems from Textual Evidence [18.85883540190321]
  高価な人事監査を最小化しながら、信頼性の高い最適なサービス構成を特定する方法について検討する。 本研究では,プロキシスコアと逆確率重み付け残差を組み合わせた推定器を開発した。
  論文  参考訳（メタデータ） (2026-03-11T04:34:46Z)
• LEC: Linear Expectation Constraints for False-Discovery Control in Selective Prediction and Routing Systems [95.35293543918762]
  大規模言語モデル(LLM)はしばしば信頼できない答えを生成するが、不確実性のある手法は誤った予測と完全に区別することができない。 我々は、この問題を、偽発見率(FDR)制御のレンズを通して解決し、全ての許容された予測のうち、エラーの割合が目標のリスクレベルを超えないことを保証する。 本稿では,線形期待制約を強制することで,選択予測を制約付き決定問題として再解釈するLECを提案する。
  論文  参考訳（メタデータ） (2025-12-01T11:27:09Z)
• The Decisive Power of Indecision: Low-Variance Risk-Limiting Audits and Election Contestation via Marginal Mark Recording [51.82772358241505]
  リスクリミット監査(リスクリミット監査、RLA)は、大規模な選挙の結果を検証する技術である。 我々は、効率を改善し、統計力の進歩を提供する監査の新たなファミリーを定めている。 新しい監査は、複数の可能なマーク解釈を宣言できるように、キャストボイトレコードの標準概念を再考することで実現される。
  論文  参考訳（メタデータ） (2024-02-09T16:23:54Z)
• Weakly Supervised Learners for Correction of AI Errors with Provable Performance Guarantees [38.36817319051697]
  本稿では,最優先性能保証付き弱教師付きAI誤り訂正器を導入することにより,AIエラーを処理する新しい手法を提案する。 これらのAI補正は、その決定を承認または拒否することで、以前に構築されたいくつかの下位分類器の決定を緩和する役割を持つ補助的なマップである。 この作業の重要な技術的焦点は、誤った判断の可能性を限定して、これらの新しいAI修正器のパフォーマンス保証を提供することである。
  論文  参考訳（メタデータ） (2024-01-31T20:36:13Z)
• TrustFed: A Reliable Federated Learning Framework with Malicious-Attack Resistance [8.924352407824566]
  フェデレートラーニング(FL)は、個々のデータのプライバシを確保しながら、複数のクライアント間で協調的な学習を可能にする。 本稿では,階層型監査に基づくFL(HiAudit-FL)フレームワークを提案する。 シミュレーションの結果、HiAudit-FLは、システムオーバーヘッドを小さくして、潜在的悪意のあるユーザを効果的に識別し、対処できることが示されている。
  論文  参考訳（メタデータ） (2023-12-06T13:56:45Z)
• Online Decision Mediation [72.80902932543474]
  意思決定支援アシスタントを学習し、(好奇心)専門家の行動と(不完全)人間の行動の仲介役として機能することを検討する。 臨床診断では、完全に自律的な機械行動は倫理的余裕を超えることが多い。
  論文  参考訳（メタデータ） (2023-10-28T05:59:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。