論文の概要: Trustworthy AI: Ensuring Reliability and Accountability from Models to Agents
- arxiv url: http://arxiv.org/abs/2605.08964v1
- Date: Sat, 09 May 2026 14:11:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:49.996615
- Title: Trustworthy AI: Ensuring Reliability and Accountability from Models to Agents
- Title（参考訳）: 信頼できるAI - モデルからエージェントへの信頼性と説明責任を保証する
- Abstract要約: 機械学習(ML)システムの信頼性と説明責任を保証するための理論的保証付きアルゴリズムを開発する。
この論文は、情報理論、最適化、統計的学習に基づくツールを導入し、バイアスを緩和し、任意の決定を減らし、コンテンツの証明を保証する。
大規模言語モデル(LLM)の透かしによる生成AIにおける説明責任の確保
- 参考スコア（独自算出の注目度）: 2.3407932351117324
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: In this thesis, we develop algorithms with theoretical guarantees for ensuring reliability and accountability of Machine Learning (ML) systems. As ML systems evolve from predictive models to generative models and autonomous agents, the landscape of trustworthy AI has shifted. This thesis introduces tools grounded in information theory, optimization, and statistical learning to mitigate bias, reduce arbitrary decisions, ensure content provenance, and evaluate LLM-driven agents in autonomous settings. Towards mitigating bias and arbitrariness in traditional ML models, we introduce a kernel-based method to achieve multiaccuracy across complex subpopulations that traditional demographic categories may overlook. We also develop methods to address predictive multiplicity, where equally accurate models yield conflicting individual predictions. We ensure the accountability in generative AI through watermarking large language models (LLMs). We characterize the information-theoretic trade-off between watermark detection and text distortion and derive optimal watermarking strategies by leveraging optimal transport and coding theory. Empirical evaluations show our watermarks achieve a superior detection-quality tradeoff across language generation and coding tasks. Finally, we evaluate autonomous LLM agents in multi-agent environments through the first simulator of a fully LLM-driven supply chain. LLM agents offer significant performance gains, outperforming human teams and reducing costs by up to 67%, but also introduce systemic risks, including costly tail events.
- Abstract（参考訳）: 本稿では,機械学習(ML)システムの信頼性と説明責任を保証するための理論的保証付きアルゴリズムを開発する。
MLシステムは予測モデルから生成モデルや自律エージェントへと進化するにつれて、信頼できるAIの展望がシフトしている。
この論文では、情報理論、最適化、統計的学習に基づくツールを導入し、バイアスを緩和し、任意の決定を減らし、コンテンツの証明を確実にし、自律的な設定でLLM駆動エージェントを評価する。
従来のMLモデルのバイアスと任意性を緩和するために,従来の階層分類では見過ごせないような複雑なサブ集団間の多重精度を実現するカーネルベースの手法を導入する。
また、予測多重性に対処する手法も開発しており、同じ精度のモデルが矛盾する個々の予測を生成する。
我々は、大規模言語モデル(LLM)を透かし、生成AIにおける説明責任を確保する。
我々は、透かし検出とテキスト歪みの間の情報理論上のトレードオフを特徴づけ、最適な輸送理論と符号化理論を利用して最適な透かし戦略を導出する。
経験的評価は、言語生成およびコーディングタスク間の優れた検出品質のトレードオフを実現することを示す。
最後に,LLM駆動サプライチェーンの最初のシミュレータを用いて,マルチエージェント環境における自律型LCMエージェントの評価を行った。
LLMエージェントは、大幅なパフォーマンス向上、人的チームのパフォーマンス向上、コストの最大67%削減に加えて、コストのかかる尾イベントを含むシステム的リスクも導入する。
関連論文リスト
- A Self-Calibrating Agentic AI Framework for Autonomous Edge Resource Allocation [2.131323683158522]
大規模言語モデル(LLM)は、静的な会話インターフェイスから複雑な推論、ツールの実行、意思決定が可能な動的システムに移行する、自律的なエージェントとしてますます多くデプロイされている。
LLM駆動システム内での自律的完全性を実現するために設計されたエージェントAIフレームワークを提案し,実験的に評価する。
本研究では, ARIMA予測器を組み込むことにより, 流れを緩和し, 地上の真実を動的に近似する自己校正機構を設計する。
論文 参考訳（メタデータ） (2026-07-24T15:21:54Z) - Position: agentic AI orchestration should be Bayes-consistent [92.04373485710285]
本稿では,エージェントシステムのオーケストレーションレベルにおいて,一貫性のある意思決定にはベイズ原理が必要であることを論じる。
信念とユーティリティ対応ポリシーがエージェントAIオーケストレーションをどのように改善するかを説明するための例とデザインパターンを提供する。
論文 参考訳（メタデータ） (2026-05-01T15:43:43Z) - MM-HELIX: Boosting Multimodal Long-Chain Reflective Reasoning with Holistic Platform and Adaptive Hybrid Policy Optimization [103.74675519953898]
ロングチェーンのリフレクティブ推論は、複雑な現実世界の問題を解決するための前提条件である。
我々は42の難解な合成タスクの1,260のサンプルからなるベンチマークを構築した。
トレーニング後のデータを生成し、そのようなデータを活用するための学習パラダイムを探索する。
論文 参考訳（メタデータ） (2025-10-09T17:53:58Z) - SFR-DeepResearch: Towards Effective Reinforcement Learning for Autonomously Reasoning Single Agents [93.26456498576181]
本稿では,ディープリサーチのためのネイティブ自律単エージェントモデルの開発に焦点をあてる。
我々の最良の変種であるSFR-DR-20Bは、HumanityのLast Examベンチマークで28.7%に達する。
論文 参考訳（メタデータ） (2025-09-08T02:07:09Z) - Uncertainty-Aware Collaborative System of Large and Small Models for Multimodal Sentiment Analysis [17.98292973608615]
マルチモーダル感情分析のための強力なMLLMと軽量なベースラインモデルを編成する新しい不確実性認識協調システム(U-ACS)を提案する。
提案手法は,スタンドアロンのMLLMに比べて計算資源のごく一部しか必要とせず,最先端の性能を実現する。
論文 参考訳（メタデータ） (2025-08-27T16:01:58Z) - Explainable Artificial Intelligence Credit Risk Assessment using Machine Learning [0.0]
本稿では,3つの最先端アンサンブル機械学習モデルと説明可能なAI(XAI)技術を組み合わせたAIによる信用リスク評価システムを提案する。
このシステムはXGBoost、LightGBM、Random Forestアルゴリズムを利用してローンデフォルトリスクの予測分析を行う。
LightGBMは、最も正確で、承認とデフォルトのレートのトレードオフが最良のビジネス最適化モデルとして登場します。
論文 参考訳（メタデータ） (2025-06-24T07:20:05Z) - Attention Pruning: Automated Fairness Repair of Language Models via Surrogate Simulated Annealing [14.432850893209817]
本稿では,大規模言語モデル (LLM) におけるアテンションヘッドに対するアテンション・プルーニング(Attention Pruning) を提案する。
我々の実験は、注意喚起によって最大40%の性別バイアスが減少し、最先端のバイアス緩和戦略よりも優れることを示した。
論文 参考訳（メタデータ） (2025-03-20T03:02:32Z) - Will Pre-Training Ever End? A First Step Toward Next-Generation Foundation MLLMs via Self-Improving Systematic Cognition [89.50068130832635]
自己改善認知 (SIcog) は、マルチモーダル知識によって次世代のMLLMを構築するための自己学習フレームワークである。
ステップバイステップの視覚的理解のためのChain-of-Descriptionを提案し、詳細なマルチモーダル推論をサポートするために構造化されたChain-of-Thought(CoT)推論を統合する。
実験は、マルチモーダル認知を増強したMLLMの開発におけるSIcogの有効性を示す。
論文 参考訳（メタデータ） (2025-03-16T00:25:13Z) - Network Resource Optimization for ML-Based UAV Condition Monitoring with Vibration Analysis [54.550658461477106]
条件監視(CM)は機械学習(ML)モデルを使用して異常および異常な条件を識別する。
本研究では,MLベースのUAV CMフレームワークにおけるネットワークリソースの最適化について検討する。
次元削減技術を活用することで、ネットワークリソース消費の99.9%が削減される。
論文 参考訳（メタデータ） (2025-02-21T14:36:12Z) - Efficient Self-Improvement in Multimodal Large Language Models: A Model-Level Judge-Free Approach [31.654345704242512]
本稿では,新しいモデルレベルの判断自由自己改善フレームワークを提案する。
本手法では,検証ループにおけるMLLMの必要性を解消しつつ,制御されたフィードバック機構を用いる。
計算要求が大幅に小さく、精度とリコールの精度が向上する。
論文 参考訳（メタデータ） (2024-11-26T00:44:37Z) - From Quantity to Quality: Boosting LLM Performance with Self-Guided Data Selection for Instruction Tuning [52.257422715393574]
本稿では,Large Language Models (LLMs) の自己誘導手法を導入し,オープンソースデータセットからサクラサンプルを自動識別し,選択する。
我々の重要な革新である命令追従困難度(IFD)メトリックは、モデルが期待する応答と本質的な生成能力の相違を識別するための重要な指標として現れます。
論文 参考訳（メタデータ） (2023-08-23T09:45:29Z) - Efficient Model-based Multi-agent Reinforcement Learning via Optimistic
Equilibrium Computation [93.52573037053449]
H-MARL (Hallucinated Multi-Agent Reinforcement Learning) は,環境と数回交流した後の平衡政策を学習する。
自律運転シミュレーションベンチマークにおいて,本手法を実験的に実証した。
論文 参考訳（メタデータ） (2022-03-14T17:24:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。