論文の概要: A Distributional Framework for Behavioral Characterization and Risk Management of Large Language Models
- arxiv url: http://arxiv.org/abs/2610.12718v1
- Date: Thu, 08 Oct 2026 20:57:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.282132
- Title: A Distributional Framework for Behavioral Characterization and Risk Management of Large Language Models
- Title（参考訳）: 大規模言語モデルの行動特性とリスク管理のための分布的枠組み
- Abstract要約: 同じ実験条件下で繰り返し実行される場合、異なる反応が生じる可能性がある。
本稿では,タスク設計から残留動作,継続的な監視に至るまで,モデルライフサイクル全体にわたって適用可能なフレームワークを提案する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models are stochastic by nature. Repeated executions under the same experimental conditions may produce different responses. We propose a framework that can be applied across the model lifecycle, from task design to residual behavior and continuous monitoring. The method consists of building an empirical response distribution estimated through Monte Carlo simulation. Semantic interventions are introduced to study how these distributions change. We illustrate the framework with two different tasks, borrower classification and music album recommendation, and quantify the resulting distributional changes. The framework is linked to model risk management and governance by measuring robustness and control effectiveness, and characterizing residual behavior. Since it relies only on observed responses, it can also be applied to black-box models accessed through commercial APIs.
- Abstract（参考訳）: 大きな言語モデルは本質的に確率的である。
同じ実験条件下で繰り返し実行される場合、異なる反応が生じる可能性がある。
本稿では,タスク設計から残留動作,継続的な監視に至るまで,モデルライフサイクル全体にわたって適用可能なフレームワークを提案する。
この手法はモンテカルロシミュレーションにより推定された経験的応答分布の構築から成り立っている。
これらの分布がどのように変化するかを研究するために、意味的な介入が導入された。
このフレームワークを,借り手分類と音楽アルバム推薦という2つの異なるタスクで説明し,その結果の分布変化を定量化する。
このフレームワークは、ロバストネスとコントロールの有効性を測定し、残余の振る舞いを特徴付けることによって、モデルリスク管理とガバナンスに結びついている。
観測された応答のみに依存するため、商用APIを通じてアクセスされるブラックボックスモデルにも適用することができる。
関連論文リスト
- TapSampling: Inference-Time Sampling with a Task-Progress-Understanding Verifier for Robotic Manipulation [61.35569005726248]
既存の具体的制御研究は、トレーニングデータとモデルサイズをスケールすることで、顕著なパフォーマンス向上を示す。
拡散や自己回帰モデルのような非決定論的生成モデルは、エンボディドコントロールの分野で広く採用されている。
推測時間サンプリングのためのプラグイン・アンド・プレイフレームワークである textbfTapSampling を提案する。
論文 参考訳（メタデータ） (2026-05-25T08:03:31Z) - Modeling Pathology-Like Behavioral Patterns in Language Models Through Behavioral Fine-Tuning [0.0]
大規模言語モデルは、人間のような振る舞いをモデル化するための計算ツールとして、ますます使われている。
本稿では,構造化意思決定タスクの微調整によるモデルポリシーの修正を行う行動誘導フレームワークを提案する。
次に、この挙動最適化が生成分布の系統的変化をもたらすかどうかを検証する。
論文 参考訳（メタデータ） (2026-05-21T11:42:38Z) - Evaluating Pragmatic Reasoning in Large Language Models: Evidence from Scalar Diversity [2.538209532048867]
本研究は,複数のモデルおよび実験環境における直接確率測定とメタinguistic promptingの比較を行った。
その結果, 評価手法が相反する結果が得られず, 実用的行動はモデルファミリ, 促進戦略, タスク構造によって大きく異なることがわかった。
論文 参考訳（メタデータ） (2026-05-09T16:28:50Z) - The A-R Behavioral Space: Execution-Level Profiling of Tool-Using Language Model Agents in Organizational Deployment [0.3823356975862005]
大規模言語モデル(LLM)は、システムレベルの操作を実行するツール拡張エージェントとして、ますます多くデプロイされている。
本研究では,行動速度 (A) と拒絶信号 (R) で定義される2次元A-R空間に基づく実行層型行動計測手法を提案する。
モデルは4つの規範的体制と3つの自律的構成で評価される。
論文 参考訳（メタデータ） (2026-04-13T22:50:21Z) - D-Models and E-Models: Diversity-Stability Trade-offs in the Sampling Behavior of Large Language Models [91.21455683212224]
大規模言語モデル(LLMs)では、次の情報の関連性確率は、次の製品の関連性確率に関連付けられる。
しかし、きめ細かいサンプリング確率がタスク要求に忠実に適合するかどうかは未解決の問題だ。
P_tokenが大きなステップ・ツー・ステップの変動を示し、P_taskとの整合性が低いDモデルと、P_tokenがより安定してP_taskに整合するEモデルである。
論文 参考訳（メタデータ） (2026-01-25T14:59:09Z) - Spatial Reasoning with Denoising Models [49.83744014336816]
本稿では,連続変数の集合に対する推論を行うためのフレームワークを提案する。
初めて、その生成順序をデノナイジングネットワーク自体によって予測できる。
これらの結果から,特定の推論タスクの精度を1%から50%に向上させることができる。
論文 参考訳（メタデータ） (2025-02-28T14:08:30Z) - Model-free Methods for Event History Analysis and Efficient Adjustment (PhD Thesis) [55.2480439325792]
この論文は、モデルフリーの観点から統一された統計学への独立した貢献のシリーズである。
第1章では、機械学習から予測技術を活用する柔軟なメソッドを定式化するために、モデルフリーの視点をどのように利用できるか、詳しく説明している。
第2章では、あるプロセスの進化が他のプロセスに直接影響されるかどうかを記述した地域独立の概念を研究している。
論文 参考訳（メタデータ） (2025-02-11T19:24:09Z) - Explanatory Model Monitoring to Understand the Effects of Feature Shifts on Performance [61.06245197347139]
そこで本研究では,機能シフトによるブラックボックスモデルの振る舞いを説明する新しい手法を提案する。
本稿では,最適輸送と共有値の概念を組み合わせた提案手法について,説明的性能推定として紹介する。
論文 参考訳（メタデータ） (2024-08-24T18:28:19Z) - Multiply-Robust Causal Change Attribution [15.501106533308798]
我々は,各因果メカニズムの貢献度を定量化するために,回帰法と再重み付け法を組み合わせた新しい推定方法を開発した。
本手法はモンテカルロシミュレーションにおいて優れた性能を示し,その有効性を示す。
論文 参考訳（メタデータ） (2024-04-12T22:57:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。