論文の概要: Outcome-Fair Restless Multi-Armed Bandits for Stochastic Deadline Scheduling
- arxiv url: http://arxiv.org/abs/2607.23772v1
- Date: Sun, 26 Jul 2026 17:48:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:15.223045
- Title: Outcome-Fair Restless Multi-Armed Bandits for Stochastic Deadline Scheduling
- Title(参考訳): 確率的デッドラインスケジューリングのためのアウトカムフェアレスマルチアームバンド
- Abstract要約: デッドラインスケジューリングアプリケーションにおいて、レスレスマルチアームバンディット(RMAB)問題について検討する。
RMABの目標は、累積割引指数報酬を最大化することである。
フェアネス基準を導入し、RMABのアウトカムフェアモデルについて検討する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: We study a restless multi-armed bandit (RMAB) problem for a stochastic deadline scheduling application. RMAB problems are solved using the Whittle index policy. The goal in RMAB is to maximize the expected cumulative discounted reward maximization. The Whittle index policy maximizes reward, but is not fair among two classes. In this paper, we introduce fairness criteria and study an outcome-fair model for RMAB which allows fairness for jobs and users structurally disadvantaged demographic classes. We formulate an outcome fair stochastic deadline scheduling problem as RMAB, and we develop the outcome fair Whittle index policy. We define a virtual queue mechanism that dynamically enforces long-term completion rate guaranties across demographic groups. We analyze a standard Whittle index policy and the outcome-fair index policy. We demonstrate the performance of our algorithms with numerical examples. We compare policies---Whittle index policy (no fairness), input-fairness Whittle index policy, outcome fair Whittle index policy. We observe that the outcome-fair Whittle index policy provides better fairness among classes compared to other policies. We demonstrate a trade off between fairness and profit. This decreases as the server capacity increases.
- Abstract(参考訳): 確率的期限スケジューリングアプリケーションにおいて、レスレスマルチアームバンディット(RMAB)問題について検討する。
RMAB問題はWhittleインデックスポリシーを用いて解決される。
RMABの目標は、期待される累積割引報酬最大化を最大化することである。
ウィトル指数政策は報酬を最大化するが、2つのクラスの間では公平ではない。
そこで本稿では, RMABの公正度基準を導入し, 職種と利用者の公正度を考慮し, 結果公正度モデルについて検討する。
RMABとして確率的期日スケジューリング問題を定式化し、Whittleインデックスポリシーを策定する。
人口集団間での長期完了率保証を動的に実施する仮想キュー機構を定義する。
標準Whittleインデックスポリシと結果フェアインデックスポリシを解析する。
数値的な例でアルゴリズムの性能を実演する。
我々は,「公正な指標政策」,「公正な指標政策」,「公正な指標政策」,「公正な指標政策」,「公正な指標政策」を比較した。
結果公正指数政策は,他の政策と比較して,クラス間の公平性を向上すると考えられる。
公正と利益のトレードオフを実証する。
これはサーバの容量が増加するにつれて減少します。
関連論文リスト
- Restless Bandits with Individual Penalty Constraints: A New Near-Optimal Index Policy and How to Learn It [8.559763606620937]
本稿では,無線ネットワーク環境における資源割り当て問題に対処するため,個別のペナルティ制約下でのRestless Multi-Armed Bandit (RMAB) フレームワークについて検討する。
従来のRMABモデルとは異なり、我々のモデルでは、各ユーザー(アーム)がエネルギー制限、アクティベーション制限、情報量最小化などの厳密な性能制約を課すことができる。
最適な資源配分ポリシを見つけるために,POW(Pinalty-Optimal Whittle)インデックスポリシを提案する。
論文 参考訳(メタデータ) (2026-04-05T12:53:10Z) - FlowRL: Matching Reward Distributions for LLM Reasoning [69.88820066093798]
大規模言語モデル(LLM)強化学習(RL)において、報酬を最大化する代わりに、フローバランシングによる全報酬分布をマッチングするフローRLを提案する。
我々はスカラー報酬を学習可能な分割関数を用いて正規化対象分布に変換し、その後、ポリシーと対象分布との逆KL分散を最小化する。
論文 参考訳(メタデータ) (2025-09-18T17:56:36Z) - Best-Effort Policies for Robust Markov Decision Processes [69.60742680559788]
我々は、ロバスト MDP (RMDPs) として知られる遷移確率の組によるマルコフ決定過程(MDPs)の共通一般化について研究する。
このような政策を最適な堅牢なベストプラクティス(ORBE)政策と呼ぶ。
我々はORBEポリシーが常に存在することを証明し、その構造を特徴付け、標準的なロバストな値反復よりも小さなオーバヘッドで計算するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-08-11T09:18:34Z) - Counterfactually Fair Reinforcement Learning via Sequential Data Preprocessing [13.34215548232296]
対実公正(CF)は、因果推論に基づく有望な統計ツールであり、公正を定式化し研究する。
我々は,最適なCFポリシーを理論的に特徴づけ,その定常性を証明し,最適なCFポリシーの探索を大幅に単純化する。
我々は、不公平を防ぎ、シミュレーションを通じて最適な価値を得るための政策学習アプローチを証明し、検証する。
論文 参考訳(メタデータ) (2025-01-10T22:27:44Z) - On the Global Convergence of Policy Gradient in Average Reward Markov
Decision Processes [50.68789924454235]
我々は、平均報酬マルコフ決定過程(MDP)の文脈における政策勾配の最初の有限時間大域収束解析を示す。
我々の分析によると、ポリシー勾配は、$Oleft(frac1Tright)$のサブリニアレートで最適ポリシーに収束し、$Oleft(log(T)right)$ regretに変換され、$T$は反復数を表す。
論文 参考訳(メタデータ) (2024-03-11T15:25:03Z) - Policy Dispersion in Non-Markovian Environment [53.05904889617441]
本稿では,非マルコフ環境下での国家行動ペアの歴史から,多様な政策の学習を試みる。
まず、ポリシー埋め込みを学習するために、トランスフォーマーベースの手法を採用する。
次に,政策埋め込みを積み重ねて分散行列を構築し,多様な政策の集合を誘導する。
論文 参考訳(メタデータ) (2023-02-28T11:58:39Z) - Autoregressive Bandits [58.46584210388307]
本稿では,オンライン学習環境であるAutoregressive Banditsを提案する。
報酬プロセスの軽微な仮定の下では、最適ポリシーを便利に計算できることが示される。
次に、新しい楽観的後悔最小化アルゴリズム、すなわちAutoRegressive Upper Confidence Bound (AR-UCB)を考案し、$widetildemathcalO left( frac(k+1)3/2sqrtnT (1-G)のサブ線形後悔を被る。
論文 参考訳(メタデータ) (2022-12-12T21:37:36Z) - DeepTOP: Deep Threshold-Optimal Policy for MDPs and RMABs [8.310098007927989]
制御問題に対する最適しきい値ポリシーを学習する問題を考察する。
しきい値ポリシーの単調性を活用することで、それらの政策勾配が驚くほど単純な表現であることを証明する。
我々は,Whittleインデックスを間接的手法で学習する最近のいくつかの研究よりも,Whittleインデックスをはるかに高速に学習することを示す。
論文 参考訳(メタデータ) (2022-09-18T20:13:34Z) - Restless Bandits with Many Arms: Beating the Central Limit Theorem [25.639496138046546]
有限ホライズン・レスト・ブレイディット(有限ホライズン・レスト・ブレイディット)は、レコメンデーターシステム、アクティブラーニング、収益管理、その他多くの分野で重要な役割を果たしている。
最適ポリシーは、原理的には動的プログラミングを用いて計算できるが、計算に必要なスケールは腕数$N$で指数関数的にスケールする。
最適性ギャップが$O(1)$である流体プライオリティポリシと呼ばれる、非退化条件と、実用的に計算可能な新しいポリシーのクラスを特徴付ける。
論文 参考訳(メタデータ) (2021-07-25T23:27:12Z) - Fair Set Selection: Meritocracy and Social Welfare [6.205308371824033]
候補集団から一組の個人を選定する問題を実用的最大化問題として定式化する。
意思決定者の視点からは、期待されるユーティリティを最大化する選択ポリシーを見つけることと等価である。
我々の枠組みは、選択政策に関して個人が期待する限界貢献(EMC)の概念を、長所主義からの逸脱の尺度として導く。
論文 参考訳(メタデータ) (2021-02-23T20:36:36Z) - Risk-Sensitive Deep RL: Variance-Constrained Actor-Critic Provably Finds
Globally Optimal Policy [95.98698822755227]
本研究は,リスクに敏感な深層強化学習を,分散リスク基準による平均報酬条件下で研究する試みである。
本稿では,ポリシー,ラグランジュ乗算器,フェンシェル双対変数を反復的かつ効率的に更新するアクタ批判アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-12-28T05:02:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。