論文の概要: The Role of Causal Features in Strategic Classification for Robustness and Alignment

• arxiv url: http://arxiv.org/abs/2605.27163v1
• Date: Tue, 26 May 2026 15:22:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-27 17:51:42.375852
• Title: The Role of Causal Features in Strategic Classification for Robustness and Alignment
• Title（参考訳）: ロバストネスとアライメントの戦略的分類における因果的特徴の役割
• Authors: Antonio Gois, Sophia Gunluk, Nir Rosenfeld, Nidhi Hegde, Simon Lacoste-Julien, Dhanya Sridhar,
• Abstract要約: 因果分類は十分に大きな適応後の最適分類誤差につながることを示す。 また,因果的特徴の活用により,機関とユーザ間の長期的インセンティブの整合が期待できることを示す。
• 参考スコア（独自算出の注目度）: 25.887575812872957
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In strategic classification, an institution (e.g., a bank) anticipates adaptation from users who change their features to increase utility in a classification task (e.g., loan repayment). Since a key challenge is the distribution shift induced by users, we turn to causal models, which have been shown to bound the worst-case out-of-distribution (OOD) risk, and establish several new results that link causality and strategic classification. First, we show that causal classification leads to optimal classification error after any sufficiently large adaptation, when the noise is bounded in a certain way. Second, when these assumptions do not hold, we show OOD cross-entropy risk of optimal classifiers decomposes into an OOD bias term and a term arising from not using all observable features, allowing us to understand when causal classifiers have an advantage. Finally, we show that the use of causal features can allow alignment of long-term incentives between institutions and users, contrasting with previous work that highlights social costs of such approaches. We validate our theory empirically on synthetic data, finding that our results predict behavior in practice.
• Abstract（参考訳）: 戦略的分類において、組織(例えば、銀行)は、分類タスク(例えば、ローン返済)における実用性を高めるために、特徴を変更するユーザからの適応を予想する。 主な課題は,ユーザによる分散シフトであり,最悪のアウト・オブ・ディストリビューション(OOD)リスクを束縛した因果モデルに転換し,因果関係と戦略分類を結びつける新たな結果を確立することである。 まず,雑音が一定の方法で束縛されている場合,因果分類が十分に大きな適応後の最適分類誤差をもたらすことを示す。 第二に、これらの仮定が成り立たない場合、最適分類器のOODクロスエントロピーリスクは、すべての観測可能な特徴を使わないことから生じるOODバイアス項とOODバイアス項に分解され、因果分類器が有利であるかを理解することができる。 最後に、因果的特徴を用いることで、こうしたアプローチの社会的コストを強調する従来の作業と対照的に、機関とユーザ間の長期的インセンティブの調整が可能になることを示す。 この理論を人工的なデータに基づいて実証的に検証し, 実験結果が実際の行動を予測することを発見した。

関連論文リスト

• How RLHF Amplifies Sycophancy [23.213056717401418]
  大規模言語モデルは、好みに基づく後訓練後、しばしばサイコファンティックな振る舞いを増大させる。 我々は、アライメントに使用する人間の嗜好データにおいて、学習した報酬に対する最適化とバイアスを因果的に関連付ける明示的な増幅機構を同定する。 本稿では,増幅機構自体を中和する訓練時間介入を提案する。
  論文  参考訳（メタデータ） (2026-02-01T03:46:14Z)
• A Reverse Causal Framework to Mitigate Spurious Correlations for Debiasing Scene Graph Generation [59.473751744275496]
  シーングラフ生成(SGG)フレームワークは通常、関係の特徴を抽出する検出器と、それらの関係を分類する分類器を備えている。 このような因果連鎖構造は、検出器の入力と最終的な予測の間に急激な相関をもたらす。 本稿では、因果連鎖構造を逆因果構造に再構築し、分類器の入力を共同創設者として扱うことを提案する。
  論文  参考訳（メタデータ） (2025-05-29T13:57:01Z)
• Incentivizing Desirable Effort Profiles in Strategic Classification: The Role of Causality and Uncertainty [4.987315310656657]
  エージェントが分類結果を改善するために特徴を変更できるバイナリ因果関係における戦略的分類について検討する。 以上の結果から,ドライブエージェントは,主嗜好に反する可能性のある,期待された重要度と重要性の低い特徴を優先することが示唆された。
  論文  参考訳（メタデータ） (2025-02-10T18:22:22Z)
• Identifiable Latent Neural Causal Models [82.14087963690561]
  因果表現学習は、低レベルの観測データから潜伏した高レベルの因果表現を明らかにすることを目指している。 因果表現の識別可能性に寄与する分布シフトのタイプを決定する。 本稿では,本研究の成果を実用的なアルゴリズムに翻訳し,信頼性の高い潜在因果表現の取得を可能にする。
  論文  参考訳（メタデータ） (2024-03-23T04:13:55Z)
• When Does Confidence-Based Cascade Deferral Suffice? [69.28314307469381]
  カスケードは、推論コストをサンプル毎に適応的に変化させる古典的な戦略である。 deferralルールは、シーケンス内の次の分類子を呼び出すか、または予測を終了するかを決定する。 カスケードの構造に執着しているにもかかわらず、信頼に基づく推論は実際は極めてうまく機能することが多い。
  論文  参考訳（メタデータ） (2023-07-06T04:13:57Z)
• Generalizable Information Theoretic Causal Representation [37.54158138447033]
  本稿では,観測データから因果表現を学習するために,仮説因果グラフに基づいて相互情報量で学習手順を規則化することを提案する。 この最適化は、因果性に着想を得た学習がサンプルの複雑さを減らし、一般化能力を向上させるという理論的保証を導出する反ファクト的損失を伴う。
  論文  参考訳（メタデータ） (2022-02-17T00:38:35Z)
• Learning Causal Semantic Representation for Out-of-Distribution Prediction [125.38836464226092]
  因果推論に基づく因果意味生成モデル(CSG)を提案し,その2つの要因を別々にモデル化する。 CSGはトレーニングデータに適合させることで意味的因子を識別できることを示し、この意味的識別はOOD一般化誤差の有界性を保証する。
  論文  参考訳（メタデータ） (2020-11-03T13:16:05Z)
• Provable tradeoffs in adversarially robust classification [96.48180210364893]
  我々は、ロバストなイソペリメトリに関する確率論の最近のブレークスルーを含む、新しいツールを開発し、活用する。 この結果から,データの不均衡時に増加する標準精度とロバスト精度の基本的なトレードオフが明らかになった。
  論文  参考訳（メタデータ） (2020-06-09T09:58:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。