論文の概要: PowerBench: Measuring Language Model Bias in Power-shifting Requests

• arxiv url: http://arxiv.org/abs/2610.02303v1
• Date: Thu, 01 Oct 2026 17:57:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.033022
• Title: PowerBench: Measuring Language Model Bias in Power-shifting Requests
• Title（参考訳）: PowerBench: パワーシフト要求における言語モデルバイアスの測定
• Abstract要約: PowerBenchは、自己エンパワーメント、非エンパワーメント、パワーゲーミングを区別するパワーシフト要求の評価である。 このようなリクエストのデータセットの構築、キュレート、オープンソース化は、パワードメイン、コンテキスト、影響を受けるパーティの規模、ユーザの以前のパワースタンプによって異なります。 モデルは、他者が米国から権力を得るのを助けることや、米国ユーザーが他者から権力を得るのを助けることに偏っている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language models increasingly assist people with power-related requests, so systematic differences in whom they help could shift the distribution of power at scale, or be exploited by users who learn which identities are refused less. We introduce PowerBench, an evaluation of power-shifting requests that distinguishes self-empowerment, disempowerment, and power grabbing, plus a control of refusal-inducing requests that shift no power. We build, curate, and open-source a dataset of such requests varying the power domain, the context, the scale of the affected party, and the prior power standing of the user, and evaluate 24 models (12 from US and 12 from Chinese developers) under three experimental conditions: reciprocal nationalities of user and affected party, an AI agent as the user, and 8 request languages. Models refuse power grabbing more than disempowerment, and disempowerment more than self-empowerment. Refusal of power grabbing rises with the scale of the affected party, from an individual to a society. Models are biased toward helping others take power from the US and against helping US users take power from others, but favor the US when it gains power and nobody loses it. When the user is an AI agent, refusal of power-shifting requests increases, especially in power grabbing against an individual. Finally, language biases refusal, but in model-specific ways that largely cancel on average. We release PowerBench to make these asymmetries measurable in current and future models.
• Abstract（参考訳）: 言語モデルは、パワー関連の要求を人々の助けになるため、大規模にパワーの分散をシフトしたり、どのIDが拒否されるのかを学習するユーザによって悪用される可能性がある。 本稿では,パワーシフト要求の評価を行うPowerBenchについて紹介する。 我々は、パワードメイン、コンテキスト、影響を受ける当事者の規模、ユーザの以前のパワースタンプを変動させるような要求のデータセットを構築し、キュレートし、オープンソース化し、3つの実験条件下で24のモデル(中国開発者12名、中国開発者12名)を評価します。 モデルは、非エンパワーメント以上のパワー獲得と、自己エンパワーメント以上の非エンパワーメントを拒否する。 権力獲得の拒絶は、個人から社会へ、影響された政党の規模に応じて上昇する。 モデルは、他者が米国から権力を得るのを助けることや、米国ユーザーが他者から権力を得るのを助けることに偏っている。 ユーザがAIエージェントである場合には、特に個人に対する電力獲得において、電力シフト要求の拒否が増加する。 最後に、言語バイアスは拒否されるが、モデル固有の方法では平均的にキャンセルされる。 我々はこれらの対称性を現在のモデルと将来のモデルで測定できるようにPowerBenchをリリースします。

関連論文リスト

• Three AI-agents walk into a bar . . . . `Lord of the Flies' tribalism emerges among smart AI-Agents [0.0]
  近未来のインフラシステムは、限られたリソースへのアクセスを何度も要求する自律的なAIエージェントによって制御される。 固定容量Cのシステムから1つのユニットを要求すべきかどうかを,NAIエージェントが独立して各ラウンドで決定する枠組みについて検討する。 群れの王 (Lord of the Flies) のAI版では、部族の集団的性格とアイデンティティによって支配する部族が出現する。
  論文  参考訳（メタデータ） (2026-02-26T15:12:26Z)
• Trust Me, I'm an Expert: Decoding and Steering Authority Bias in Large Language Models [0.09085204695117637]
  本研究では,言語モデルが支持者の認識する知識に基づいて,体系的バイアスを示すか否かを検討する。 我々の結果は、情報源の専門知識が増大するにつれて、モデルが不正確な/誤解を招く可能性がますます高まっていることを示している。 この権威バイアスは、モデル内に機械的に符号化され、モデルがバイアスから切り離される可能性があることを示す。
  論文  参考訳（メタデータ） (2026-01-19T22:37:30Z)
• Trustworthy Alignment of Retrieval-Augmented Large Language Models via Reinforcement Learning [84.94709351266557]
  検索強化に関して,言語モデルの信頼性に焦点をあてる。 検索強化言語モデルには,文脈的知識とパラメトリック的知識の両方に応じて応答を供給できる本質的な能力があると考えられる。 言語モデルと人間の嗜好の整合性に着想を得て,検索強化言語モデルを外部証拠にのみ依存する状況に整合させるための第一歩を踏み出した。
  論文  参考訳（メタデータ） (2024-10-22T09:25:21Z)
• Hype, Sustainability, and the Price of the Bigger-is-Better Paradigm in AI [67.58673784790375]
  AIパラダイムは、科学的に脆弱なだけでなく、望ましくない結果をもたらすものだ、と私たちは主張する。 第一に、効率の改善にもかかわらず、その計算要求はモデルの性能よりも速く増加するため、持続可能ではない。 第二に、健康、教育、気候などの重要な応用は別として、他人を犠牲にして特定の問題に焦点をあてることである。
  論文  参考訳（メタデータ） (2024-09-21T14:43:54Z)
• Representation Bias in Political Sample Simulations with Large Language Models [54.48283690603358]
  本研究は,大規模言語モデルを用いた政治サンプルのシミュレーションにおけるバイアスの同定と定量化を目的とする。 GPT-3.5-Turboモデルを用いて、米国選挙研究、ドイツ縦割り選挙研究、ズオビアオデータセット、中国家族パネル研究のデータを活用する。
  論文  参考訳（メタデータ） (2024-07-16T05:52:26Z)
• A Robust Power Model Training Framework for Cloud Native Runtime Energy Metric Exporter [2.661555989363678]
  現在のクラウド環境における電力消費量の推定は、グリーンコンピューティングに向けた炭素定量化に不可欠である。 本稿では,この目標に関する複数の課題について考察する。 最初の課題は、複数の顧客が同じハードウェアプラットフォームを共有していることだ。 第2の課題は、クラウドプラットフォームコントロールプレーンが引き起こす電力消費のオーバーヘッドである。
  論文  参考訳（メタデータ） (2024-04-10T02:20:29Z)
• Automatic Authorities: Power and AI [0.0]
  機械学習と関連する計算技術は、今や重要な政府サービスを支える。 投票方法からワクチン接種場所まで、あらゆることを知る方法を決定するのです。 LLM(Large Language Models)に基づく新しいプロダクトの波は、私たちの経済と政治の生活をさらに変えます。
  論文  参考訳（メタデータ） (2024-04-09T03:48:42Z)
• Are Emergent Abilities in Large Language Models just In-Context Learning? [46.561464069450444]
  創発的能力を説明する新しい理論を提示する。 以上の結果から,創発能力は真に創発的ではなく,文脈内学習,モデル記憶,言語知識の組み合わせによるものであることが示唆された。
  論文  参考訳（メタデータ） (2023-09-04T20:54:11Z)
• Model Extraction and Adversarial Attacks on Neural Networks using Switching Power Information [0.0]
  人工ニューラルネットワーク(ANN)は、医療、輸送、防衛といった分野において、狭いAI問題を解決することで、過去10年間で大きな人気を集めている。 ANNは、ネットワークのトレーニングやテストに使用されるデータとほとんど区別がつかないにもかかわらず、ANNが高信頼の誤分類を行う原因となる、多くの敵対的回避攻撃の影響を受けやすい。 この研究は、ANNのハードウェア実装のサイドチャネル情報、特に電力消費の切り替えによって、これらの例がどの程度役立つかを調べる。
  論文  参考訳（メタデータ） (2021-06-15T17:20:56Z)
• PowerTransformer: Unsupervised Controllable Revision for Biased Language Correction [62.46299488465803]
  文字表現における暗黙的かつ潜在的に望ましくないバイアスを修正するために、与えられたテキストを書き換えることを目的とした新しいリビジョンタスクを定式化する。 本稿では,意味フレームのレンズを通してテキストを除去する手法としてPowerTransformerを紹介する。 提案手法は, 関連するタスクから, アブレーションや既存メソッドよりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-10-26T18:05:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。