論文の概要: From Bias to Positionality: A critical grammar for Large Language Models
- arxiv url: http://arxiv.org/abs/2611.14079v1
- Date: Tue, 10 Nov 2026 13:41:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-12 04:24:43.823716
- Title: From Bias to Positionality: A critical grammar for Large Language Models
- Title(参考訳): バイアスから位置性へ:大規模言語モデルにとって重要な文法
- Abstract要約: Biasは、機械学習システムの動作と、それらとの関連性を理解するためのデフォルトレンズになっている。
言語モデルの一般的な使用では、標準には何の役にも立たない。
位置性は、現在これらのモデルが強要している問題にとってより良い文法である、と私たちは主張する。
- 参考スコア(独自算出の注目度): 10.23056131467512
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bias has become a default lens for understanding what machine learning systems do and how we should relate to them. Bias is at root a deviation from a standard; in decision making systems we can supply a standard from outside: a law, a protected attribute, a benchmark, a statistical property. However, even there, biased is often used as a shorthand, without stating what the position taken is - a silent ``relative to''. In a general use of language models, nothing supplies the standard: there is no decision to audit and no counterfactual output, so the shorthand fails. We argue that positionality -- the located, articulated, owned and contestable position from which anything is said -- is the better grammar for the question these models now force: who is speaking, from where? Against the vendors' answer of nowhere and the seductive possibility of everywhere, we argue that when a model is taken as-if speaking, it speaks from somewhere, and this means positionality can describe models, and the way they are believed beyond their warrant, even though they are not accountable speakers. A model's positionality is laminar -- laid down across corpus, tuning, system prompt, application and the live conversation. We separate three sets of factors: the positionality of a model's creators, the behaviour they intend for it, and the behaviour it enacts, and situate current work within this matrix. This lets us highlight what each stratum inherits from the one below, with ruptures and collapses where that inheritance is disavowed. We then return to where models speak from, and discuss the implications for how models are made, read and held accountable.
- Abstract(参考訳): Biasは、機械学習システムの動作と、それらとの関連性を理解するためのデフォルトレンズになっている。
意思決定システムでは、法律、保護された属性、ベンチマーク、統計特性など、外部から標準を供給できます。
しかし、そこにいても、その位置が何であるかを述べることなく、しばしば短文としてバイアスが用いられる。
言語モデルの一般的な使用では、標準には何の役にも立たない。
私たちは、位置性(位置的、具体的、所有的、競争可能な位置)は、現在これらのモデルが強要している問題に対してより良い文法である、と論じています。
至る所でベンダーの回答と誘惑的な可能性に対して、モデルが他の場所から話されている場合、位置性はモデルを記述することができ、それらが説明可能な話者ではないとしても、彼らの保証を越えて信じる方法を記述することができる、と我々は論じている。
モデルの位置性はラミナであり、コーパス、チューニング、システムプロンプト、アプリケーション、ライブ会話にまたがって配置される。
モデルの作成者の位置性、それらが意図する振る舞い、それが実施する振る舞い、このマトリックス内での現在の作業のシチュエーションの3つの要素を分けます。
これにより、各層が下にある層から継承したものを強調し、その継承を否定する破壊と崩壊を発生させる。
その後、モデルが話される場所に戻り、モデルの作成、読み取り、そして説明責任を持つ方法の意味について議論します。
関連論文リスト
- Objects Without Morphisms: What LLMs for Mathematics Do Not Represent [27.64177147171874]
大規模言語モデル (LLM) は、競争数学のエキスパートレベルの性能に到達した。
周辺地域の方言間での文の翻訳という,外部基準が存在しない問題について検討する。
我々は、個別のブラインドキューで真実、内容、スコープを符号化する機器を導入する。
論文 参考訳(メタデータ) (2026-10-02T16:33:32Z) - Surface Fairness, Deep Bias: A Comparative Study of Bias in Language Models [45.41676783204022]
大規模言語モデル(LLM)におけるバイアスの様々なプロキシ尺度について検討する。
MMLU (Multi-subject benchmark) を用いた人格評価モデルでは, スコアの無作為かつ大半がランダムな差が生じることがわかった。
LLMアシスタントメモリとパーソナライゼーションの最近の傾向により、これらの問題は異なる角度から開かれている。
論文 参考訳(メタデータ) (2025-06-12T08:47:40Z) - Beyond Early-Token Bias: Model-Specific and Language-Specific Position Effects in Multilingual LLMs [50.07451351559251]
我々は,5言語(英語,ロシア語,ドイツ語,ヒンディー語,ベトナム語)にまたがる調査を行った。
位置バイアスが即時戦略とどのように相互作用し、出力エントロピーに影響を及ぼすかを検討する。
論文 参考訳(メタデータ) (2025-05-22T02:23:00Z) - Are language models rational? The case of coherence norms and belief revision [63.78798769882708]
我々は、論理的コヒーレンス規範と、言語モデルにおける信念の強さに結びついたコヒーレンス規範を考察する。
コヒーレンスに結びついた有理ノルムはいくつかの言語モデルに適用できるが、他のモデルには適用されない。
論文 参考訳(メタデータ) (2024-06-05T16:36:21Z) - The Curious Case of Absolute Position Embeddings [65.13827063579728]
トランスフォーマー言語モデルは、位置情報を用いた単語順序の概念を符号化する。
自然言語では、絶対的な位置ではなく相対的な位置であり、APEがこのような情報を捉えることができる範囲は研究されていない。
我々は, APE を用いて訓練されたモデルが, 位置情報をシフトした文を入力した時点で, 位置情報に基づいて過度に訓練されていることを観察した。
論文 参考訳(メタデータ) (2022-10-23T00:00:04Z) - Norm Participation Grounds Language [16.726800816202033]
私は、どのような基礎言語が規範的な性質であるのかという考え方を、異なる、より広範に提案します。
物事を正しく行うための基準があり、これらの標準は公然と権威があり、同時に権威の受容が議論され、交渉される。
言語がどのような基盤となるかは、言語ユーザーがそれを利用する決定的な方法であり、それが根底にあるのは、言語利用者のコミュニティである。
論文 参考訳(メタデータ) (2022-06-06T20:21:59Z) - A Generative Approach for Mitigating Structural Biases in Natural
Language Inference [24.44419010439227]
本研究では、NLIタスクを生成タスクとして再構成し、モデルが入力とラベルのバイアス付きサブセットに条件付けされるようにする。
このアプローチは大量のバイアスに対して非常に堅牢であることを示す。
生成モデルは訓練が困難であり、識別ベースラインよりも一般的にはパフォーマンスが悪くなっている。
論文 参考訳(メタデータ) (2021-08-31T17:59:45Z) - UnQovering Stereotyping Biases via Underspecified Questions [68.81749777034409]
未特定質問からバイアスを探索・定量化するためのフレームワークUNQOVERを提案する。
モデルスコアの素直な使用は,2種類の推論誤差による誤ったバイアス推定につながる可能性があることを示す。
我々はこの指標を用いて、性別、国籍、民族、宗教の4つの重要なステレオタイプの分析を行う。
論文 参考訳(メタデータ) (2020-10-06T01:49:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。