論文の概要: From Opinions to Commitments: Unstable Assignments and Silent Choices in AI-Mediated Proposals
- arxiv url: http://arxiv.org/abs/2611.05135v1
- Date: Tue, 03 Nov 2026 16:16:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-07 14:11:49.457309
- Title: From Opinions to Commitments: Unstable Assignments and Silent Choices in AI-Mediated Proposals
- Title(参考訳): 意見からコミットメントへ:AIを媒介とした提案における不安定な課題と沈黙の選択
- Abstract要約: 大きな言語モデル(LLM)は、市民の意見を集合的な提案に変換するために、ますます使われてきている。
これらの提案は、誰が行動すべきか、何をしなければならないのか、どれくらいの時間を費やすべきか、そしていつまでに行うべきか、といった課題を課すことができる。
同じ意見が再び処理された場合、課題が変更されれば、単一の提案を公開することで、参加者が見ることができない代替案を隠すことができる。
- 参考スコア(独自算出の注目度): 0.6221991810565809
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Large language models (LLMs) are increasingly being used to turn citizens' opinions into collective proposals. These proposals can make assignments: who should act, what must be done, how much one should spend and by when. However, if the assignments change when the same opinions are processed again, publishing a single proposal can hide alternatives that participants never get to see. We examined this issue in four LLM mediators (three open-weight and one commercial) using opinions from DeliberationBank and Polis. For each task, a mediator drafted a proposal from thirty opinions five times, varying either the random seed or the order of the opinions. In 17% of five-run sets from the open-weight mediators and 20% from the commercial one, some runs contained assignments while others did not. Reordering the opinions changed the assignments almost as often as replacing them with opinions from different citizens. Three human annotators confirmed that the detected differences between runs were real, although the LLM judge overstated how often they occurred. Substantial variation remained under four safeguards: temperature zero, a commercial mediator, draft selection, and draft merging. The mediator's objective also shaped representation: prompts seeking agreement covered minority positions much less often than prompts asking to describe differences. A single proposal can therefore obscure choices in both the assignments it proposes and the views it excludes. We propose audits that make alternative assignments visible and disclose the objective behind each proposal.
- Abstract(参考訳): 大きな言語モデル(LLM)は、市民の意見を集合的な提案に変換するために、ますます使われてきている。
これらの提案は、誰が行動すべきか、何をしなければならないのか、どれくらいの時間を費やすべきか、そしていつまでに行うべきか、といった課題を課すことができる。
しかし、同じ意見が再び処理されたときに課題が変更されれば、単一の提案を発行することで、参加者が決して見ることができない代替案を隠すことができる。
我々は,この問題を,DeliberationBank と Polis の意見をもとに,4つの LLM メディエータ (3つのオープンウェイトと1つのコマーシャル) で検討した。
それぞれのタスクに対して、仲介者は30の意見から5回提案を起草し、ランダムなシードまたは意見の順序が変化する。
オープンウェイト・メディエーターの5連発セットの17%、商用セットの20%では、一部のランは割り当てを含まなかった。
意見の並べ替えは、しばしば異なる市民の意見に代えて課題を変更した。
3人のアノテーターは、検出されたランニングの違いが本物であることを確認したが、LSMの裁判官はそれらの発生頻度を過大評価した。
実質的な変動は、温度ゼロ、商業仲介者、ドラフトセレクション、ドラフトマージの4つのセーフガードの下に留まった。
合意を求めるプロンプトは、違いを説明するプロンプトよりもはるかに少ない頻度で少数派の地位をカバーした。
したがって、単一の提案は、提案する代入と除外するビューの両方において不明瞭な選択をすることができる。
代替課題を目に見えるものにするための監査を提案し、それぞれの提案の背景にある目的を開示する。
関連論文リスト
- Label Authority in Speech Emotion Recognition: Intended and Perceived Ground Truth in Emozionalmente [0.664975374754221]
音声感情認識(SER)における地上の真実は、単一のカテゴリーの事実として示されることが多いが、聴取者が聴く感情は、同じ録音の異なる側面を記述している。
Emozionalmente(英語版)において、この区別について検討する。Emozionalmente(英語版)は、すべてのクリップに対して、ライセンスされた生産ラベルと5つのリスナー判断の両方を提供する、実行中のイタリアのコーパスである。
論文 参考訳(メタデータ) (2026-10-19T14:06:05Z) - Who Convinced Whom? Tracing How LLMs Change Their Minds in Multi-Agent Systems [10.64133570410112]
マルチエージェント討論(MAD)は、議論の交換を通じて言語モデル決定を改善することを目的としている。
ピアコミュニケーションが個人の意思決定や集団的成果にどう影響するかを,行動介入や内的介入を通じて検討する。
論文 参考訳(メタデータ) (2026-10-18T16:04:25Z) - When Debate Helps: Proposal Supply and Verification-Aware Readout in Multi-Agent Reasoning [7.463945838939353]
マルチエージェントの議論は推論を改善することができるが、単純な多数決に勝てないことが多い。
提案の供給は正しい回答を提示しなければなりませんし、読み出しは、投票が失敗したときにその答えを識別する必要があります。
論文 参考訳(メタデータ) (2026-10-03T17:59:46Z) - Explaining and Breaking the Safety-Helpfulness Ceiling via Preference Dimensional Expansion [75.37308041820552]
大規模言語モデルの多目的アライメントの領域では、異なる人間の嗜好のバランスがゼロサム競合として現れることが多い。
提案するMORA: Multi-Objective Reward Assimilationは, 複数次元インテントを組み込むために, 元の質問を書き換えることにより, 報酬の多様性を拡大し, シングルリワードプロンプトを分離する。
論文 参考訳(メタデータ) (2026-05-12T07:38:59Z) - Judging with Many Minds: Do More Perspectives Mean Less Prejudice? On Bias Amplifications and Resistance in Multi-Agent Based LLM-as-Judge [70.89799989428367]
我々は、位置バイアス、冗長性バイアス、チェーンオブ思考バイアス、バンドワゴンバイアスの4つの多様なバイアスタイプを体系的に分析する。
広く採用されているマルチエージェントLLM-as-JudgeフレームワークであるMulti-Agent-DebateとLLM-as-Meta-Judgeでこれらのバイアスを評価する。
論文 参考訳(メタデータ) (2025-05-26T03:56:41Z) - Diverging Preferences: When do Annotators Disagree and do Models Know? [92.24651142187989]
我々は,4つのハイレベルクラスにまたがる10のカテゴリにまたがる相違点の分類法を開発した。
意見の相違の大部分は、標準的な報酬モデリングアプローチに反対している。
本研究は,選好の変化を識別し,評価とトレーニングへの影響を緩和する手法を開発する。
論文 参考訳(メタデータ) (2024-10-18T17:32:22Z) - On the Principles behind Opinion Dynamics in Multi-Agent Systems of Large Language Models [2.8282906214258805]
対話型大言語モデル(LLM)の集団内における意見の進化について研究する。
我々は、他のLSMの意見とコンセンサスを求めるLLMの傾向に基づいて、意見交換を促進するバイアスを識別する。
これらのバイアスは、意見の変化に対する説得力のある理由の欠如、議論への参加意欲、割当値の配分などの影響を受けている。
論文 参考訳(メタデータ) (2024-06-18T18:37:23Z) - Political Compass or Spinning Arrow? Towards More Meaningful Evaluations for Values and Opinions in Large Language Models [61.45529177682614]
我々は,大規模言語モデルにおける価値と意見の制約評価パラダイムに挑戦する。
強制されない場合、モデルが実質的に異なる答えを与えることを示す。
我々はこれらの知見をLLMの価値と意見を評価するための推奨とオープンな課題に抽出する。
論文 参考訳(メタデータ) (2024-02-26T18:00:49Z) - Mundus vult decipi, ergo decipiatur: Visual Communication of Uncertainty
in Election Polls [56.8172499765118]
我々は、今放送と予測におけるバイアスの潜在的な源について論じる。
概念は、誤認識された正確性の問題を軽減するために提示される。
主要なアイデアの1つは、パーティーシェアではなくイベントの確率を使うことである。
論文 参考訳(メタデータ) (2021-04-28T07:02:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。