論文の概要: Incivility and Rigidity: The Risks of Fine-Tuning LLMs for Political Argumentation

• arxiv url: http://arxiv.org/abs/2411.16813v3
• Date: Fri, 20 Jun 2025 14:35:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-23 14:57:51.08288
• Title: Incivility and Rigidity: The Risks of Fine-Tuning LLMs for Political Argumentation
• Title（参考訳）: インキュビティと剛性:政治調停のための微調整LDMのリスク
• Authors: Svetlana Churina, Kokil Jaidka,
• Abstract要約: Twitter(現在のX)やRedditなどのプラットフォームで普及している収益性は、AIシステムを開発する上での課題となっている。 本研究では,2つの対照的な政治的議論データセットを微調整した GPT-3.5 Turbo 実験について報告する。 Redditがカスタマイズしたモデルでは、より安全だが厳格な議論が生まれ、クロスプラットフォームの微調整は毒性を増幅する。
• 参考スコア（独自算出の注目度）: 11.255011967393838
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The incivility prevalent on platforms like Twitter (now X) and Reddit poses a challenge for developing AI systems that can support productive and rhetorically sound political argumentation. In this study, we report experiments with GPT-3.5 Turbo, fine-tuned on two contrasting datasets of political discussions: high-variance, high-incivility Twitter replies to U.S. Congress, and low-variance, low-incivility posts from Reddit's r/ChangeMyView. We systematically evaluate how these data sources and prompting strategies shape the rhetorical framing and deliberative quality of model-generated arguments. Our results show that Reddit-finetuned models produce safer but rhetorically rigid arguments, while cross-platform fine-tuning amplifies toxicity. Prompting reduces specific toxic behaviors, such as personal attacks, but fails to fully mitigate the influence of high-incivility training data. We introduce and validate a rhetorical evaluation rubric and provide practical guidelines for deploying LLMs in content authoring, moderation, and deliberation support.
• Abstract（参考訳）: Twitter(現在のX)やRedditのようなプラットフォームで普及している公民権は、生産的で修辞的な政治的議論を支援するAIシステムを開発する上での課題となっている。 本研究では、GPT-3.5 Turboによる実験を報告し、高ばらつき、高incivility Twitterの米国議会への回答、Redditのr/ChangeMyViewからの低ばらつき低incivilityポストという、2つの対照的な政治的議論のデータセットを微調整した。 我々はこれらのデータソースと促進戦略がモデル生成論の修辞的フレーミングと熟考的品質をどのように形成するかを体系的に評価する。 以上の結果から,Redditの微調整モデルではより安全だが厳密な議論が生まれ,クロスプラットフォームの微調整は毒性を増幅することがわかった。 プロンプティングは、個人攻撃のような特定の有害な行動を減らすが、高能率トレーニングデータの影響を完全に緩和することができない。 我々は,修辞的評価ルーブリックを導入,検証し,コンテンツオーサリング,モデレーション,熟考支援にLLMをデプロイするための実践的ガイドラインを提供する。

関連論文リスト

• Machine Bullshit: Characterizing the Emergent Disregard for Truth in Large Language Models [57.834711966432685]
  哲学者ハリー・フランクフルト(Harry Frankfurt)によって概念化されたブルシット(Bullshit)は、その真理の価値を問わない言明を指す。 本稿では,大言語モデルの真偽に対する無関心を定量化する新しい指標であるブルシット指数を紹介する。 我々は、政治的文脈で一般的な機械いじめを観察し、軽快な言葉が支配的な戦略である。
  論文  参考訳（メタデータ） (2025-07-10T07:11:57Z)
• Generative Exaggeration in LLM Social Agents: Consistency, Bias, and Toxicity [2.3997896447030653]
  ソーシャルメディア上での政治談話のシミュレーションにおいて,Large Language Models (LLM) がどのように振る舞うかを検討する。 我々は、実ユーザ1,186名に基づくLCMエージェントを構築し、制御された条件下で政治的に健全なツイートに返信するよう促す。 よりリッチな文脈化によって内部の一貫性が向上するだけでなく、分極、スタイリングされた信号、有害な言語も増幅される。
  論文  参考訳（メタデータ） (2025-07-01T10:54:51Z)
• How Large Language Models play humans in online conversations: a simulated study of the 2016 US politics on Reddit [0.0]
  大規模言語モデル(LLM)は、最近、自然言語生成の強力なツールとして登場した。 我々は,2016年アメリカ合衆国大統領選挙におけるRedditの会話において,実世界におけるユーザ生成コンテンツの複製におけるLLMのパフォーマンスを評価した。 GPT-4は、コミュニティが支持する候補に賛成でも反対でも、現実的なコメントを作成できるが、反感よりもコンセンサスを創り出す傾向にある。
  論文  参考訳（メタデータ） (2025-06-23T08:54:32Z)
• Passing the Turing Test in Political Discourse: Fine-Tuning LLMs to Mimic Polarized Social Media Comments [0.0]
  本研究では、微調整された大言語モデル(LLM)が、偏光言説を再現し増幅できる範囲について検討する。 Redditから抽出された政治的に課金された議論のキュレートされたデータセットを使用して、オープンソースのLCMを微調整して、コンテキスト認識とイデオロギー的に整合した応答を生成します。 結果は、パルチザンのデータに基づいてトレーニングすると、LLMは高い信頼性と挑発的なコメントを生成でき、しばしば人間によって書かれたものと区別できないことを示唆している。
  論文  参考訳（メタデータ） (2025-06-17T15:41:26Z)
• Improving Large Language Model Safety with Contrastive Representation Learning [92.79965952162298]
  大規模言語モデル(LLM)は、社会に深い影響を与える強力なツールである。 多様な制御されていない入力に対する応答を生成する能力は、敵の攻撃に対して脆弱である。 対照的な表現学習問題としてモデルディフェンスを定式化するディフェンスフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-13T16:42:09Z)
• The Impact of Persona-based Political Perspectives on Hateful Content Detection [4.04666623219944]
  政治的に多様な言語モデルは、多くの研究者や組織にアクセスできない計算資源を必要とする。 近年の研究では、ペルソナをベースとしたプロンプトが、追加の訓練なしに、モデルアウトプットに政治的多様性をもたらすことが確認されている。 本稿では、下流業務における政治的事前訓練に匹敵する結果が得られるかどうかを考察する。
  論文  参考訳（メタデータ） (2025-02-01T09:53:17Z)
• Few-shot Policy (de)composition in Conversational Question Answering [54.259440408606515]
  本稿では,大規模言語モデル(LLM)を用いて数ショット設定でポリシーコンプライアンスを検出するニューラルシンボリックフレームワークを提案する。 提案手法は,回答すべきサブクエストを抽出し,文脈情報から真理値を割り当て,与えられたポリシーから論理文の集合を明示的に生成することで,政策コンプライアンスに関する会話に対して健全な理由を示す。 本手法は,PCDおよび会話機械読解ベンチマークであるShARCに適用し,タスク固有の微調整を伴わずに競合性能を示す。
  論文  参考訳（メタデータ） (2025-01-20T08:40:15Z)
• Detecting Document-level Paraphrased Machine Generated Content: Mimicking Human Writing Style and Involving Discourse Features [57.34477506004105]
  機械生成コンテンツは、学術プラジャリズムや誤報の拡散といった課題を提起する。 これらの課題を克服するために、新しい方法論とデータセットを導入します。 人間の筆記スタイルをエミュレートするエンコーダデコーダモデルであるMhBARTを提案する。 また,PDTB前処理による談話解析を統合し,構造的特徴を符号化するモデルであるDTransformerを提案する。
  論文  参考訳（メタデータ） (2024-12-17T08:47:41Z)
• On the Use of Proxies in Political Ad Targeting [49.61009579554272]
  我々は、主要な政治広告主がプロキシ属性をターゲットとして緩和を回避したことを示す。 本研究は政治広告の規制に関する議論に重要な意味を持つ。
  論文  参考訳（メタデータ） (2024-10-18T17:15:13Z)
• Scalable Frame-based Construction of Sociocultural NormBases for Socially-Aware Dialogues [66.69453609603875]
  社会文化的規範は、社会的相互作用における個人的行為の指針となる。 大規模言語モデル(LLM)を用いた社会文化的ノルム(SCN)ベース構築のためのスケーラブルなアプローチを提案する。 我々は、包括的で広くアクセス可能な中国社会文化ノルムベースを構築した。
  論文  参考訳（メタデータ） (2024-10-04T00:08:46Z)
• Representation Bias in Political Sample Simulations with Large Language Models [54.48283690603358]
  本研究は,大規模言語モデルを用いた政治サンプルのシミュレーションにおけるバイアスの同定と定量化を目的とする。 GPT-3.5-Turboモデルを用いて、米国選挙研究、ドイツ縦割り選挙研究、ズオビアオデータセット、中国家族パネル研究のデータを活用する。
  論文  参考訳（メタデータ） (2024-07-16T05:52:26Z)
• IndoToxic2024: A Demographically-Enriched Dataset of Hate Speech and Toxicity Types for Indonesian Language [11.463652750122398]
  IndoToxic2024はインドネシアのヘイトスピーチおよび毒性分類データセットである。 19の個人によって注釈付けされた43,692のエントリを補完するデータセットは、脆弱なグループをターゲットにしたテキストに焦点を当てている。 我々は、7つの二項分類タスクのベースラインを確立し、憎悪音声分類のために細調整されたBERTモデルを用いてマクロF1スコア0.78を達成する。
  論文  参考訳（メタデータ） (2024-06-27T17:26:38Z)
• The Power of LLM-Generated Synthetic Data for Stance Detection in Online Political Discussions [1.1624569521079426]
  オンライン政治議論において、合成データを利用して姿勢検出エージェントを訓練し、改善する方法を示す。 我々はMistral-7Bモデルにより、特定の議論のための合成データを生成する。 本研究は,合成データと非ラベルデータセットの最も情報性の高いサンプルを組み合わせることによる影響について検討する。
  論文  参考訳（メタデータ） (2024-06-18T10:36:21Z)
• LLM-based Rewriting of Inappropriate Argumentation using Reinforcement Learning from Machine Feedback [16.57980268646285]
  本稿では,議論における不適切な言語を計算的に緩和する方法について検討する。 コンテンツ保存と適切性のバランスをとるための強化学習に基づく書き直し手法を提案する。 絶対的および相対的評価研究において,報酬関数の重み付け方式について検討した。
  論文  参考訳（メタデータ） (2024-06-05T15:18:08Z)
• Changes in Policy Preferences in German Tweets during the COVID Pandemic [4.663960015139793]
  政治的嗜好の微妙なアノテーションを付加した新しいツイートデータセットを提示する。 このデータに基づいて訓練されたテキスト分類モデルを用いて、政治的意見を抽出する。 その結果、新型コロナウイルスのパンデミックを受けて、政治的意見の表現が増加したことが示唆された。
  論文  参考訳（メタデータ） (2023-07-31T16:07:28Z)
• SQuARe: A Large-Scale Dataset of Sensitive Questions and Acceptable Responses Created Through Human-Machine Collaboration [75.62448812759968]
  このデータセットは、韓国の大規模データセットで、49kの機密性があり、42kの許容範囲と46kの非許容応答がある。 データセットは、実際のニュースの見出しに基づいて、HyperCLOVAを人道的に活用して構築された。
  論文  参考訳（メタデータ） (2023-05-28T11:51:20Z)
• Text is All You Need: Personalizing ASR Models using Controllable Speech Synthesis [17.172909510518814]
  特定の個人に汎用音声認識モデルを適用することは、パーソナライズされたデータの不足のために難しい問題である。 近年の研究では、パーソナライズされたテキスト音声合成によるトレーニングデータの量の増加が提案されている。
  論文  参考訳（メタデータ） (2023-03-27T02:50:02Z)
• NoisyHate: Mining Online Human-Written Perturbations for Realistic Robustness Benchmarking of Content Moderation Models [13.887401380190335]
  そこで我々は,NoisyHateという名前の人書き摂動の,新しい高品質なデータセットを紹介した。 我々は,NoisyHateの摂動が,従来のアルゴリズムによる有毒なデータセットと異なる特徴を持つことを示した。
  論文  参考訳（メタデータ） (2023-03-18T14:54:57Z)
• Constructing Highly Inductive Contexts for Dialogue Safety through Controllable Reverse Generation [65.48908724440047]
  そこで本稿では,ある応答に条件付けされた逆コンテキストを構築するために,エンフレバース生成と呼ばれる手法を提案する。 我々は,Blender,DialoGPT,Plato2の3種類の事前訓練済み対話モデルをテストする。
  論文  参考訳（メタデータ） (2022-12-04T12:23:41Z)
• Sayer: Using Implicit Feedback to Optimize System Policies [63.992191765269396]
  我々は、暗黙のフィードバックを活用して、新しいシステムポリシーを評価し、訓練する方法論を開発する。 Sayerは、強化学習の2つのアイデアに基づいて、既存のポリシーで収集されたデータを活用する。 Sayer氏は任意のポリシーを正確に評価し、生産ポリシーを上回るような新しいポリシーをトレーニングできることを示します。
  論文  参考訳（メタデータ） (2021-10-28T04:16:56Z)
• Stateful Offline Contextual Policy Evaluation and Learning [88.9134799076718]
  我々は、シーケンシャルデータから、政治以外の評価と学習について研究する。 動的パーソナライズされた価格設定などの問題の因果構造を形式化する。 本報告では,本クラスにおけるアウト・オブ・サンプル・ポリシーの性能改善について述べる。
  論文  参考訳（メタデータ） (2021-10-19T16:15:56Z)
• Building a Foundation for Data-Driven, Interpretable, and Robust Policy Design using the AI Economist [67.08543240320756]
  AIエコノミストフレームワークは,2段階強化学習とデータ駆動型シミュレーションを用いて,効果的な,柔軟な,解釈可能なポリシー設計を可能にする。 RLを用いて訓練されたログリニア政策は、過去の結果と比較して、公衆衛生と経済の両面から社会福祉を著しく改善することがわかった。
  論文  参考訳（メタデータ） (2021-08-06T01:30:41Z)
• News consumption and social media regulations policy [70.31753171707005]
  我々は、ニュース消費とコンテンツ規制の間の相互作用を評価するために、反対のモデレーション手法であるTwitterとGabを強制した2つのソーシャルメディアを分析した。 以上の結果から,Twitterが追求するモデレーションの存在は,疑わしいコンテンツを著しく減少させることがわかった。 Gabに対する明確な規制の欠如は、ユーザが両方のタイプのコンテンツを扱う傾向を生じさせ、ディスカウント/エンドレスメントの振る舞いを考慮に入れた疑わしいコンテンツに対してわずかに好みを示す。
  論文  参考訳（メタデータ） (2021-06-07T19:26:32Z)
• Mitigating Political Bias in Language Models Through Reinforced Calibration [6.964628305312507]
  GPT-2 世代における政治的偏見を測定する指標について述べる。 生成テキストにおける政治的バイアスを緩和するための強化学習(RL)フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-04-30T07:21:30Z)
• Generating Counter Narratives against Online Hate Speech: Data and Strategies [21.098614110697184]
  本稿では,憎悪に対する回答を効果的に収集する方法について検討する。 銀データ生成には GPT-2 などの大規模教師なし言語モデルを用いる。 最高のアノテーション戦略/神経アーキテクチャは、専門家のバリデーション/ポスト編集の前にデータフィルタリングに使用できる。
  論文  参考訳（メタデータ） (2020-04-08T19:35:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。