論文の概要: Understanding Content Moderation in Large Language Models through Restricted Books: From Refusal to Warning
- arxiv url: http://arxiv.org/abs/2608.11806v1
- Date: Wed, 12 Aug 2026 08:51:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-13 19:07:54.525054
- Title: Understanding Content Moderation in Large Language Models through Restricted Books: From Refusal to Warning
- Title（参考訳）: 制限付き書籍による大規模言語モデルのコンテンツモデレーションの理解:拒絶から警告へ
- Abstract要約: 本研究では,制限付きおよび制限なしの書籍を用いて,大規模言語モデルが制御されたテストベッドにおけるセンシティブなトピックをどのように扱うかを検討する。
我々の中心的な発見はゼロ・リフレクション現象であり、現代のLCMは、わずか0.07%のケースで制限された書籍について議論する機会を減らしている。
我々は,プロバイダ間の系統的差異を同定し,迅速なフレーミングだけで警告レートのギャップを最大19ppにシフトさせることを示す。
- 参考スコア（独自算出の注目度）: 20.368437358149507
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As large language models enter everyday information pipelines, understanding how they handle sensitive topics matters as much as understanding whether they handle them at all. We study this question through a large-scale, systematic experiment using restricted versus unrestricted books as a controlled testbed: 40,800 query-response pairs, 400 books, 17 prompt designs, and six frontier models spanning six AI providers (Claude Sonnet 4.5, GPT-4o, Gemini 2.5 Flash, DeepSeek-V3, Qwen-Plus, and Grok-4.1-Fast). Our restricted set is drawn from the American Library Association's Most Challenged Books records (2000-2023); we use restricted rather than banned throughout because the ALA documents formal challenges-requests to remove or restrict access-which do not always result in outright bans. Our central finding is a zero-refusal phenomenon: modern LLMs decline to discuss restricted books in only 0.07% of cases, effectively invalidating the premise of jailbreaking research for this content class. Differentiation occurs instead through warning language (+8-15 percentage points, p < 0.001) and hesitation markers (+2-5 pp), with sexual content mention rate as the strongest individual signal (+33-52 pp). We further identify systematic differences between providers and show that prompt framing alone shifts the warning-rate gap by up to 19 pp. These results indicate that LLM content policy has shifted from binary refusal toward calibrated, context-sensitive disclosure-a finding that holds consistently across Western and Chinese AI providers.
- Abstract（参考訳）: 大きな言語モデルが日常的な情報パイプラインに入ると、センシティブなトピックをどのように扱うかを理解することは、それらを処理するかどうかを理解することと同じくらい重要です。
40,800のクエリ応答ペア,400の書籍,17のプロンプトデザイン,6つのAIプロバイダ(Claude Sonnet 4.5, GPT-4o, Gemini 2.5 Flash, DeepSeek-V3, Qwen-Plus, Grok-4.1-Fast)にまたがるフロンティアモデル。
私たちの制限セットは、米国図書館協会の『最も挑戦された本』(2000年-2023年)から引用されています。
我々の中心的な発見は、ゼロ・リファレンスであり、現代のLCMは、わずか0.07%のケースで制限された書籍を議論する機会を減らし、このコンテンツクラスのジェイルブレイク研究の前提を効果的に無効にした。
区別は警告言語 (+8-15%、p < 0.001) と鎮静マーカー (+2-5 pp) によって行われ、性的内容の言及率は最も強い個人信号 (+33-52 pp) である。
さらに,プロバイダ間の系統的差異を同定し,迅速なフレーミングだけで警告レートのギャップを最大19ppにシフトさせることを示す。
これらの結果は、LLMコンテンツポリシーがバイナリ拒絶から、西洋と中国のAIプロバイダ間で一貫して保持される、校正された、文脈に敏感な開示へと移行したことを示唆している。
関連論文リスト
- Auditable Release Control for Pedagogical Leakage in LLM Tutors [0.0]
大規模な言語モデルチューターは、その開示が承認される前に答えや決定的な推論を明らかにするのに役立ちます。
我々は、この状態および行動依存的障害を、教育的漏洩認識認可として定式化し、完全修復境界を導入する。
グローバルA1は0の多数と54のユーティリティフラグを獲得し、自動安全と実用性において適合Qを上回っている。
論文 参考訳（メタデータ） (2026-08-01T08:24:30Z) - Seeing Without Exposing: Adaptive Privacy Control for Open-World, Context-Hungry MLLMs [61.80513991207956]
MLLMにおけるプライバシー問題に対処するために,Anchored Privacy Drifting (APD)を提案する。
APDは、コンテキストキューをソースイメージに固定しながら、意味論的に等価な代替手段に向けて、プライバシに敏感な要素をドリフトする。
本手法は,プライバシ・サニタイゼーションとコンテンツ保持の両面でバランスのとれた改善を実現する。
論文 参考訳（メタデータ） (2026-06-05T11:41:39Z) - RefusalBench: Why Refusal Rate Misranks Frontier LLMs on Biological Research Prompts [0.0]
厳格な拒絶率は、同じプロンプトで0.1%から94.6%である。
18のフロンティアモデルのうち9つは、バイナリーリフェールメトリクスが検出できないデュアルユース層で、ヘッジ・ブット・ヘルプ部分コンプライアンスパターンを示す。
論文 参考訳（メタデータ） (2026-05-20T09:53:31Z) - From prompting to evidence-based translation: A RAG+prompt system for Japanese-Chinese translation and its pedagogical potential [0.0]
本研究では,言語解析,埋め込み型検索,迅速な構築,LLM生成をベースモデルを変更することなく統合した検索強化型RAG+Prompt翻訳システムについて検討した。
我々は、RAG+Prompt翻訳システムにより、NMCCを含む文のJa-Zh翻訳を解釈可能で監査可能な方法で改善することが結論付けられた。
論文 参考訳（メタデータ） (2026-05-05T05:48:08Z) - Wisdom of the LLM Crowd: A Large Scale Benchmark of Multi-Label U.S. Election-Related Harmful Social Media Content [1.7020765368200692]
USE24-XDは、2024年のアメリカ合衆国大統領選挙期間中にX(元Twitter)から収集された100万近い投稿の大規模なデータセットである。
我々は,共謀,感性主義,ヘイトスピーチ,スペキュレーション,サティアという5つのカテゴリの投稿を体系的にアノテートするために,6つの大きな言語モデル(LLM)を採用している。
論文 参考訳（メタデータ） (2026-02-12T13:57:12Z) - Are LLMs Good Safety Agents or a Propaganda Engine? [74.88607730071483]
PSPは、明らかに政治的文脈から、大規模言語モデルの拒絶行動を調べるために構築されたデータセットである。
PSPは、インターネット上で公開されている2つのデータソースから既存の検閲されたコンテンツをフォーマットすることで構築されている。
1)データ駆動型(PSPを暗黙化する)と表現レベルのアプローチ(政治概念を生かした)による7つのLSMにおける政治的感受性の影響,2)インジェクション攻撃(PIA)によるPSPに対するモデル脆弱性について検討する。
論文 参考訳（メタデータ） (2025-11-28T13:36:00Z) - Are We There Yet? Revealing the Risks of Utilizing Large Language Models in Scholarly Peer Review [66.73247554182376]
大規模言語モデル(LLM)がピアレビューに統合された。
未確認のLLMの採用は、ピアレビューシステムの完全性に重大なリスクをもたらす。
5%のレビューを操作すれば、論文の12%が上位30%のランキングでその地位を失う可能性がある。
論文 参考訳（メタデータ） (2024-12-02T16:55:03Z) - Exploring Response Uncertainty in MLLMs: An Empirical Evaluation under Misleading Scenarios [49.53589774730807]
マルチモーダル大規模言語モデル(MLLM)は近年,視覚的質問応答から映像理解に至るまでのタスクにおいて,最先端のパフォーマンスを実現している。
12件のオープンソースMLLMが, 単一の偽装キューを受けた65%の症例において, 既往の正解を覆した。
論文 参考訳（メタデータ） (2024-11-05T01:11:28Z) - FABLES: Evaluating faithfulness and content selection in book-length summarization [55.50680057160788]
本稿では,本書の忠実度と内容選択の大規模評価を行う。
LLMが生成した26冊のサマリーで作成した3,158冊の注釈のデータセットであるFABLESを5.2KUSDで収集する。
注釈の分析によると、ほとんどの不誠実な主張は出来事や登場人物の状態に関係しており、物語を無効にするために間接的推論を必要とする。
論文 参考訳（メタデータ） (2024-04-01T17:33:38Z) - Understanding writing style in social media with a supervised
contrastively pre-trained transformer [57.48690310135374]
オンラインソーシャルネットワークは、ヘイトスピーチから偽情報の拡散まで、有害な行動の場として機能している。
本稿では, 4.5 x 106テキストの公開資料から得られた大規模コーパスに基づいて学習したStyle Transformer for Authorship Representations (STAR)を紹介する。
512個のトークンからなる8つのドキュメントからなるサポートベースを使用して、著者を最大1616人の著者のセットから、少なくとも80%の精度で識別することができる。
論文 参考訳（メタデータ） (2023-10-17T09:01:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。