論文の概要: Beyond Compliance: How AI Could Help Creative Writers by Refusing Them
- arxiv url: http://arxiv.org/abs/2605.16272v1
- Date: Fri, 03 Apr 2026 06:58:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-25 12:34:33.842629
- Title: Beyond Compliance: How AI Could Help Creative Writers by Refusing Them
- Title（参考訳）: AIが創造的な作家を救い出すには「コンプライアンスを超えて」
- Authors: Hua Xuan Qin, Guangzhi Zhu, Mingming Fan, Pan Hui,
- Abstract要約: 理論的には、意図的なAI非準拠は、他のバイパス可能なソリューションよりも強い摩擦を通じてそのような反射をもたらす可能性がある。
我々は、執筆段階(計画、翻訳、レビュー)にまたがる共通の要求を拒絶する反応を探究する。
反射ポテンシャルは、状況、認知、領域の信念、および関係次元に沿った不均一な嗜好のアライメントに依存することを示唆している。
- 参考スコア（独自算出の注目度）: 25.77405942866036
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Mainstream creativity support design prioritizes compliant AI for seamless writing interactions, but concerns over inappropriate AI reliance highlight the need for designs fostering reflection on balanced AI and non-AI resource use. Theoretically, intentional AI non-compliance, refusals (saying ``no'' to requests), could introduce such reflection through friction stronger than other bypass-able solutions. Practically, refusal content/language characteristics lead to nuanced reactions. However, little research empirically focuses on nuances beyond mandatory ethical/technical constraints, on turning refusals into strategic friction for `innocuous' requests. We address this through a qualitative study with 22 creative writers, exploring reactions to refusals to common requests across writing stages (planning, translating, reviewing). Findings suggest that reflective potential depends on heterogeneous preference alignment along situational (e.g., convergent/divergent thinking phases), cognitive (e.g., domain beliefs), and relational (e.g., AI roles) dimensions. We discuss implications for creativity support, broader issues (e.g., AI addiction), and frictional/seamful AI design (e.g., integrating different compliance levels).
- Abstract（参考訳）: 主流のクリエイティビティサポートデザインは、シームレスに記述するためのコンプライアンスAIを優先するが、不適切なAI依存に対する懸念は、バランスの取れたAIと非AIリソースの使用に対するリフレクションを促進する設計の必要性を強調している。
理論的には、意図的なAIの非準拠、拒絶("no'"を要求に当てはめる)は、他のバイパス可能なソリューションよりも強い摩擦を通じてそのようなリフレクションをもたらす可能性がある。
実際、内容/言語特性の拒絶はニュアンス反応を引き起こす。
しかしながら、実証的な研究はほとんどは、強制的な倫理的・技術的制約を超えたニュアンスに焦点を合わせ、拒絶を「無害」な要求に対する戦略的摩擦に変えることに重点を置いていない。
本稿では、22人のクリエイティビティライターによる質的研究を通じて、執筆段階(計画、翻訳、レビュー)の共通要求を拒否する反応を探求する。
反射電位は、状況(例えば、収束/分節的思考フェーズ)、認知(例えば、ドメインの信念)、関係(例えば、AIの役割)次元に沿った不均一な選好アライメントに依存することが示唆されている。
創造性のサポート、より広範な問題(例えば、AI依存症)、摩擦/シームフルなAI設計(例えば、異なるコンプライアンスレベルを統合する)について論じる。
関連論文リスト
- Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution [80.98492754957466]
公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。
本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
論文 参考訳（メタデータ） (2026-05-04T14:26:28Z) - Bridging the Gap in the Responsible AI Divides [1.5120428871017098]
AI安全(AIS)とAI倫理(AIE)の緊張は、AIガバナンスとAIに関する公的な議論でますます表面化している。
我々は,過激な対立,離脱,包括的共存,批判的ブリッジングという,緊張関係の4つのモードを分類するモデルを導入する。
論文 参考訳（メタデータ） (2026-03-15T17:19:30Z) - How Problematic Writer-AI Interactions (Rather than Problematic AI) Hinder Writers' Idea Generation [18.06791806791819]
学生のアイデア開発に対するgenAIの影響は、AIだけでなく、学生と学生の相互作用にも大きく依存している。
積極的にアイデアを探求する学生は、オートコンプリートでもソクラティックAIアシスタントでも、新しいアイデアを書けるようになった。
これらの発見は、AI記述アシスタントを設計する機会を示唆している。
論文 参考訳（メタデータ） (2025-03-14T22:53:53Z) - Almost AI, Almost Human: The Challenge of Detecting AI-Polished Writing [55.2480439325792]
本研究では、AI-Polished-Text Evaluationデータセットを用いて、12の最先端AIテキスト検出器を体系的に評価する。
我々の発見によると、検出器は、最小限に洗練されたテキストをAI生成としてフラグ付けし、AIの関与度を区別し、古いモデルや小さなモデルに対するバイアスを示す。
論文 参考訳（メタデータ） (2025-02-21T18:45:37Z) - Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
我々は人間の知恵について知られているものを調べ、そのAIのビジョンをスケッチする。
AIシステムは特にメタ認知に苦しむ。
スマートAIのベンチマーク、トレーニング、実装について論じる。
論文 参考訳（メタデータ） (2024-11-04T18:10:10Z) - Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。
人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。
これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
論文 参考訳（メタデータ） (2024-10-10T17:38:38Z) - Contestable AI needs Computational Argumentation [15.15970495693702]
最先端のアプローチは、AIシステムが競合する必要性をほとんど無視する。
競合可能なAIには、動的(ヒューマンマシンおよび/またはマシンマシン)の説明可能性と意思決定プロセスが必要である、と我々は主張する。
論文 参考訳（メタデータ） (2024-05-17T12:23:18Z) - Fairness in Agreement With European Values: An Interdisciplinary
Perspective on AI Regulation [61.77881142275982]
この学際的立場の論文は、AIにおける公平性と差別に関する様々な懸念を考察し、AI規制がそれらにどう対処するかについて議論する。
私たちはまず、法律、(AI)産業、社会技術、そして(道徳)哲学のレンズを通して、AIと公正性に注目し、様々な視点を提示します。
我々は、AI公正性の懸念の観点から、AI法の取り組みを成功に導くために、AIレギュレーションが果たす役割を特定し、提案する。
論文 参考訳（メタデータ） (2022-06-08T12:32:08Z) - Relational Artificial Intelligence [5.5586788751870175]
AIは伝統的に合理的な意思決定と結びついているが、すべての面においてAIの社会的影響を理解し、形作るためには、リレーショナルな視点が必要である。
AIに対する合理的なアプローチでは、計算アルゴリズムが人間の介入から独立して意思決定を推進し、バイアスと排除をもたらすことが示されている。
物事のリレーショナルな性質に焦点を当てたリレーショナルアプローチは、AIの倫理的、法的、社会的、文化的、環境的な影響を扱うために必要である。
論文 参考訳（メタデータ） (2022-02-04T15:29:57Z) - Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。
倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。
このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
論文 参考訳（メタデータ） (2021-06-25T22:31:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。