在学术写作中使用未经核实AI内容的潜在风险

747

人工智能可以成为学术研究者的强大助力。从生成研究摘要到改进语法和文章结构，AI写作工具在被负责任地使用时，能够节省时间并提升表达清晰度。2025 年关于AI使用情况的两项不同调查显示，80%的学生和研究人员在其学术工作流程中经常使用生成式AI。^1,2 

但与此同时，也伴随着日益增长的担忧：当学生或研究人员在缺乏审查与核实的情况下直接使用未经验证的AI输出时，可能会在论文中引入不准确的信息、虚构的引用，甚至是涉嫌抄袭的内容。这不仅违反机构相关规范，还会引发对研究可信度的质疑，并损害学术诚信。让我们来看一看，未能以正确方式使用AI可能带来的后果。

未经验证的AI内容所带来的学术与伦理风险

AI幻觉与错误信息的传播

AI生成内容中最常见的问题之一，是“幻觉”风险——即AI模型会自信地生成错误或带有偏见的陈述。2024 年发表在《Journal of Medical Internet Research》上的一项研究发现，大型语言模型（LLMs）在其学术输出中存在相当比例的参考文献虚构或错误引用情况。其中，Google Bard的幻觉率高达91.4%，ChatGPT-3.5 为39.6%，ChatGPT 4 为28.6% 。³ 如果这些虚假的引用和误导性陈述被纳入你的写作中，就可能在不同学科间传播错误信息，进而削弱已发表研究成果的有效性。

未披露使用行为与学术诚信受损风险

在学术写作中使用AI却未进行适当披露，可能被视为研究不端、数据造假或具有误导性的署名行为，因为这会引发关于“真正完成智力劳动的人是谁”的质疑。⁵ 目前，期刊和高校正不断收紧相关规定，强调人类作者的责任，以维护学术诚信。大多数机构不允许将AI工具列为作者；而像 Elsevier 和 Springer Nature 等期刊，则要求在致谢或方法部分加入AI使用声明，以确保研究过程的透明性。

抄袭行为、违规操作及作者身份归属问题

尽管从技术角度来看，AI是通过整合信息生成新内容，而非逐字复制现有文本，但将AI撰写的内容直接作为自己的成果呈现，仍然构成学术不端。许多顶尖高校已明确将使用AI工具撰写论文或作业界定为抄袭行为；即使只是通过提示词让AI代写，也可能被视为作弊和学术不诚信。⁴ 即便是经过改写的AI输出，如果在缺乏人工审核且未进行适当披露的情况下直接使用，也会模糊人类作者与机器生成之间的界限。

在研究结果中引入潜在偏见的风险

AI写作工具会反映其所接受训练数据的特征。由于这些数据中相当一部分来源于开放网络，社会中关于身份、性别、地域等方面的刻板印象与代表性偏差，可能会渗透到机器生成的内容之中。算法本身所基于的假设，也可能自然地导致带有偏见的结果。如果在未经过任何批判性审视的情况下使用未经验证的AI写作内容，你的研究可能会强化这些偏见，并对学术结论产生潜在影响，从而在未来他人引用你的研究时造成误导。 

对批判性思维与学术原创性的削弱

教育工作者担心，过度依赖AI可能会限制学生对学科内容进行深入思考与理解的能力。当通用型AI工具在缺乏个人见解或专业判断的情况下，被用来生成观点、结构甚至具体表述时，写作往往会显得程式化、单调乏味。盲目使用未经验证的AI文本，可能反映出创造力、原创性、独立思考能力以及学术深度的不足，而这些正是教育与科研中至关重要的核心能力。⁶ 

数据隐私与信息保密风险

多家主流AI公司依赖用户数据来对其模型进行再训练。这意味着，任何输入到AI写作工具中的敏感信息或尚未发表的稿件内容（即便只是其中的部分段落），都可能被用于模型训练，甚至存在对外泄露的风险。因此，研究人员和学生在通过这些平台分享个人或私密数据时必须格外谨慎。或者，他们应选择值得信赖的 AI 科研助手，例如 Paperpal。Paperpal采取严格的数据保护措施，并明确承诺不会将用户在其平台上传或处理的内容用于训练 AI 模型，从而确保您的研究成果保持安全、私密与机密。  

验证与合规使用AI内容的方法

尽管在写作中使用未经验证的AI存在诸多严肃风险，但如果以合乎伦理且负责任的方式使用AI科研助手，仍然可以提升效率与学习效果。以下是正确使用的方法：

1. 将AI视为辅助工具，而非权威来源

将AI看作是头脑风暴的伙伴，而不是最终的权威信息来源。你可以利用它来优化思路、梳理结构或提供合适的表达建议，但切勿直接照搬其生成的内容。在将AI内容纳入学术写作之前，务必运用自身判断进行审视与修改，确保最终成果具有原创性，能够真实体现你的批判性思维与逻辑推理能力。

2. 始终核实事实、信息与来源

务必将每一条事实、数据统计或参考文献，与可靠的一手权威来源进行交叉核对。2024年Social Media Today的一项分析指出，多数主流AI工具无法提供准确引用，常见问题包括虚构参考链接，以及对信息进行概括化或近似化处理。⁷ 这进一步凸显了人工仔细审阅与核查的必要性。

3. 确保人工审阅与真实表达

在使用AI写作工具生成思路或文本之后，务必进行人工审阅，并用自己的语言进行改写。加入个人见解、真实案例以及独特论点，使你的研究与写作更具深度与说服力。这有助于确保作品保留真实的个人表达风格，同时符合合乎伦理的作者署名与学术规范要求。

4. 查阅所在机构关于AI使用的相关规定

在使用任何AI学术写作工具之前，应先查阅所在高校或目标期刊关于在论文撰写或稿件准备中使用AI的相关政策，并确保严格遵守。许多机构的指导原则仍在不断完善之中，这些规范通常会明确界定可接受的AI使用范围，例如是否仅限于语言润色，或是否允许参与内容生成等。

5. 在研究中透明披露AI的使用情况

如今，许多期刊和高校都要求研究人员根据AI在写作中的具体使用方式，披露生成式 AI 的辅助情况。在投稿前，请查阅相关投稿指南，并在可行的情况下使用标准或Paperpal定制的AI使用声明模板进行说明；此类声明通常放在论文的致谢部分或方法部分。

随着AI工具在科研领域的日益普及，学术界正迎来一个重要转折点。通过结合人类专业能力与合乎伦理的 AI 使用方式——包括核实、人工审阅与透明披露——AI 科研与写作工具可以推动知识的普及，加速学习进程，并帮助学者更清晰、自信地表达观点。

然而，一旦将 AI 作为捷径或在缺乏规范的情况下使用，它同样可能侵蚀学术赖以建立的可信度。希望本文能够帮助您在通往负责任、透明且真实的 AI 使用之路上迈出稳健的一步。

Paperpal 是一款面向科研写作和英文期刊投稿场景的AI学术写作工具，帮助作者在写作与投稿前系统性地发现问题并逐步优化。无论是语言表达、文献引用，还是投稿完备度与审稿风险评估，Paperpal 都能提供清晰、可操作的支持，帮助你更安心地完成投稿准备。
Paperpal 提供免费版本供你体验基础功能；升级至 Paperpal Prime，还可使用更完整的写作与投稿支持功能，帮助你在投稿前更从容地准备论文，提高投稿过程的确定性。
立即注册Paperpal，开启高效写作、自信投稿

参考文献： 

1. Digital Education Council Global AI Student Survey 2024, Digital Education Council website – August 2024. Accessible on https://www.digitaleducationcouncil.com/post/digital-education-council-global-ai-student-survey-2024 

2. Zhehui L.  et al. LLMs as Research Tools: A Large Scale Survey of Researchers’ Usage and Perceptions. arXiv, October 2024. Accessible on https://doi.org/10.48550/arXiv.2411.05025  

3. Chelli, M. et al. “Hallucination Rates and Reference Accuracy of ChatGPT and Bard for Systematic Reviews: Comparative Analysis.” Journal Of Medical Internet Research, 2024. Accessible on https://www.jmir.org/2024/1/e53164 

4. AI Tools and Resources, University of South Florida Libraries. Accessible on https://guides.lib.usf.edu/AI/plagiarism 

5. Tang, BL. Undeclared AI-Assisted Academic Writing as a Form of Research Misconduct. CSE Science Editor, September 2025. Accessible on https://www.csescienceeditor.org/article/undeclared-ai-assisted-academic-writing-as-a-form-of-research-misconduct/ 

6. Ali, Omar. et al. The effects of artificial intelligence applications in educational settings: Challenges and strategies. Technological Forecasting and Social Change, Science Direct. Accessible on https://www.sciencedirect.com/science/article/pii/S0040162523007618 

7. Hutchinson, A. Report Finds AI Tools Are Not Good at Citing Accurate Sources. Social Media Today, March 2025. Accessible on https://www.socialmediatoday.com/news/report-ai-tools-fail-correct-citations-queries/742236/