名下凭空多了两篇论文？ChatGPT的信口胡编

先做个广告：如需代注册GPT4帐号或代充值 GPT4.0会员（plus），请添加站长微信：gptchongzhi

ChatGPT 大家肯定都不陌生，前段时间其因为强大的能力而备受人们关注。

在之前的一段时间里，菌菌朋友圈里满是和 ChatGPT 的问答截图，更有一些朋友开发了 ChatGPT 的新用途 —— 润色论文。

事实上，使用人工智能来帮助非英语母语的作者润色论文并不是什么了不得的事情，只要在文中添加声明来披露对 AI 的使用就行。

图片来源：爱思唯尔

但在科研圈里，用 ChatGPT 直接生成一篇论文却是被绝对禁止的事情，原因甚至有些令人难以置信：ChatGPT 在写论文时擅长胡诌，尤其擅长无中生有，依靠它生成的论文根本不可靠！

这不，最近就有作者因为用 ChatGPT 生成了论文而被出版商拉黑 ……

ChatGPT 竟然凭空捏造了不存在的参考文献

2023 年 6 月，丹麦一位研究千足虫的专家 Henrik Enghoff 收到一封电子邮件，被告知他的两篇论文被一份发布在 Preprints.org 的手稿引用了。

自己的论文被引用当然是一件很开心的事情，但当 Enghoff 教授下载了这篇论文后，发现事情并不简单。

图片来源：Preprints.org

虽然论文中明确引用了他的论文，但是这些论文他并没有写过，甚至和他的研究内容毫不相干。这究竟是怎么回事呢？

Enghoff 联系了他在哥本哈根大学的同事 David Richard Nash。Nash 在几个月前一直在试验是否可以用 ChatGPT 来查找某一领域的文献。当他要求 ChatGPT 提供相关研究领域最新的十篇参考文献时，得到的结果中只有一篇是真实存在的。

在得知 Enghoff 的情况后，Nash 随机搜索了一下那篇论文中的5 篇参考文献，发现竟然都是虚构的。惊讶之余的 Nash 向 Preprints.org 进行了举报，认为这篇论文很可能是通过 ChatGPT 等人工智能生成的。

图片来源：Preprints.org

管理 Preprints.org 的出版商 MDPI 的编辑在收到邮件后，表示会撤回这篇预印本文章，并将该文章的作者列入到出版商的黑名单中。

这件事看似已经告一段落，但是 AI 对科研圈的影响却由此可见一斑。

图片来源：retractionwatch.com

用 AI 撰写论文：潘多拉魔盒已被打开

在 ChatGPT 发布以后，就有一些科学家将其列为了论文的合著者，比如在去年 12 月发布的一篇预印本论文中，ChatGPT 就赫然出现在了作者列表中。

图片来源：medRxiv

除了这篇论文，ChatGPT 还多次出现在经过同行评议的论文中，比如下面这篇题为《Rapamycin in the context of Pascal’s Wager: generative pre-trained transformer perspective》的论文，就将 ChatGPT 列为共同作者。

推荐使用GPT中文版,国内可直接访问：https://ai.p6p6.cn

图片来源：论文截图

事实上，ChatGPT 确实可以生成看起来像模像样的科学论文，但这些论文很多时候是具有欺诈性的。

一方面，因为 ChatGPT 是基于大量的文本数据进行训练的，它生成的内容可能会包含错误的信息或者不准确的数据，因此使用 ChatGPT 生成论文很容易捏造事实，包括一些不存在的参考文献；另一方面，训练数据集可能还会影响论文的深度，简单生成的论文并不能对关注的科学问题进行深入的思考和分析。

之前就有网友在某乎提问：为什么 ChatGPT 会给出虚假的参考文献？

图片来源：知乎

不难看出，ChatGPT 这个「嘴瓢」的特性并不是个例，只要用的人都知道，它确实会为了完成咱们交代的任务进行一定的瞎编乱造。

以上的诸多问题引发了人们对于 ChatGPT 生成的科学论文的可信度的严重担忧。

今年 5 月，期刊 Journal of Medical Internet Research 便发表了一篇题为《Artificial Intelligence Can Generate Fraudulent but Authentic-Looking Scientific Medical Articles: Pandora’s Box Has Been Opened》的论文，以探讨 ChatGPT 在生成高质量欺骗性医学论文方面的能力。