小臂和小腿竟然都长了三根骨头?
这不是罕见病例,而是一幅由 AI 绘制的无意义插图。
图源:参考资料 1
更离谱的是,这幅插图竟然出自一篇已发表的医学 SCI 论文。
利用 AI 画图写作,作者辩称「经费有限」
7 月 12 日,一篇来自 5 位广东医生的临床研究论文被 Medicine 撤稿,理由是「对数据的完整性和不准确的插图表示担忧」[2]。
图源:参考资料 2
今年 4 月,这篇题为 Assessment of the efficacy of alkaline water in conjunction with conventional medication for the treatment of chronic gouty arthritis: A randomized controlled study 的论文正式发表,文中提到碱性水可有效缓解疼痛、减少关节肿胀、增强日常活动能力,并改善慢性痛风性关节炎治疗中的关节活动。
然而,这篇论文在数据和插图的科学性和准确性上均存在问题。
7 月初,研究员 Pfiffne 在社交媒体上表达了他对这篇论文中一张插图的质疑,称该插图是「由 AI 生成的垃圾图片」,因为该插图存在较多的解剖学错误。同时,他评价该图片中的注释文字为「胡言乱语」[3]。
图源:参考资料 3
随后,又有另一名网友发现,这篇论文的引言部分「100% 是 AI 生成的」[4]。
很快,这篇论文引起了更多的人的注意,包括期刊科学诚信顾问 Elisabeth Bik 在内的评论者纷纷发表意见。其中,Bik 指出,插图中的小腿和手臂在骨骼数量上完全错误,并且存在很多没有意义的标签,例如「chlsinkestead atlvs no ctivktty greuedis」和「Aliainine jerve sreiter」[5]。
她还指出,该论文的数据存在很多问题。例如,在该论文的表 2 中,高浓度组的上限范围的最后几位数字均为 0.84,中等浓度组则为 30 或 80,低浓度组则均为 0.88 [5]。
图源:参考资料 1
随着事件的发酵,这篇论文最终在质疑发生后的一周内被撤回。
该研究的通讯作者在接受撤稿观察网站(Retraction Watch)的采访时表示,英语不是该研究团队的母语,且翻译费用极其昂贵,因此该团队「利用 AI 对文本进行翻译和改进,并使用 ChatGPT 来生成插图和表格」。对于由此引起的任何争议,作者表示:「我们深表歉意。」[4]
AI 绘图事件频发,到底怎么过审的?
这并非第一次有研究论文因为 AI 绘图被撤稿。
今年 2 月,西安 3 名医生在 Frontiers in Cell and Developmental Biology 发表了题为 Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway 的论文,阐述了精原干细胞与 JAK/STAT 信号通路相关的功能 [6]。(点击链接查看丁香园往期文章:发表 3 天就被撤稿!西安医生用 AI 画的离谱插图,是怎么过审的?)
论文的其中一张插图描述了从大鼠睾丸中分离、纯化和培养精原干细胞的过程,该插图被质疑由 AI 绘制完成,因为在图中,一只大鼠拥有松鼠的坐姿,且有 4 个睾丸和比身体还大的阴茎,图右下侧的培养皿中还有一把汤勺。
图源:参考资料 6
另外,插图的标注中还存在大量的英文单词拼写错误,以及一些看起来像单词但实际上没有任何意义的字母组合。
面对巨大的争议,该论文仅发表 3 天,就迅速被撤稿[6],期刊也单独公开致歉 [7]。
然而,该事件中,论文作者用 AI 制作文章插图的行为,实际上却符合期刊的投稿要求。
Frontiers 系列期刊在相关规定中,允许人工智能加入(包括但不限于任何引述、引用或参考文献),但必须对其进行披露,并且作者必须检查其内容的准确性 [8]。
图源:参考资料 8
去年,美国田纳西大学健康科学中心的一名放射科医生使用 ChatGPT,4 个月写了 16 篇论文,其中 5 篇已发表。(点击链接查看丁香园往期文章:某院医生用 ChatGPT 在 4 个月内狂写 16 篇论文,其中 5 篇已发表)
四大医学顶刊之一 NEJM 也在今年还专门推出了新杂志 NEJM AI,编辑团队在第一卷中发文鼓励研究者使用大语言模型投稿 [9]。
图源:参考资料 9
让 AI 辅助科研与论文发表已经受到了众多支持,但接连发生的劣质 AI 论文顺利发表事件也让人开始担忧:如何保证 AI 创作的内容得到合理的审核?
允许 AI 进论文,审核机制有待更新
实际上,面对类似的事件,学者们并非认为要完全拒绝 AI,而是强调应该注意 AI 产物的「准确性」。
「在大多数情况下,AI 可能缺乏对科学概念和背景的正确理解。」一位大数据科学家认为,「研究人员必须仔细审查和验证 AI 生成的文本,以确保其准确性和有效性。」[10]
对于上述提到的两篇论文,它们引起广泛批评的主要原因,正是因为论文中使用的是 AI 生成的「错误」插图,论文作者并没有对插图进行有效的校对。
另一个问题则是论文投稿后,杂志方的审查过程。
正如网友评价的那样:「我很惊讶它通过了同行评审。」 [4]
更有网友戏称:「不会审核过程也用了 AI 吧?」[3]
一项研究对排名前 100 的学术期刊对作者使用 AI 的指导范围和内容进行了分析,结果发现,许多期刊的指导「严重不足」,这导致作者们「对该做和不该做的事产生困扰」,同时也对编辑和同行评审的审查过程造成了困难 [11]。
有科学家提出建议:「需要制定更全面的指南来概述 AI 在研究中的可接受用途。同行评审也应更加严格,需要专门识别和审查 AI 生成的内容。」此外,他们还表示,「临床科学家、编辑委员会、AI 开发人员和研究人员之应加强合作,以了解这些工具的功能和局限性。」[12]
而本次事件中, Medicine 杂志的发言人也表示,该杂志正在开展多项措施来改进编辑审查流程,通过与其他领先出版商开展合作,并考虑利用新技术,帮助塑造医学研究评审的未来 [4]。
策划:肯德羊|监制:carollero
题图来源:参考资料 1、自己做的
参考资料:
[1]https://www.ncbi.nlm.nih.gov/pmc/articles/PMC10994428/
[2]https://journals.lww.com/md-journal/fulltext/2024/07120/assessment_of_the_efficacy_of_alkaline_water_in.91.aspx
[3]https://x.com/MorganPfiffner/status/1808586391959326976
[4]https://retractionwatch.com/2024/07/22/giant-rat-penis-redux-ai-generated-diagram-errors-lead-to-retraction/
[5]https://pubpeer.com/publications/0662F1D2E21480EB8307A1C2DFDE4D?utm_source=Chrome&utm_medium=BrowserExtension&utm_campaign=Chrome
[6]https://www.frontiersin.org/journals/cell-and-developmental-biology/articles/10.3389/fcell.2024.1386861/full
[7]https://www.frontiersin.org/news/2024/02/16/frontiers-statement-concerning-the-article-cellular-functions-of-spermatogonial-stem-cells
[8]https://www.frontiersin.org/guidelines/author-guidelines
[9]https://ai.nejm.org/doi/full/10.1056/AIe2300128
[10]https://www.technologynetworks.com/drug-discovery/articles/ai-in-science-publication-the-good-the-bad-and-the-questionable-385650
[11]https://www.ncbi.nlm.nih.gov/pmc/articles/PMC10828852/
[12]https://www.bmj.com/content/384/bmj.q119.full
“特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。
Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”