OpenAI 研发的 ChatGPT,一款人工智能(AI)驱动的聊天机器人,迅速在各行各业引起轰动。ChatGPT 名称的灵感来源于其基于生成预训练转换器(Generative Pre-trained Transformer,GPT)语言模型,并且其最前沿的特色是利用深度学习技术,能够类似人类作出反应。相比其他人工智能模型,ChatGPT 的智能水平更加先进,因此在越来越多的工作场合中得到了广泛应用。现在,它甚至可以扩展应用到临床和转化医学领域。
ChatGPT 拥有庞大的 1750 亿个参数,成为当今最大且最强有力的人工智能处理模型之一。因其反应更加人性化,所以越来越多领域都在使用它,未来也将会逐步进入医疗行业,给人们带来更多的便利。
ChatGPT 的新兴应用在科学界引发了一场剧变,并引起了使用人工智能来撰写科学出版物的伦理问题的辩论。这些出版物可能会影响医生、研究人员和政策制定者做出的决策。
ChatGPT:并非总是准确无误
ChatGPT是一个由AI驱动的聊天机器人,它最显著的缺点在于它所提供的信息并不总是准确的。这一弊端在学术出版中尤其不利——毕竟,进步取决于分享适当的信息。在科学领域出现不正确的数据呈现具有很大的危害性和风险性。
此外,对于一个极具时效性且重视知识提升、加强干预和制定循证政策的领域来说,不断扩大的信息差是一个不容忽视的障碍。如果学者们利用ChatGPT进行内容创作,则可能会包含虚假或过时的论文信息,这将损害作者在同行中的信誉。
ChatGPT:使用的隐蔽性
另一个使ChatGPT成为双刃剑的原因是:学者几乎无法发现其他专业人士何时使用它以及是否已使用。西北大学(Northwestern University)的研究人员曾要求ChatGPT使用医学期刊上发表的一系列文章,撰写50篇医学研究摘要。随后,一组医学研究人员试图找出这些摘要中的捏造内容,结果只有68%的ChatGPT生成的摘要和86%的真实摘要得到正确识别。这样的结果证明,ChatGPT写出了可信(尽管可能不准确)的科学摘要。
对某些人来说,这项研究的结果肯定是个福音,因为由此创作的作品可能不会被认为是由人工智能生成的。然而,这也意味着无法甄别有效信息的问题也将随之而来。科学家可能会遵循有缺陷的研究路线,浪费研究经费并产生具有误导性的结果。对于政策制定者来说,无法甄别虚假的研究将会导致基于错误信息的决策,由此对社会产生巨大影响。
由于上述影响,学界和科学出版界未来可能禁止人工智能生成内容,而任何以任何身份使用ChatGPT的人都需要了解这些授权。例如,第40届国际机器学习会议已经禁止了包括ChatGPT在内的AI工具撰写的论文。Science系列期刊也在更新他们的许可和编辑政策,明确反对使用ChatGPT制作的文稿。在一篇社论中,他们阐明了自己的立场,并指出,大多数科学不端行为的案例源于人类注意力的不足,允许ChatGPT生成的内容则将显著增加这种风险。
ChatGPT:助力科研创新的小助手
ChatGPT是一种由AI驱动的聊天机器人,可以帮助计算生物学家改进已完成的研究论文。一篇2023年2月份刊载于Nature杂志的研究表明,生物学家只需花费不到五分钟的时间就可以收到对手稿的审查,这不仅增加了手稿的可读性,还发现了一些方程式上的错误。虽然在这个过程中使用ChatGPT并不总是稳定的,但全是无效的试验也得到了更佳的润色文章。
与人工智能使用不准确或过时信息引起的担忧不同,将ChatGPT用于这种情况可以避免这些问题。这可以帮助提高研究人员的生产力和文稿质量。如果研究人员能花费更少的时间在文稿的编辑上,他们就可以将更多的时间用于推进医学研究。
显然,对于那些希望验证答案或找出工作中问题的研究人员来说,ChatGPT是一个很有用的工具。然而,目前由于ChatGPT还未接受足够的专业内容训练,它无法对技术进行事实性的查验。
ChatGPT:应用于科研的挑战和机遇
专家预计,将ChatGPT与其他技术、项目集成起来,将成为人工智能系统的先导。同时,ChatGPT可以协助文稿编辑,在学术和科学出版领域中发挥积极作用。然而,ChatGPT的使用者必须意识到它的局限性。
正如Nature Machine Intelligence杂志一月份社论所说的那样,目前我们未能指望ChatGPT能提供正确的事实或可靠的参考,因此应该接受它的局限性,并仅将其应用于某些任务。要将乏味的任务(例如文稿编辑)委托给人工智能模型,同时需要避免发布虚假信息等灾难性后果的发生。
随着ChatGPT的普及,调整对其能力的预期并接受它不能承担每一份工作将是至关重要的。特别是在学术研究领域,仍然需要人工智能无法替代的、真正的人性化研究工作,这需要特别注意。
ChatGPT:不是一名作家
由于ChatGPT在提供可靠信息方面的局限性和潜在错误,在对ChatGPT进行迭代时必须十分谨慎:人工智能能否代替人工输入?在此,H. Holden Thorp教授的观点更为准确:“ChatGPT非常有趣,但它并不是一名作家。”
科学家可以利用成熟的人工智能工具来提高效率,例如在校对手稿和审查中使用它们。在未来,AI工具的使用可能会帮助他们在科学研究领域取得更广泛的突破和更高的认可度。但是,研究人员需要在人工智能的局限性和范围内,确保所有参与者都了解这些条件。因此,编辑和编辑委员会成员应继续监管ChatGPT在学术研究中的应用,以制定好期刊政策,让撰稿人了解人工智能的最佳实践方式,毕竟研究的卓越性需要用道德和诚信来衡量。
评论前必须登录!
注册