在一份备受关注的加拿大医疗保健审查中发现德勤报告错误后,公共政策研究正面临日益严格的审查。
目录
与AI相关的问题如何在纽芬兰与拉布拉多的医疗审查中浮现?
根据The Independent的调查,加拿大政府委托Deloitte进行的一项医疗保健分析,耗资近160万美元,其中包含明显的AI生成的不准确信息。这份526页的文件由纽芬兰和拉布拉多政府于五月发布,是该省卫生部门最近最昂贵的咨询合同之一。
该报告是为当时由自由党领导的卫生和社区服务部准备的。报告审查了虚拟护理、留任激励措施以及COVID-19疫情对医护人员的影响,当时纽芬兰和拉布拉多正面临严重的护士和医生短缺。然而,随后的媒体审查对这些建议所依据的证据的可靠性提出了质疑。
The Independent 是一家专注于加拿大最东部省份的进步媒体,发现了多处潜在的不准确和异常之处。此外,其调查表明,一些基础研究引用可能是在人工智能工具的协助下生成或扭曲的,尽管主要叙述并非由机器撰写。
调查人员发现了哪些加拿大医疗报告错误?
据《独立报》报道,德勤的报告中包含虚假的学术引用,这些引用指向了虚构的学术论文。这些虚构的来源被用于支持成本效益分析,这是影响医疗支出决策的关键因素。该报告还错误地将真实研究人员归于他们从未参与过的研究,制造出不存在的有力证据的假象。
一些引用更进一步,描述了据称由研究人员共同撰写的论文,而这些研究人员表示他们从未合作过。尽管如此,审查并未声称每个引用都有问题。相反,关注点在于一系列引用问题的模式,这可能会削弱对报告关于人员配置、虚拟护理和系统改革结论的信心。
报告还引用了一篇据称发表在《加拿大呼吸治疗杂志》上的文章。然而,调查人员无法在该杂志的数据库中找到这篇论文,这加深了人们对生成工具可能编造出听起来合理但实际上不存在的来源的担忧。
德勤如何回应关于AI生成引用的指控?
在给Fortune的一份声明中,德勤加拿大的一位发言人为工作的实质内容进行了辩护。发言人表示:“德勤加拿大坚决支持我们报告中提出的建议。我们正在修订报告,以进行少量引用修正,这不会影响报告的结论。”
发言人补充说,人工智能并没有直接撰写这份报告。相反,他们表示,AI只是“选择性地用于支持少量研究引用”。然而,考虑到医疗研究的规模和财务利害关系,批评者认为,即便是有限地依赖机器生成的引用,也需要更严格的验证和透明度。
此外,该公司认为引用修正不会影响报告结论的立场引起了质疑。一些学者和政策制定者质疑,如何在不重新评估任何后续成本效益模型或劳动力预测的情况下,修正虚构或错误归属的研究。
受影响的研究人员对咨询公司的事实核查过程有何看法?
Gail Tomblin Murphy,是新斯科舍省达尔豪斯大学护理学院的一名兼职教授,她是被错误引用的人之一。她告诉《独立报》,德勤在一篇“并不存在”的学术论文中引用了她。她指出,她只曾与错误引用中提到的六位作者中的三位合作过,而不是所描述的整个团队。
“听起来,如果你们提出这样的东西,他们可能会大量使用AI来生成作品,”Tomblin Murphy说。她的评论突显了学术界对生成工具如何能够编造看似可信但不准确的参考文献的日益担忧,尤其是在顾问没有严格核实每个参考文献时。
她进一步警告说,指导公共政策的报告必须以经过验证的高质量证据为基础。此外,Tomblin Murphy 强调,政府和公众为此类工作支付了大量资金,因此必须“准确、基于证据并有助于推动事情向前发展。”她的批评强调的是在尽职调查方面的感知失误,而不是单一的技术错误。
政府委托的报告花费了多少,政治影响是什么?
根据上周三在博客文章中发布的信息获取请求,加拿大政府为德勤的研究支付了略低于160万美元的费用,该研究分为八期发布。截至周一,尽管关于其引用和方法论的争议不断,该报告仍然可以在纽芬兰与拉布拉多政府网站上找到。
自报告发布以来,该省的政治领导层发生了变化。纽芬兰与拉布拉多省进步保守党领袖托尼·韦克汉姆于十月底宣誓就任该省新省长。然而,省长办公室和卫生与社区服务部均未立即回应《财富》杂志关于五月报告的问题,并且至今尚未公开回应这些关切。
这种沉默引发了关于报告建议是否会继续指导健康政策的疑问。这也增加了省级立法者或联邦监管机构对咨询公司研究在影响核心公共服务之前如何进行审查的进一步关注的可能性。
这些德勤报告错误与澳大利亚福利案件相比如何?
加拿大的揭露与澳大利亚的类似问题相呼应。今年七月,德勤制作了一份价值29万美元的报告,旨在帮助澳大利亚政府加强福利合规性。这份237页的研究同样依赖于生成技术,后来被发现包含“幻觉”,其中包括对不存在的学术研究的引用以及捏造的联邦法院判决引用。
在一位研究人员指出问题后,德勤发布了澳大利亚研究的修订版。更新后的报告于上个月悄然上传至政府网站,承认该公司使用了生成语言系统Azure OpenAI来协助创建初始文件。只有在外部审查揭露了引用错误后,这一承认才得以公开。
在更新后的澳大利亚报告中,德勤写道,“所做的更新绝不会影响或改变报告中的实质性内容、发现和建议。” 然而,批评者认为,捏造的来源本质上会对任何基于证据的建议的完整性产生怀疑,而不仅仅是表面细节。此外,这第二次事件加剧了关于德勤AI幻觉及其内部事实核查稳健性的争论。
德勤面临了哪些财务后果,加拿大还有哪些问题未解决?
在澳大利亚的案件中,德勤的本地成员公司被要求向联邦政府提供部分退款,以弥补有缺陷的福利报告。该财务处罚表明,官员们认为与AI相关的不准确性严重到需要进行赔偿。
相比之下,关于加拿大医疗报告的任何潜在退款或合同补救措施的信息尚未公开。尽管如此,随着政策制定者、医护人员和纳税人质疑他们是否从一项现在需要在发表后修正其证据基础的研究中获得了充分的价值,压力可能会增加。
更广泛地说,这两起事件突显了当政府依赖大型咨询公司使用生成技术而没有严格的保障措施时,风险正在上升。它们还表明,公共机构需要更强的标准来验证信息来源,特别是在那些可能影响多年关键服务的冗长复杂的政策报告中。
总之,对德勤加拿大医疗保健审查和澳大利亚福利研究的不断审查,强调了在AI辅助研究影响公共政策决策时,可靠证据、透明方法论和强有力监督的迫切需求。




