图灵汇官网

引言

近期的一项研究显示，AI 提供的医疗建议可能对用户造成严重的伤害，甚至危及生命。

研究详情

据最新报道，研究人员对微软 Copilot 进行了测试，要求它解答美国常见的 10 个医疗问题以及 50 种常用药物的相关问题，共计生成了 500 个答案。结果显示，Copilot 的回答存在不少问题，尤其是在准确性和完整性方面。

关键发现

• 准确性问题：测试表明，24% 的回答与现有医学知识相悖，3% 的回答则完全错误。
• 潜在危害：42% 的回答可能会对患者造成中度或轻度伤害，22% 的回答甚至可能导致严重的伤害或死亡。
• 无害回答：仅有 36% 的回答被认为是无害的。

专家观点

研究人员强调，不应依赖 Copilot 或其他 AI 系统来获取准确的医疗信息。最可靠的途径依然是向专业医护人员咨询。尽管如此，由于各种原因，并非所有人都能轻松获得高质量的医疗建议。因此，AI 系统如 Copilot 虽然便捷，但其潜在的风险也不容小觑。