研究人员对微软 Copilot 进行测试，要求其回答美国常见医疗问题和常用药物相关问题，总计生成 500 个答案。结果显示 Copilot 的回答在准确性和完整性方面有问题，24%与已有医学知识不符，3%完全错误，42%可能对患者造成中度或轻度伤害，22%可能导致死亡或严重伤害，只有 36%无害。研究人员指出人们不应依赖 Copilot 等 AI 系统获取准确医疗信息，最可靠方式是咨询医务人员，但并非所有人都能轻松获得高质量医疗建议，所以 Copilot 等 AI 系统成为许多人首选，潜在危害不容忽视。
论文地址：
https://qualitysafety.bmj.com/content/early/2024/09/18/bmjqs-2024-017476