亚马逊云科技（AWS）发布“自动推理检查”工具

亚马逊云科技（AWS）发布“自动推理检查”工具，首个且唯一针对AI模型幻觉问题的防护措施，可通过交叉引用客户信息验证模型响应准确性，依托AWS的Bedrock模型托管服务（特别是Guardrails工具）运作，能判断模型答案是否正确并在出现幻觉时呈现正确答案与错误答案对比情况。不过，微软、谷歌此前已推出类似功能的工具。普华永道已开始使用该工具，AWS相关副总裁称其是吸引客户使用Bedrock的原因。但有专家指出消除AI幻觉难度极大，因为AI模型是统计系统，其响应只是预测。且AWS未提供数据证明该工具可靠性。