关于AI幻觉的理解 针对目前生成式人工智能（语言大模型）输出信息不准确的问题，中国信息通信研究院发布的《人工智能治理白皮书（2024）》《人工智能发展报告（2024）》及其他国内外权威研究及行业报告等均提及：“人工智能的生成‘幻觉（Hallucination）’问题导致生成内容不可信风险。生成幻觉通常指模型按照流畅正确的语法规则产生的包含虚假信息甚至无意义内容的文本。” 本案人工智能《模型原理与训练方法说明》以加黑加粗的显著方式提示，“受限于当前模型的技术原理，人工智能可能生成错误、遗漏或不符合事实的内容，这一现象被称为‘幻觉’。幻觉是当前人工智能产业所共同面临的挑战。某人工智能致力于通过研究降低模型的幻觉率，包括但不限于选取高质量的训练数据源、优化对齐的策略、通过检索增强生成（RAG）技术等，但现阶段我们无法保证模型不产生幻觉……因此，模型生成的内容仅供您参考，您不应将输出的内容作为专业建议。” #AI幻觉 #每日一个法律小知识