登录
3.(2026·广东东莞阶段测试)阅读下面的材料,完成题目。
材料一:①不久前,话题“防止DeepSeek乱编文献的方法”冲上热搜。记者注意到:用AI工具写论文“被坑”的经历并非鲜见。有网友列出了自己的亲身经历,除了编造论文文献,AI还会编造法律条文。
②问AI一个问题,它给了你一个特别详细、丰富,看上去好有逻辑的答案。但当我们去核实时,却发现这些信息完全是虚构的。这就是著名的“AI幻觉”现象。
③“AI幻觉”指的是AI会生成看似合理但实际错误的信息,最常见的表现就是会编造一些不存在的事实或者细节。
④专家提醒,“AI幻觉”并非没有好处,有时候与其把它当成缺陷,不如把它看作创意的源泉。在写作、艺术创作或头脑风暴时,这些“跳跃性思维”反而可能帮我们打开新世界的大门。
⑤归根结底,在这个AI与人类共同进步的时代,重要的不是责备AI的不完美,而是学会与之更好地协作。
(摘编自《中国青年报》2025年3月28日)
材料二:①究竟是什么原因导致AI出现这些令人困惑的幻觉现象呢?这需要从AI的工作原理和训练机制探寻答案。
②某高校教授张丽娜介绍,以广泛应用的大语言模型为例,它并不像人类一样具备真正理解问题含义的能力,无法基于自身积累的知识和丰富经验进行深入推理与判断,进而给出准确回答。相反,它更像是一个超级“文字接龙”高手。在训练过程中,大语言模型会学习海量的文本数据,通过对这些数据的分析和统计,掌握语言的模式和规律。当接收到用户的输入问题时,它会依据之前学到的模式和规律,预测最有可能的下一个词或句子,以此生成回答。当遇到一些在训练数据中没有明确答案,或者需要复杂推理才能得出结论的问题时,AI就如同在黑暗中摸索的人,缺乏足够的信息和判断力,只能凭借已有的模式和经验“胡编乱造”,生成看似合理但实际错误的内容。
③AI训练所使用的数据质量也是导致幻觉产生的关键因素。如果训练数据本身包含错误、虚假或带有偏见的信息,那么AI在学习过程中就如同吸收了“有害养分”,不可避免地将这些错误信息内化。当它生成内容时,这些错误信息就如同隐藏在暗处的“定时炸弹”,随时可能被触发,导致幻觉出现。
④此外,模型的架构设计、训练算法的选择以及对模型的优化目标等,都与AI幻觉的出现有着千丝万缕的联系。
(摘编自《衢州日报》2025年4月8日)
材料三:①在2024年6月出版的《自然》杂志上,英国牛津大学科学家刊发论文称,他们利用“语义熵”,通过概率来判断大语言模型是否出现了“幻觉”。语义熵是信息熵的一种,被用于量化物理系统中所包含的信息量。通过评估AI模型在特定提示词下生成内容的不确定性,来计算模型的困惑度,从而为用户或模型提供警示,提醒其采取必要的循证措施,确保更准确的答案输出。
②美国卡内基梅隆大学某AI研究人员采用的方法是在大语言模型回答问题时,绘制其内部计算节点的激活模式,他形象地称之为“给AI做脑部扫描”。利用不同的计算节点活动模式,可以告诉我们AI模型是在“说真话”,还是在“胡说八道”。
(摘编自《科技日报》2025年1月28日)
(1)下列对以上材料的理解和判断,不正确的一项是(
A. AI是把双刃剑,我们的态度不是责备AI的不完美,而是要学会与之更好地协作。
B. 可以把“AI幻觉”看作是创意的源泉,因为在写作、艺术创作或头脑风暴时,它肯定能帮我们打开新世界的大门。
C. AI幻觉,涉及AI的工作原理和训练机制、AI训练所使用的数据质量、模型的架构设计、训练算法的选择等。
D. “语义熵”通过评估AI模型在特定提示词下生成内容的不确定性,来计算模型的困惑度,从而为用户或模型提供警示。
(2)结合材料二,简要分析训练数据质量为何会影响“AI幻觉”的产生。
(3)结合材料三,简要概括两种检测大语言模型“幻觉”的方法。
(4)我们在使用AI的过程中,应当如何避免“AI幻觉”误导?请结合所给材料提出你的建议。
视学重难
材料一:①不久前,话题“防止DeepSeek乱编文献的方法”冲上热搜。记者注意到:用AI工具写论文“被坑”的经历并非鲜见。有网友列出了自己的亲身经历,除了编造论文文献,AI还会编造法律条文。
②问AI一个问题,它给了你一个特别详细、丰富,看上去好有逻辑的答案。但当我们去核实时,却发现这些信息完全是虚构的。这就是著名的“AI幻觉”现象。
③“AI幻觉”指的是AI会生成看似合理但实际错误的信息,最常见的表现就是会编造一些不存在的事实或者细节。
④专家提醒,“AI幻觉”并非没有好处,有时候与其把它当成缺陷,不如把它看作创意的源泉。在写作、艺术创作或头脑风暴时,这些“跳跃性思维”反而可能帮我们打开新世界的大门。
⑤归根结底,在这个AI与人类共同进步的时代,重要的不是责备AI的不完美,而是学会与之更好地协作。
(摘编自《中国青年报》2025年3月28日)
材料二:①究竟是什么原因导致AI出现这些令人困惑的幻觉现象呢?这需要从AI的工作原理和训练机制探寻答案。
②某高校教授张丽娜介绍,以广泛应用的大语言模型为例,它并不像人类一样具备真正理解问题含义的能力,无法基于自身积累的知识和丰富经验进行深入推理与判断,进而给出准确回答。相反,它更像是一个超级“文字接龙”高手。在训练过程中,大语言模型会学习海量的文本数据,通过对这些数据的分析和统计,掌握语言的模式和规律。当接收到用户的输入问题时,它会依据之前学到的模式和规律,预测最有可能的下一个词或句子,以此生成回答。当遇到一些在训练数据中没有明确答案,或者需要复杂推理才能得出结论的问题时,AI就如同在黑暗中摸索的人,缺乏足够的信息和判断力,只能凭借已有的模式和经验“胡编乱造”,生成看似合理但实际错误的内容。
③AI训练所使用的数据质量也是导致幻觉产生的关键因素。如果训练数据本身包含错误、虚假或带有偏见的信息,那么AI在学习过程中就如同吸收了“有害养分”,不可避免地将这些错误信息内化。当它生成内容时,这些错误信息就如同隐藏在暗处的“定时炸弹”,随时可能被触发,导致幻觉出现。
④此外,模型的架构设计、训练算法的选择以及对模型的优化目标等,都与AI幻觉的出现有着千丝万缕的联系。
(摘编自《衢州日报》2025年4月8日)
材料三:①在2024年6月出版的《自然》杂志上,英国牛津大学科学家刊发论文称,他们利用“语义熵”,通过概率来判断大语言模型是否出现了“幻觉”。语义熵是信息熵的一种,被用于量化物理系统中所包含的信息量。通过评估AI模型在特定提示词下生成内容的不确定性,来计算模型的困惑度,从而为用户或模型提供警示,提醒其采取必要的循证措施,确保更准确的答案输出。
②美国卡内基梅隆大学某AI研究人员采用的方法是在大语言模型回答问题时,绘制其内部计算节点的激活模式,他形象地称之为“给AI做脑部扫描”。利用不同的计算节点活动模式,可以告诉我们AI模型是在“说真话”,还是在“胡说八道”。
(摘编自《科技日报》2025年1月28日)
(1)下列对以上材料的理解和判断,不正确的一项是(
B
)A. AI是把双刃剑,我们的态度不是责备AI的不完美,而是要学会与之更好地协作。
B. 可以把“AI幻觉”看作是创意的源泉,因为在写作、艺术创作或头脑风暴时,它肯定能帮我们打开新世界的大门。
C. AI幻觉,涉及AI的工作原理和训练机制、AI训练所使用的数据质量、模型的架构设计、训练算法的选择等。
D. “语义熵”通过评估AI模型在特定提示词下生成内容的不确定性,来计算模型的困惑度,从而为用户或模型提供警示。
(2)结合材料二,简要分析训练数据质量为何会影响“AI幻觉”的产生。
训练数据是AI学习语言模式和规律的基础,若数据本身包含错误、虚假或带有偏见的信息,AI会将这些“有害养分”内化;当AI生成内容时,这些被内化的错误信息会像“定时炸弹”一样被触发,最终导致“AI幻觉”出现。
(3)结合材料三,简要概括两种检测大语言模型“幻觉”的方法。
①利用“语义熵”评估模型生成内容的不确定性,来计算困惑程度;
②绘制模型内部计算节点的激活模式(“给AI做脑部扫描”)。
(4)我们在使用AI的过程中,应当如何避免“AI幻觉”误导?请结合所给材料提出你的建议。
①核实AI生成的信息,尤其是文献、法律条文等关键内容;②了解AI工作原理,认识到其“文字接龙”的本质,不盲目信任复杂推理类回答;③关注AI训练数据质量,优先选择训练数据可靠的AI工具;
④利用“语义熵”、绘制模型内部计算节点的激活模式等技术手段,判断AI是否出现幻觉;⑤在使用AI进行创作时,将其视为创意来源,而非唯一依据,需结合自身判断筛选信息。
视学重难
答案
3.(1)B [解析]根据材料一第④段中“在写作、艺术创作或头脑风暴时,这些‘跳跃性思维’反而可能帮我们打开新世界的大门”可知,这里说的是“可能”,而非“肯定”。
(2)训练数据是 AI 学习语言模式和规律的基础,若数据本身包含错误、虚假或带有偏见的信息,AI 会将这些“有害养分”内化;当 AI 生成内容时,这些被内化的错误信息会像“定时炸弹”一样被触发,最终导致“AI 幻觉”出现。
[解析]根据材料二第③段中“如果训练数据本身包含错误、虚假或带有偏见的信息……这些错误信息就如同隐藏在暗处的‘定时炸弹’,随时可能被触发,导致幻觉出现”来概括作答即可。
(3)①利用“语义熵”评估模型生成内容的不确定性,来计算困惑程度;②绘制模型内部计算节点的激活模式(“给 AI 做脑部扫描”)。
[解析]根据材料三第①段“他们利用‘语义熵’,通过概率来判断大语言模型是否出现了‘幻觉’”和第②段“美国卡内基梅隆大学某 AI 研究人员采用的方法是在大语言模型回答问题时,绘制其内部计算节点的激活模式”来概括作答即可。
(4)①核实 AI 生成的信息,尤其是文献、法律条文等关键内容;②了解 AI 工作原理,认识到其“文字接龙”的本质,不盲目信任复杂推理类回答;③关注 AI 训练数据质量,优先选择训练数据可靠的 AI 工具;④利用“语义熵”、绘制模型内部计算节点的激活模式等技术手段,判断 AI 是否出现幻觉;⑤在使用 AI 进行创作时,将其视为创意来源,而非唯一依据,需结合自身判断筛选信息。
[解析]根据三则材料相关内容提出合理的建议即可。如根据材料一第①段“用 AI 工具写论文‘被坑’的经历并非鲜见……除了编造论文文献,AI 还会编造法律条文”和第②段“问 AI 一个问题……但当我们去核实时,却发现这些信息完全是虚构的”可知,使用 AI 时,需核实其生成的信息,尤其是文献、法律条文等关键内容。再如根据材料二第②段“以广泛应用的大语言模型为例……更像是一个超级‘文字接龙’高手……只能凭借已有的模式和经验‘胡编乱造’”可知,需了解 AI 工作原理,认识到其“文字接龙”的本质,不盲目信任其复杂推理类回答。
(2)训练数据是 AI 学习语言模式和规律的基础,若数据本身包含错误、虚假或带有偏见的信息,AI 会将这些“有害养分”内化;当 AI 生成内容时,这些被内化的错误信息会像“定时炸弹”一样被触发,最终导致“AI 幻觉”出现。
[解析]根据材料二第③段中“如果训练数据本身包含错误、虚假或带有偏见的信息……这些错误信息就如同隐藏在暗处的‘定时炸弹’,随时可能被触发,导致幻觉出现”来概括作答即可。
(3)①利用“语义熵”评估模型生成内容的不确定性,来计算困惑程度;②绘制模型内部计算节点的激活模式(“给 AI 做脑部扫描”)。
[解析]根据材料三第①段“他们利用‘语义熵’,通过概率来判断大语言模型是否出现了‘幻觉’”和第②段“美国卡内基梅隆大学某 AI 研究人员采用的方法是在大语言模型回答问题时,绘制其内部计算节点的激活模式”来概括作答即可。
(4)①核实 AI 生成的信息,尤其是文献、法律条文等关键内容;②了解 AI 工作原理,认识到其“文字接龙”的本质,不盲目信任复杂推理类回答;③关注 AI 训练数据质量,优先选择训练数据可靠的 AI 工具;④利用“语义熵”、绘制模型内部计算节点的激活模式等技术手段,判断 AI 是否出现幻觉;⑤在使用 AI 进行创作时,将其视为创意来源,而非唯一依据,需结合自身判断筛选信息。
[解析]根据三则材料相关内容提出合理的建议即可。如根据材料一第①段“用 AI 工具写论文‘被坑’的经历并非鲜见……除了编造论文文献,AI 还会编造法律条文”和第②段“问 AI 一个问题……但当我们去核实时,却发现这些信息完全是虚构的”可知,使用 AI 时,需核实其生成的信息,尤其是文献、法律条文等关键内容。再如根据材料二第②段“以广泛应用的大语言模型为例……更像是一个超级‘文字接龙’高手……只能凭借已有的模式和经验‘胡编乱造’”可知,需了解 AI 工作原理,认识到其“文字接龙”的本质,不盲目信任其复杂推理类回答。
