生成式人工智能凭借其多模态信息的高效处理、流畅的人机互动等功能优势，正逐步应用于中小学教师备课、个性化学习辅导、自动作业批改等教学场景。该技术在提升教学效率与互动性的同时，也存在生成内容不准确、不可靠等风险。如何识别和应对生成式人工智能的内容可靠性风险是当前中小学课堂教学数字化改革面临的重要挑战。

    生成式人工智能的内容可靠性风险

    内容可靠性是指生成式人工智能产品所产出内容的可靠程度，包括真实性、关联性、中立性、新颖性等。可靠性风险具体表现为：一是事实性错误，生成完全不符合事实、拼凑捏造的内容；二是低关联性，未能根据用户指令生成有针对性的内容，答非所问，生成的内容属于边缘性信息或过时性知识；三是带有偏见和歧视，生成的内容具有明显的种族、性别等方面的歧视，容易误导用户；四是浅层次与模板化，生成的内容套路化痕迹重，缺少深度和新意。

    从技术角度来看，这种内容可靠性风险主要源自两方面因素：一是训练数据质量不佳，即大模型系统依赖的训练数据存在偏差、错误或不完整，导致生成的内容不够准确；二是大模型算法可解释性不足，使得理解和审查模型的决策过程变得困难，增加了不可靠内容生成的潜藏风险。

    客观而言，上述技术缺陷并非短时间可以彻底解决的。因此，广大师生需要明晰内容可靠性对课堂教学带来哪些挑战，以及采用何种应用策略予以应对。

    内容可靠性对课堂教学带来的挑战

    当前，生成式人工智能的内容可靠性风险为中小学课堂应用大模型技术产品带来诸多挑战。

    错误内容误导学生知识理解。数据质量、算法缺陷等问题会导致生成的学科知识准确性不够，影响学生对基本概念的正确理解，降低课堂教学质量。比如，在初中生物课堂教学中，教师使用了人工智能大模型生成关于细胞分裂的学习材料，但是大模型可能错误地描述了细胞分裂的过程，将“有丝分裂”和“减数分裂”两个概念混淆，称“减数分裂”为细胞复制的主要方式，并忽略了“有丝分裂”在组织生长和修复中的关键作用。这种错误的学科知识会使学生对生物学的核心概念产生误解，同时引发学生对遗传学基本原理的认知混淆。

    冗余信息导致课堂教学低效。生成式人工智能在生成内容时可能会产生大量与教学目标无关的冗余信息，导致学生在课堂上花费大量时间阅读、讨论与主题无关的内容，影响学生对核心知识点的理解，还可能分散学生的注意力，降低学生的学习效率。比如，在学习“二战期间的欧洲战场”一课时，人工智能可能会生成大量关于战争期间各国领导人的生平介绍，这种冗余信息不仅消耗了课堂教学时间，也使学生忽略了战争关键转折点、主要战役等核心知识点，严重影响教学的效率和质量。

    偏见内容有损学生价值观形成。课堂教学不仅要教会学生学科知识，而且承担着培养学生健全人格、健康价值观和正确道德观的重任。然而，生成式人工智能普遍面临算法透明度不足的问题，其决策过程难以被全面解析和验证。比如，大模型在构建过程中可能嵌入了开发者的主观偏见，或受到含有偏见的训练数据污染，导致其可能会生成与社会主义核心价值观相悖的意识形态和内容。这类风险不仅削弱了生成式人工智能在教育教学领域应用的正面效应，而且有可能损害教育质量和公正，违背技术伦理和育人目标，导致学生形成扭曲的世界观和价值观，影响学生将来成为负责任和有道德的数字公民。

    模板化内容导致学生思维僵化。生成式人工智能主要基于对大量固定风格和结构信息的学习，缺乏对复杂概念和情境的深入思考，容易导致生成内容的灵活性和深度不足。学生大量接触模板化、程式化的内容之后，其创造力和批判性思维的发展极易受到影响。比如，当生成式人工智能用于辅助作文教学时，有时会生成遵循特定模板的作文，语言形式的灵活性和情感表达的生动程度与优秀的真人范文相比存在明显差距。学生长期接触此类“模板化”作文，容易出现文字风格和思维模式趋同的问题，难以养成个性化写作风格和综合能力。

    应对内容可靠性风险的实用策略

    为了降低生成式人工智能内容可靠性风险对课堂教学带来的负面影响，中小学师生可以采取几条具体策略。

    养成内容可靠性核验意识。师生在课堂教学实践中需要转变对待生成式人工智能的态度，应该从“盲信盲从”转为“审慎评估”，培养自身审视人工智能生成内容可靠性的意识。一方面，师生需要正确处理“人—机”互动关系，客观认识各自的优势与局限性，主动培养批判性分析、辨别机器生成内容可靠性的思维习惯；另一方面，地方教育行政部门与中小学校可以采用专题培训、案例分析、示范展示、竞赛实训等方式，有组织地培养师生人工智能素养，不断强化他们对生成式人工智能内容可靠性的核验意识。

    掌握内容可靠性核验方法。首先，对照权威资料、网站内容核实是提高生成内容准确性的关键步骤。通过多源信息的核实对比，师生可以有效识别和纠正人工智能生成内容中的错误或过时信息，保证教学内容的科学性和权威性。这一过程也有助于培养学生的信息甄别和评价能力。

    其次，跨模型工具之间的内容比较是评估生成内容可靠性的重要手段。通过比较不同大模型（比如讯飞星火、文心一言、豆包等）生成的相同主题内容，师生可以识别出信息的一致性与差异性，从而筛选出更为可靠的信息。比如，在数学教学中，教师可以比较不同模型生成的解题步骤与答案，选择逻辑清晰、解释详尽的内容作为教学资源。

    最后，寻求外部力量支持，建立由学科专家、教师、学生组成的人工反馈机制是提升核验效率与质量的有效途径。教师可以邀请教研员、学科专家、高校科研人员等外部力量对人工智能生成的内容进行专业评审，同时鼓励学生参与反馈，形成师生共建共享的内容审核体系。在课堂教学中，教师可以增加学生讨论与分析人工智能生成性内容的学习活动。比如，在科学实验课程中，教师和学生共同讨论验证人工智能生成的实验方案，提升实验设计的科学性与安全性；在写作课教学中，教师可以组织学生对比优秀的真人范文与人工智能范文之间的区别，深度分析与评估人工智能生成范文的语言风格和内容深度。

    善用内容可靠性查验工具。中小学教师可以根据实际需要设计一套可靠性查验表作为日常工具，建立更高效的内容核验流程。根据内容可靠性的基本特征，查验表涉及准确性、权威性、时效性、客观性、适宜性等项目。准确性是指生成的内容是否与已知事实相符；权威性考察内容是否参考了可信赖的来源；时效性是指需要考察的内容是否为最新数据或发现；客观性需要教师判断内容是否避免了主观偏见；适宜性考察内容是否适合特定学生的年龄和认知水平。教师在课前通过人工智能辅助备课时可以使用查验表，对教学设计方案、教学资源、作业任务等进行全面审核。在课堂教学环节，教师可以将查验表的形式简化，把查验要点与课堂导学案、学习任务单结合，引导学生在探究、讨论、协作等学习活动中有意识地核验内容的可靠性。

    创建可靠性强的专用智能体。与通用大模型相比，教育专用智能体在生成内容的准确性、权威性和适宜性方面都具有明显优势。教育专用智能体通常会集成多种内容校验和质量控制机制，在内容生成过程中能够及时发现并纠正内容中的错误，确保内容的准确性和权威性。智能体的个性化定制功能可以限定生成内容的难度范围和语言风格，确保生成内容符合特定年龄学生的认知水平。

    目前，所有国产人工智能大模型产品均支持用户创建个性化专用智能体。教师在创建智能体时，还需要定期审核、反馈和迭代设计，要在课堂使用中根据学生的学习效果与反馈进行内容和交互的不断迭代优化。此外，还需要遵循以下原则提升智能体的可靠性。

    一是明确生成内容的知识范围，在编写提示语时明确标出生成内容所依据的参考资料、知识范围，帮助智能体生成更加精准的定制化内容；二是限定生成内容的语言文字风格，提示语中应包含适应学生认知水平的指令，比如“使用中国小学三年级学生能够理解的英语单词和句型进行回答”；三是增加交互性设计，在提示语中加入问题、思考、鼓励性话语促进学生互动，比如“面对学生提问，不要直接给答案，要通过追问引导学生深入理解”“提出一个关于细胞能量转换的具体问题让学生讨论”“对于学生的语音进行正面点评，如‘很棒，你的发音越来越准确了’”等。

    总之，人工智能在中小学阶段的应用，既能帮助教师提高教学质量，同时也存在许多风险，需要教师综合评估、积极应对，从而更好地将人工智能技术融入课堂教学之中。

    （作者杨现民系中国教育技术协会学术委员会秘书长，江苏省教育信息化工程技术研究中心常务副主任；作者丁杰系江苏师范大学智慧教育学院讲师）