辅助决策

项目介绍 About the Project 近年来，清洁能源领域正在加速智能化转型，大模型凭借强大的理解、生成能力及海量的跨领域知识储备，有望辅助操作员应对日常响应、复杂工况与突发事件的情况处理，有效应对专家经验流失与知识碎片化等行业挑战，降低人因等失误风险。 本项目致力于解决大模型在清洁能源场景应用中的安全可信缺陷，通过研发领域知识与安全能力深度耦合的基座模型，构建清洁能源智能化转型中的安全准入门槛。 核心困境 Core Challenges 当前清洁能源领域智能化的核心困境在于通用大模型的基础能力与行业关键需求存在结构性错位。 通用大模型的领域知识不足以支撑深度应用： 尽管通用模型已具备成熟的语言理解能力与通识能力，但针对能源相关场景知识深度不足，难以提供充分信息支撑决策级应用。 通用大模型的安全框架没有考虑行业特殊性： 目前大模型使用的安全框架主要针对通用安全问题，如价值观偏颇、有害内容、偏见歧视、数据泄露等，没有考虑行业特殊安全规范（如核能领域保守决策原则等）。 通用大模型的幻觉问题可能产生操作误导： 模型固有的幻觉风险在操作场景中被急剧放大，错误的机组启停指令或故障处置方案可能直接触发连锁性安全事故。 通用大模型对越狱攻击的抵御能力弱： 通用模型对诸如提示注入、对抗样本等攻击手段的防御能力脆弱，恶意指令很可能穿透安全隔离层操控关键设备。 由于以上缺陷，通用人工智能应用于主控室辅助决策等重要场景存在不可承受的风险敞口，构建深度内嵌专业知识并具备内生安全免疫力的可控可信模型，已成为行业智能化升级的刚需。 安全设计 Safety Design 领域知识 清洁能源领域的知识类数据存在数据获取成本大、理解门槛高、生成数据验证困难的问题。 为此团队构建了数据增广pipeline + 专家反馈模式，在保障知识准确性的同时，将人工标注时间缩短50%，评估结果表明这一方法的构造效率和数据质量均优于当前已披露的知识语料构建方式。 领域知识库贯穿基础知识到系统操作知识多个层级，通过融合检索增强和创新的约束训练策略，克服了通用模型在专业领域知识匮乏从而容易出现幻觉的难题。 搭配 think-with-search 功能为模型思考过程和检索结果提供的“置信度仪表盘”，使模型的思维链条透明可溯，不仅极大提升了生成内容的使用价值，而且显著降低了专业人员在模型使用过程中对知识可信度的评估成本。 安全思维 为确保模型输出始终与行业的严苛安全要求保持价值对齐，团队通过后训练将“安全第一”等原则内化为模型的底层逻辑。 为获取符合清洁能源安全文化的数据，团队构建了一套自动化数据生成框架，通过模拟“ 安全原则专家”与“知识参考专家”等多角色协作。 在既定安全规范的指引下，进行对话式或任务式的内容创造，制造出多场景、多样性的大规模高质量训练与评测语料。此框架还具备良好的可扩展性，可被移植于其他同样重视长文本生成与复杂规则遵循的专业领域。 在安全思维塑造环节，团队通过有监督微调为模型注入场景化感知能力，针对三类核心场景进行差异化训练： （1）非专业问题的日常交流，追求自然流畅； （2）专业知识问答，强调严谨准确与安全审慎； （3）关键操作指导，则必须遵循程序化、高审慎度并突出风险的指令风格。 这种训练使模型具备根据不同交互需求自适应调整沟通风格与信息结构的能力。 此外，团队独创了领域规范匹配范式建模与训练方法，使模型不仅能回答场景化问题，更能始终遵循安全文化原则，结合技术规程历史经验，进行结构化思考与表达，保证了其输出的专业性、严谨性与可靠性。 安全防御 为强化模型对越狱攻击和红线问题的防范能力，团队构建了安全验证器对用户输入进行前置检测，该模块能够生成高质量的监督信号，驱动强化学习训练过程。 这一机制通过策略梯度算法（GRPO），在接收到带有敏感意图的提示时，通过多步内省式推理判断潜在风险，使模型能主动识别并拒绝带有恶意意图或涉及敏感内容的提问，从源头有效防御模型越狱攻击。 通过这种双重保障，不仅显著降低了模型生成恶意输出或有害内容的可能性，更能确保其响应始终符合安全价值观与伦理规范，实现了主动式、前置性的安全防范目标。 效益评估 Benefits of the Tools 以上方法有效整合了清洁能源领域的海量基础知识、法律规范、运行规程、设备参数等行业专用数据，以及历史案例、故障记录、经验反馈等碎片化数据。 并通过创新数据构造方法极大提高了数据更新效率，缓解了该领域知识体系复杂、经验传承难的问题，为模型辅助决策提供了一致性基础。 场景自适应机制使模型能够在日常交互、专业咨询、关键操作三类场景中无缝切换，实现了既具备工业级安全鲁棒性，又能显著降低部署与运维隐性成本的智能化落地方案。 通过深度耦合领域知识与内生安全机制，我们的基座模型从根本上提升了在能源领域开发AI应用的安全性和可靠性，作为“永不疲倦的第二大脑”，7×24小时守护人类的安全。