当前位置:首页 > DeepSeek技术交流 > 正文内容

从“浅尝”到“深爱”,华为云Stack打通政企应用DeepSeek最后一公里

6个月前 (03-26)DeepSeek技术交流380

DeepSeek横空出世火爆全网,在个人用户端,DeepSeek App频登各大应用市场下载量榜首;企业用户端,不完全统计已有几百家企业机构用户宣布部署DeepSeek。“全民AI”的浪潮从DeepSeek尝鲜来到了产业新命题:拥有DeepSeek不是真的好,用好DeepSeek才是真的好。

大模型增量预训练,从通用到行业,提供“大而全”的行业大模型

以煤矿行业为例,高度专业化的行业流程、设备术语,叠加煤矿企业自身特有的生产标准、操作规程、安全要求等行业规范,都对通用大模型的领域知识储备带来极大挑战。如“最强大脑”般包罗万象的DeepSeek,也可能因缺乏对企业既往地质勘探报告的数据积累,而无法给出针对该企业矿产分布情况的分析意见。

因此,在部署DeepSeek后,煤企还需要通过增量预训练开发,将行业领域知识、煤矿专业词典、自身经营信息等数据注入基础大模型,来解决基础模型知识库与行业知识的适配、以及企业自身私有数据集成的难题。开发过程中,需要对问答数量不足的领域使用专业词典生成新文本以增强源数据,对图片类行业文档进行格式转换,进行数据处理去除无用信息,审核数据内容安全性,对新增数据添加特定标签后拼装新的标注数据集,并进行相应的参数优化和强化学习。

经过行业领域知识增强后的行业大模型,将能够通过分析企业历史事故报告、安全规程文本等信息,给出针对性的生产预警建议;通过解析企业技术图纸、设备、合同等文档构建企业自有知识库从而提升设备故障诊断效率和文档检索效率;以及帮助矿区巡检人员将语音记录自动转化为巡检报告从而大幅提升巡检效率,真正成为企业“最有用”的AI小帮手。

大模型场景开发微调,聚焦任务性能提升,提供“精而深”的场景大模型

以制造行业为例,有研发设计、生产制造、供应物流、质量管理、市场营销、售后支持、设备维护等众多细分场景,各场景业务智能化任务所需要的模型能力不一而同。因而,往往需要企业在完成行业领域大模型专业知识构建和增强之后,针对特定任务执行的性能表现,基于已形成的行业预训练数据进行进一步的专家数据标注、通过行业Prompt工程进行问答润色、以及使用行业指令数据和通用指令数据进行数据处理以完善指令数据配比,并在此基础上进行持续的场景模型参数调整优化和强化学习,从而提升对于具体业

务场景下对模型“精而深”的性能要求。

例如,在产品生产质量管控这一细分场景,通过将企业独有的产品生产批次数据、质检记录和客户质量反馈投诉等信息用于质检场景模型分析优化,将能够帮助企业持续积累客户反馈问题与产品缺陷规律的质量分析经验,并在不断优化模型表现的基础上,持续提升产品缺陷的响应速度,从而帮助企业及时进行原材料优化、工艺改进等质量措施以不断提升产品质量,让大模型真正助力企业的核心生产力提升。

蒸馏模型开发,从“大模型”淬炼“小模型”,轻量部署助力模型能力边端落地

对于很多拥有大量分支机构的行业来说,分支机构多且分散的实际情况往往会成为企业规模化部署智能化应用的一大挑战。尤其是针对有众多偏远区域分支的客户,例如能源基础设施企业,公共服务企业,由于环境特殊性、网络限制及实时性需求,企业通常会通过部署边缘计算和智能设备实现本地化数据处理与决策。

然而,在大模型应用的过程中,基础大模型往往参数量巨大,无法在边缘低算力设备中部署。此外,一些实时性要求较高的作业,例如事故报警,需要毫秒级响应,大模型的推理速度往往无法满足要求。

在这种场景下,通过知识蒸馏,可以将行业大模型的知识迁移到更轻量级的小模型中,在既保持模型性能的同时降低对边缘设备的计算需求,提升边端模型应用性能,实现快速响应。例如在采矿业,通过将小模型应用到边缘站点终端的安全巡检助手应用,可实现矿井下语音指令识别和安全警告。这将大大助推矿企真正实现少人化、无人化作业,让AI成为提高生产效率和安全性的利器。

大模型应用上线备案支持, 为企业大模型应用顺利上线保驾护航

根据 《生成式人工智能服务管理暂行办法》,企业上线大模型业务应用,需要满足相应的备案、安全评估、内容合规等要求。在这个过程中,企业需要应对包括生成内容合规、数据合法授权、用户数据隐私与保护,用户实名认证管理、版权法律保护等诸多层面的工作挑战。

大模型专业服务提供商可基于自身对模型开发原理、内容生成机制、系统安全保障等领域的丰富经验和专业能力,可帮助企业设计安全评估与渗透测试完善风险预案,组建包括法务、技术和风控角色的内部合规团队,助力企业在完成模型开发后,实现模型应用快速上线,及持续性安全合规监测,真正完成“从布得起”,到“用得好”的全流程业务闭环。

端到端专业服务,为DeepSeek大模型深度应用提供“最后一公里”保障

可以看出,大模型在政企的应用之路并不仅仅是一次安装即可完成的,仍然存在大量的工程化调优和开发等工作,才能真正匹配企业的业务场景。在这个过程中,选择有丰富实施经验和服务工具的厂商合作,可以更有效和快速地解决安装到应用过程中的一系列问题。结合30多个政企细分行业场景和1000+场景模型经验沉淀,华为云Stack提供全链路DeepSeek专业服务体系,涵盖咨询、部署实施、场景开发微调、蒸馏模型开发、大模型开发增量预训练及培训6大类服务场景和30多个服务能力,并将服务能力沉淀到数据、模型、工程三大工程工具里,打通DeepSeek在政企行业应用的最后一公里。


“从“浅尝”到“深爱”,华为云Stack打通政企应用DeepSeek最后一公里” 的相关文章

“数智行动” 下的平安人寿:借助DeepSeek,重塑业务格局

“数智行动” 下的平安人寿:借助DeepSeek,重塑业务格局

在数字化浪潮席卷全球的当下,国家大力倡导发展“新质生产力”,加速推动产业数字化、智能化转型。作为保险行业的领军企业,平安人寿紧抓时代机遇,拥抱技术革新,率先开启“数智行动”,积极推进DeepSeek模...

大厂加码,小厂离席:DeepSeek驱动的MaaS之变

大厂加码,小厂离席:DeepSeek驱动的MaaS之变

文 | 脑极体月初,潞晨科技创始人提出MaaS(Model as a Service,模型即服务)是“最差的商业模式”,满血版DeepSeek-R1月亏损超过4亿元,并宣布停止DeepSeek API...

可灵AI全面接入DeepSeek,降低AI创意内容门槛

可灵AI全面接入DeepSeek,降低AI创意内容门槛

36氪获悉,近日,快手可灵AI已全面接入DeepSeek-R1,在视频生成、图片生成等场景下,用户可通过DeepSeek协助生成或者优化提示词,轻松将灵感转化为专业提示词,打造高质量创意视频。在文生视...

DeepSeek-V3击败R1开源登顶!杭州黑马撼动硅谷抹去1万亿市值神话

DeepSeek-V3击败R1开源登顶!杭州黑马撼动硅谷抹去1万亿市值神话

【新智元导读】DeepSeek又卷起来了!上周刚出的DeepSeek-V3-0324在大模型竞技场排名中,打败了自己的DeepSeek-R1,成为开源AI至尊。DeepSeek依然很能打,春节余波还在...

九科信息bit-Agent智能体,打通企业应用DeepSeek等大模型的最后一公里

九科信息bit-Agent智能体,打通企业应用DeepSeek等大模型的最后一公里

当DeepSeek以全球最快速度突破1亿用户大关时,这款以成本优化和开源生态著称的大模型,早已超越了工具范畴,成为国央企数字化转型的新基建。数据显示,超50%央企已完成DeepSeek本地部署,能源、...

省市县三级联动“信访+DeepSeek”创新工作新闻发布会举行

省市县三级联动“信访+DeepSeek”创新工作新闻发布会举行

大众网记者 朱铜辉 济宁报道5月30日,省市县三级联动“信访+DeepSeek”创新工作新闻发布会在曲阜市融媒体中心举行。近年来,曲阜市将“和为贵”传统文化精髓融入信访实践,整合省市县三级资源,作为“...