中电信人工智能公司平台业务部首席架构师毕然:下一代新型企业,企业中有效智能体的数量将成为发展的关键。

经观新科技2025-03-07 10:13

2月28日,由《经济观察报》、经观传媒共同举办的“周期新变量 科技新格局”2024数字创新峰会于北京举行。中电信人工智能科技有限公司平台业务部首席架构师毕然发表了《中国电信星辰智能体平台赋能大模型产业落地实践》主旨演讲。

毕然认为,对于传统企业来说,人才是企业发展的第一要务;而对于下一代新型企业,企业中有效智能体的数量将成为发展的关键。

以下为演讲实录:

随着近期DeepSeek技术的不断发展,大模型技术及其产业落地受到了越来越多的关注。我们先来看一下,大模型技术在当前的技术和市场上呈现出哪些新的趋势。

首先,全国产化的趋势越发明显。除了模型的构建和应用软件的开发之外,硬件推理和计算也在不断实现国产化。端到端的国产化已成为当前技术发展的重要方向。其次,强化学习模式逐渐成为大模型训练的关键。与传统的指令学习(SFT)相比,强化学习能够显著提升大模型的思维链能力,这也是DeepSeek等大模型不断突破的重要动力。第三,多模态大模型正逐渐成为业界应用的主流。多模态大模型综合了语言、语音、视觉等多种模态的理解和生成能力。一方面,视觉信息可以帮助语言模型更好地理解空间位置和逻辑关系;另一方面,语言的语义表示也能增强视觉信息的深度语义理解,而不仅仅是图像中的物体标签。最后,大模型技术与具身智能的结合日益紧密。随着机器人、机器狗、无人机等智能硬件的发展,大模型在真实世界中的应用边界不断扩展。那最后我们会看到目前整个大模型的一个技术的演进,会跟我们的具身智能有很好的一个结合。

除了技术演进,市场上也有三个显著特点。首先,大模型通过蒸馏技术转化为小参数化模型,以加速其在服务器端或端侧设备上的应用。在端侧设备上部署小尺寸模型,可以显著提升大模型的响应速度和用户体验。其次,大模型单独落地产业应用的难度较大,而将其包装成智能体——一种新型的AI原生软件形式——并应用于产业场景,已成为当前的发展趋势。大模型与智能体的结合正在推动各行业的变革,呈现出普遍开发的状态。中国电信也推出了自己的星辰大模型,这是在李学龙老师带领下,由中国电信AI推出的语音、语义、多模态、多层次的星辰大模型系列。星辰大模型具有国家队做模型的几个特点:首先是安全自主可控,能够更好地控制大模型的输出安全性;其次,星辰大模型扎根于众多行业纵深应用。中国电信多年来服务于政务、工业、应急等国计民生行业,为大模型的训练和应用提供了丰富的场景和数据;同时,星辰大模型也在践行央企使命,应用于诸如校园防霸凌等公益场景。

接下来,我想重点谈谈大模型技术的产业落地问题。尽管大模型技术不断突破,但业内普遍关注的问题是:大模型到底如何赋能应用?我们希望看到大模型在千行百业中为经济生产和日常生活带来巨大的改善和提升。然而,即使像DeepSeek这样强大的模型,直接应用于具体场景时,其作用也相对有限。原因何在?

通用大模型相当于一个高中生,如果直接将其派到职场,效果并不理想。我们需要让这个“高中生”上大学,学习专业知识,将其转化为行业大模型。毕业后,为了更好地完成具体工作,还需要对其进行职场培训,包括提供企业私有知识库、文档库以及相关工具。例如,对于财务人员,提供财务精算软件以辅助其完成报表。经过这样的培训后,“大学生”就变成了职场人,对应到大模型,经过提示词、知识库和工具的赋能,它就变成了一个智能体应用。对于传统企业来说,人才是企业发展的第一要务;而对于下一代新型企业,企业中有效智能体的数量将成为发展的关键。

接下来,我将重点介绍中国电信星辰智能体平台的应用展示。首先是会展助手。在大型会议中,参会者常常会询问会议地点、周边餐饮、会议主题、演讲嘉宾等问题。这些问题可以通过星辰智能体平台在1分钟内基于大模型搭建出应用,代替人工回答这些问题。基于星辰智能体平台的自主规划构建模式,可在1分钟内快速构建会展助手智能体。该智能体能够为会议举办方及参会者提供会议信息查询、行程规划、邀请函发送等功能。开发者可以自定义会展助手的角色指令,包括角色定位、工具调用要求及限制条件。智能体还可以灵活选用二维码工具快速分享会议网址,通过实时时间工具进行日程提醒,生成海报助力宣传,制定出差行程和聚餐安排,提供多语种会议邀请等。此外,智能体可自主配置会展议程等相关知识库,自动解析并作为回答来源,确保回答的准确性。最后,预设开场白及常见问题解答,提升问询效率。配置完成后,可以实时预览及调试,确保满足预期。完成发布流程后,即可获得专属的会展助手。

当用户查询距离会议的天数时,会展助手可以根据当前时间迅速计算;当用户查询会议议程时,智能体会自动检索知识库并提供精确回答;当用户提出关于展品的海报需求时,会展助手可以一键生成精美海报;当需要向国际客户发送邀请时,助手可以快速撰写并发送多语种邀请函;当用户需要分享会议信息时,会展助手可以自动生成会议官网二维码;当需要安排出差行程时,会展助手可以自动生成详细的日程计划;当用户有会议后的聚餐需求时,会展助手可以提供会场附近的聚餐地点信息。这样一个强大的会展助手,依托星辰智能体平台,仅需1分钟即可快速搭建,为更多行业的智能化发展提供有力支持。

接下来,我为大家展示第二个案例——商品评论处理。在电商平台上,客服每天需要处理大量商品评论,例如将好评置顶、将差评反馈给质量部等。这是一个相对复杂的业务逻辑场景。基于星辰智能体平台的工作流模式,可在30分钟内快速构建商品评论助手。该智能体能够有效应对海量评论中的敏感信息、图文不符等问题,节省平台客服的大量精力。当用户评论中包含违禁图片时,智能体会迅速识别并处理;对于不当评论,智能体会快速介入并提醒用户;当用户上传图文不符的评论时,智能体会自动处理并提示用户。此外,智能体还可以快速区分好评与差评,好评内容基于设定流程高效处理,差评内容则自动推送至推送至售后部门处理。开发者可以依托对业务流程的理解进行节点设计,第一步是判断用户上传内容的类型及其合规性,可以添加并配置一个星辰多模态大模型节点,明确商品评论员角色,并设定图片内容识别及图文相关性技能要求。然后,智能体还可以对合规评论进行自定义分类,包括正面评论、质量问题等,并据此设定相应处理流程,灵活应对复杂业务需求。

通过以上两个案例,可以看到自主规划智能体的本质是让大模型访问知识库并使用工具,在特定提示词的指挥下完成具体任务;而工作流智能体则更接近传统的低代码平台,但其执行流程由大模型进行控制和调度。大家可能会问,为什么不直接让大模型完全自动化控制整个软件执行流程,而是将传统低代码平台与大模型控制相结合呢?这是因为当前大模型技术还不够稳定,在很多复杂场景下,大模型的准确率无法达到99%以上。因此,我们常常看到大模型应用在20%的场景下表现良好,但在80%的场景下可能出错。为了解决这一问题,星辰智能体平台提供了渐进式智能方案。在大模型表现良好的环节,我们使用大模型进行中控;在对准确率要求极高且大模型稳定性不足的环节,辅以传统代码编写方式。这样,我们能够渐进式地将大模型应用于新型智能化软件中。

星辰智能体平台的产品特性和架构如下:首先,平台非常灵活易用,支持1分钟内创建自主规划智能体,也支持更复杂的工作流智能体。其次,我们的大模型在智能体环境下经过专项优化,例如星辰大模型、千问大模型以及DeepSeek等,以确保在智能体场景下表现更优。第三,中国电信在多个产业领域拥有丰富的应用经验,我们也将这些特性融入星辰智能体平台,提供15个以上行业的应用和产业工具库。与其他智能体平台相比,我们的平台能够快速构建深入产业业务逻辑的智能体应用。最后,我们联合北京大学、浙江大学等高校推出系统化培训课程,并颁发工信部认证的职业证书。

在平台架构方面,我们通过架构图展示了智能体的基本特性。首先,平台包含控制系统和规划与进化系统。规划进化系统由大模型主导,追求业务执行的灵活性;而控制系统则追求执行过程的稳定性,动态选择在大模型效果较好时使用其智能表现,效果不稳定时切换至稳定程序逻辑。知识中心、产业工具库和代码解释器是平台的核心组件。知识中心负责知识库和信息检索利用;产业工具库提供工具调用技术;代码解释器则与AI公司软件工厂产品结合,当大模型遇到难题时,自动编写代码生成动态工具完成任务。平台运行过程中产生的大量日志通过低门槛开发平台反馈至数据系统,更新模型内容,提升智能体表现。此外,智能体支持丰富的交互方式,包括语音交互、动态生成GUI前端组件等,避免智能体仅限于对话聊天形式,可与传统通讯软件媲美,支持具身智能应用。应用部署支持通过API或Web SDK生成可执行文件,部署至端侧应用场景。

我还想分享一下星辰智能体平台的最新进展。平台已全面接入并融合DeepSeek,可以接入公有云或本地化部署的Deepseek服务。无论是自主规划智能体还是工作流智能体,均全面适配DeepSeek,全流程使用DeepSeek模型提升效果。平台应用广场提供大量基于DeepSeek的智能体应用供用户使用和参考。

接下来,我为大家展示中国电信基于星辰智能体平台的产业应用。首先是中国电信通话助手。在漏接电话时,通话助手可以与来电用户在线语音沟通,了解其需求并发送短信通知用户,避免错过重要信息。通话助手智能体基于智能体平台的语音和大模型能力升级,可灵活处理来电需求,适用于个人生活助理、个人健康管理、来电漏听管理等多个场景。当有产品销售电话接入时,电话代理会迅速响应并追问关键信息,总结产品详情反馈用户;当好友来电邀请活动时,电话代理会记录邀请信息并发送给用户。这样一个强大便捷的智能体,依托星辰智能体平台,基于大语言及多模态大模型快速搭建。

在电话代理智能体的业务场景中,由于涉及多环节和复杂业务逻辑,工作流编排模式可以高效整合这些环节,提供灵活的自定义能力。工作流编排支持用户根据业务实际情况自定义节点选择与应用,确保完全贴合业务场景需求。对每一个节点的参数支持个性化调整,提升节点决策的准确性与效率。还可以根据业务规则灵活进行节点串联和流程定义,应对更为复杂和多变的业务处理需求。流程搭建完成后,用户可以实时对智能体进行预览及调试,每一步操作的可追溯性与安全性,增强了系统的透明度。星辰智能体平台的魅力在于它的快速搭建与无限拓展,从电话代理智能体到更多业务领域,星辰智能体平台都能以强大的灵活性与可扩展性为我们带来全新的智能化解决方案。

除了中国电信自身的应用,我们还联合多家央企实践智能体在千行百业的落地。共同参与了基于星辰智能体平台的培训和实战,技术人员将企业应用场景和数据带入平台,完成智能体方案和实践作业。通过统计发现,央企在各个领域都提出了大量基于大模型智能体的应用方案。

例如,在营销领域,智能体可以制定营销方案,结合行业知识和市场情况,满足多样化营销需求;在人力资源领域,智能体可以提供就业助手,查询就业活动,根据市场需求修改简历,提供最新岗位和招聘信息;在工业和制造业,智能体可以协助安全生产,结合设备信息,保障生产有序执行。通过多家央企的联合实践,我们发现智能体在千行百业中具有广泛的应用前景,平台的成熟度和稳定性也得到了验证。

最后,如果大家对DeepSeek大模型浪潮特别关注,希望结合企业应用探索大模型落地,欢迎联系星辰智能体平台。我们联合北京大学、浙江大学等高校创建了理论加实践的大模型加智能体产业赋能课程。课程不仅教授理论知识,还提供大量行业应用案例和实践操作,帮助学员掌握大模型技术在产业落地中的应用。培训结束后,学员将获得工信部认证的“AI智能体开发工程师”证书和相应大学的课程结业证书,全面提升企业人员运用大模型技术的能力。

未来已来,时不我待。中国电信星辰智能体平台愿与各界产业伙伴携手迎接“行业+智能体”的新时代。

高露/文

版权与免责:以上作品(包括文、图、音视频)版权归发布者【经观新科技】所有。本App为发布者提供信息发布平台服务,不代表经观的观点和构成投资等建议
Baidu
map