经济观察报 陈奇杰/文 3月13日,北京中绿讯科科技有限公司(下称“中绿讯科”)在AI生态联盟大会上介绍了其AI产品和相关技术。
中绿讯科是中国绿发和科大讯飞的合资公司,成立于2024年7月。中绿讯科致力于打造央国企的AI通用平台入口,通过统一标准化AI基础设施、场景集成以及数据打通,实现企业数智化转型。
中绿讯科聚焦央国企AI应用市场,一方面因其母公司中国绿发是央企,可利用自有大模型群获取央国企私域数据进行训练;另一方面,科大讯飞作为国内知名大模型厂商,2024年中标项目数量位居前列。
具体而言,中绿讯科在企业级AI应用平台中绿讯科绿舟(下称“绿舟”)上规划了覆盖100多个专业业务场景的AI应用,目前已落地数十项,包括AI问答、AI法务、AI纪检等。当前,平台仍在迭代中,正逐步覆盖基础办公、绿色能源、文旅产业等多元场景。
中绿讯科解决方案部负责人马志超介绍,绿舟通过模型精训中心、智能湖仓、智能体开发平台三项技术帮助企业AI应用落地。
模型精训中心由全域模型库、精训工坊和智能体调度中心组成。其中,全域模型库适配众多的国产大模型,支持混合的推理架构。精训工坊基于企业数据自动化微调技术,可以让模型的训练时间缩短到数天。智能体调度中心支持计费统计和成本优化等功能。
中绿讯科产研部负责人李明提到,模型精训中心的混合调度能力可以让多个小模型协作,解决大模型解决不了的问题。中绿讯科测试发现,0.5B、7B、32B的模型,组合起来效果大于600B的模型(1B等于10亿大模型参数量),且推理成本会降低60%到80%。
智能湖仓是融合了AI能力的智能化解决方案,提供数据检索、应用程序编程接口(API)调度、智能分类、AI数据分析等相关功能。
智能体开发平台是智能体逻辑编排与低代码开发中心,能帮助企业一站式开发部署智能体应用,降低了AI的应用门槛。
李明表示,智能体开发平台旨在解决从模型到业务的“最后一公里”。为了保证兼容不同企业的需求,该平台适配了市面上的开源和闭源模型,同时内置了很多降低开发门槛的组件,这是为了让企业的业务方能快速落地,而不需要高代码开发。此外,可视化的逻辑编排形式让开发者能够通过拖拉拽组件的形式构造智能体,将开发速度从原来的几天、几周提高到几小时、几天。
央国企是企业AI应用的“排头兵”。据第三方机构智能超参数不完全统计,2024年大模型相关中标项目共1520个,央国企相关的项目数量占比达到61.25%。
但央国企的AI应用落地也有不少痛点,马志超表示,大多数的AI产品仅停留在对现有的流程和系统的优化上,难以带来显著的业务增长收益。同时不同的企业内部流程千差万别,通用型的AI产品难以适配复杂的业务场景。此外,通用型的AI产品,产品的功能和界限都相对模糊,缺乏深度的行业定制。并且,企业更换供应商需要投入大量的时间、人员和资金进行系统性的适配和迁移。