(图片来源:百度智能云千帆大模型官网)
记者 沈怡然 9月5日,百度在2023云智大会上发布了千帆大模型平台2.0版本,升级后内置42个国内外主流大模型。会上,百度集团执行副总裁、百度智能云事业群总裁沈抖表示,过去客户验证大模型的效果至少需要一周时间,升级后基于一站式的工具链,只需一天就可以跑通一个模型并看到效果。
百度智能云千帆大模型平台,相当于集成了多个模型及服务的一站式大模型工具箱,企业可以在平台上自主选择模型和数据集并与自身业务数据结合,最终快速应用到业务流中。
沈抖表示,该平台于今年3月首次上线,目前平台上的月活企业数已近万家,覆盖了从金融、教育、制造、能源、交通、政务等等领域的400多个场景。
沈抖用四个关键词形容升级后的千帆大模型平台,“料多、好用、高效、放心”。他认为,用户对大模型的关注点在于成本和效能,一直以来,大模型的训练成本较高,需要企业在部署、应用、开发等各环节紧密结合。“以前光是调试接入、验证评估就需要算法团队投入一星期的时间,现在基于千帆2.0版本,客户当天就可以跑通一个模型并且看到效果,快速投入到应用的开发阶段”。
沈抖表示,升级后的千帆大模型平台,在底层做了大量的适配和验证工作,兼顾了国内外主流的芯片和操作系统,不同厂商、不同代际的算力资源可以混合部署在同一个平台里,高效地配合使用。与此同时,客户的算法不需要大量改动,只需要少量修改就可以在硬件上运行。
2.0版本内置了42个大模型,这些模型以大语言模型为主,有百度自研、有海外厂商Meta、BigScience等研发并开源、有高校自研并开源的大模型。同时,还预置了41个数据集,预装了知识问答、客服对话、代码助手等10个应用范式。