红帽张家驹:大模型出现幻觉怎么办

陈奇杰2023-10-27 21:46

记者 陈奇杰 在生成式AI时代,开源社区公司都在关注什么?在10月26日举行的红帽2023论坛中国站上,开源解决方案供应商红帽(Red Hat)公司首席架构师张家驹在采访中向记者表示,在大模型应用场景中,“特别是企业级应用,很多时候我们要考虑确定性,虽然大多数时候能得到大模型的帮助,但一旦在应用、生产上出现幻觉的话,往往就是灾难。”

所谓“大模型幻觉”,指的是人工智能模型生成的内容,不是基于任何现实世界的数据,而是大模型自己“想象”的产物。

张家驹表示,“红帽跟IBM的结合,我觉得在生成式AI时代是非常重要的,相信会给行业带来很大转变。”他指出,现在引起业内讨论的大模型幻觉、AI治理问题,可能在一些环境里面,其他模型没有考虑那么多,但是IBM的模型在这一方面有独特优势。“另外,OpenShift AI平台不光可以跑IBM的模型,其他所有的开源大模型都可以跑,是一个开放平台体系。”张家驹补充称。

此前,红帽发布了生成式AI相关服务OpenShift AI。红帽首席技术官Chris Wright指出,在充分利用人工智能获得好处方面,基础模型可以为企业提供实实在在的好处,但仍需要在训练和微调方面进一步投资。红帽的企业级AI愿景依托红帽OpenShift AI的当前能力而制定,为基础模型在生产中的训练、维护、微调和实际使用奠定了灵活而且可扩展的基础。

不久之后,红帽母公司IBM又推出由红帽OpenShift AI提供支撑的基础模型watsonx.AI,该产品致力于为AI构建者提供利用开放直观的用户界面,以用来训练、测试、调整和部署由基础模型提供支持的传统机器学习和新的生成式AI功能。

版权声明:以上内容为《经济观察报》社原创作品,版权归《经济观察报》社所有。未经《经济观察报》社授权,严禁转载或镜像,否则将依法追究相关行为主体的法律责任。版权合作请致电:【010-60910566-1260】。
TMT新闻部记者
长期关注并报道TMT(科技、游戏等)领域重大事件,擅长人物专访、行业分析报道。
邮箱:chenqijie@eeo.com.cn 微信号:Q1191278317
Baidu
map