腾讯云智能负责人、优图实验室负责人吴运声


腾讯首提大模型思路:聚焦产业 ,将行业大模型+企业精调作为优解

每日经济新闻

  每经记者 王帆 每经编辑 梁枭

  6月19日,腾讯云召开行业大模型及智能应用技术峰会,首次公布腾讯云行业大模型研发进展,依托腾讯云TI平台打造行业大模型精选商店,为客户提供MaaS(Model-as-a-Service)一站式服务,助力客户构建专属大模型及智能应用。

  腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生在会上表示,当前,通用大语言模型在应对产业场景落地时,存在数据准确性、服务专业性、安全合规性、训练成本等方面的局限。

  因此,此次发布的MaaS全景图展现了腾讯的解题思路——行业大模型+企业精调,即以腾讯云的大模型算力作为硬支撑,在腾讯云TI平台内置多个高质量行业大模型,提供企业结合自身场景数据按需定制精调,大幅降低大模型应用门槛。

  对于近期的“千模大战”,腾讯云认为在市场的初级阶段,与对手比不是最主要的,核心还是要解决客户痛点,让产品在客户内部打磨和真正应用起来。

  通用大模型解决产业问题存在局限性

  从ChatGPT引爆大模型概念以来,国内各大厂商纷纷跟进。3月,百度率先推出大语言模型文心一言;5月,科大讯飞(77.600, -3.20, -3.96%)正式对外发布“讯飞星火认知大模型”;6月初,阿里云对外披露了通义大模型进展,推出聚焦音视频的AI产品“通义听悟”。如今腾讯云也不甘落后,为“千模大战”再添一把火。

  目前,市场上的通用大模型主要是集中在聊天问答场景,而对产业的渗透仍存在痛点。在本次峰会上,汤道生表示:“许多企业管理者也在思考,如何把大模型技术应用到自己企业场景中。比如在客服与营销环节,为业务经营带来更多降本增效。但在具体的企业场景中,通用大模型可能还不能满足企业很多需求,比如,它不一定懂行业的专业术语,不了解企业内部的独特情况,回答会比较虚、比较笼统,偶尔还会一本正经地胡说八道,信息也不够及时。”

  腾讯集团高级执行副总裁汤道生

  图片来源:腾讯云供图

  汤道生具体分析称,目前,通用大模型一般都是基于广泛的公开文献与网络信息来训练的,网上的信息可能有错误、有谣言、有偏见,许多专业知识与行业数据积累不足,导致模型的行业针对性与精准度不够,数据“噪音”过大。但是,在很多产业场景中,用户对企业提供的专业服务要求高,容错性低。另外,训练数据越多,模型越大,训练与推理的成本也越高。安全和合规也是企业的考量因素。

  “我们认为,客户更需要有行业针对性的行业大模型,再加上企业自己的数据做训练或精调,才能打造出实用性高的智能服务。企业所需要的是在实际场景中真正解决了某个问题,而不是在100个场景中解决了70%~80%的问题。”汤道生说道。

  基于客户痛点和需求,腾讯云全新公布MaaS全景图,依托腾讯云TI平台打造行业大模型精选商店,为企业客户提供涵盖模型预训练、模型精调、智能应用开发等一站式行业大模型解决方案。在TI平台内置高质量行业大模型基础上,企业加入自己独有的场景数据,就可以快速生成自己的专属模型;同时,也可根据自身业务场景需求,“量体裁衣、按需定制”不同参数、不同规格的模型服务。
腾讯云MaaS全景图腾讯云MaaS全景图

  该解决方案以腾讯云的大模型算力为基础,为客户的模型训练提供支持和动力,同时依托腾讯TI平台,提供金融、传媒、文旅、政务、工业等多个高质量行业大模型,也提供完善的大模型工具链,包括数据标注、训练、评估、测试和部署等全套工具。

  在峰会现场,腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声展示了文旅客服大模型场景的精调过程及效果。通过加入文旅行业垂直场景数据、接入文旅客户API接口后,模型不仅可以为用户制订细致的旅行攻略,提供人性化的服务体验,也让智能客服系统,实现服务商业化的闭环。另外,针对成本高、落地难的问题,吴运声表示:“腾讯云TI平台能够在少量算力的基础上,提升特定任务的效果,比如智能客服场景,训练性能可提升10倍,训练成本下降90%。”

  先以To B场景为练兵场

  在国内大模型赛道上,先是To C的类ChatGPT大模型开始打开市场,如文心一言;随后几个月,To B的垂直行业大模型也开始涌现。具有深厚To C基因的腾讯,选择在首次公布大模型思路时剑指B端,背后其实也有一定考量。

  吴运声在接受采访时表示:“过去多年,腾讯云在产业互联网领域有非常多的经验积累,我们也非常了解客户的需求。这次是腾讯结合对产业的认知和经验,去深入思考怎么把我们大模型技术应用进去的成果。”他认为,产业场景已成为大模型的最佳练兵场,在智能问答、内容创作、智能决策、智能风控等很多业务场景,具有非常广泛的应用价值。

  另一方面,腾讯也并非放弃大模型的C端市场。“腾讯内部也有关于To C的通讯大模型的研发,后续以官方发布为准。”他表示。

  不过,记者注意到,尽管当下各大玩家纷纷亮出大模型“筹码”,但市场当前仍在试水阶段。吴运声表示:“不管是技术发展还是行业理解,大模型与产业的结合还是处于比较早期的阶段。”

  腾讯云副总裁、腾讯云智能研发负责人、腾讯企点研发负责人吴永坚表示:“在初期的市场里,过多地和其他企业去对比并不是最主要的。未来的推广落地核心是在客户内部进行打磨和使用。对于今年目标,我们没有定,重点就是把我们当前的客户所遇到的问题通过行业大模型能够真正跑通,并沉淀到我们的产品里面。”

  记者了解到,目前,腾讯云已经携手传媒、文旅、金融、政务、教育等行业的头部企业,在十余个行业探索了超50个行业大模型的应用解决方案,并率先在腾讯自身的企业级应用如腾讯企点智能客服、腾讯企点智能客服、腾讯云新一代AI代码助手应用了行业大模型。

  吴永坚表示:“腾讯云优先将大模型落地的这些企业级应用,也是应客户的呼声。我们也没有把我们的资源分散去做很多的应用,也是先聚焦在这些客户痛点最大的产品里面进行尝试,从平台,到具体的行业产品来一步一步触达更多客户需求,把我们的能力慢慢地扩散出来,从而不断去迭代腾讯自己的产品和平台。”