<返回更多

腾讯云祭出行业大模型平台:鹅厂开搞「量体裁衣」,花小成本用大模型

2023-06-20  量子位  
加入收藏

明敏 衡宇 发自 凹非寺

量子位 | 公众号 QbitAI

大模型浪潮,鹅厂给出了第一波明确回应。

昨天,腾讯云带着 行业大模型平台,掀开腾讯大模型战略的一角。

切入方向十分明确——服务产业界。

在腾讯云举办的行业大模型及智能应用技术峰会上,所有疑问和好奇,都在现场演示中有了解答。

该行业大模型平台,技术底座来自腾讯全栈能力,提供高性能计算集群HCC、高性能网络、向量数据库等基础设施。

依托腾讯云TI平台,将能力对外输出,向产业界用户提供MaaS (Model as a service)服务。

平台的能力,已同步支持腾讯自家业务,如腾讯会议、腾讯企点等。

当下,ChatGPT方兴未艾,面对转瞬即逝的机会,没有哪家云厂商能坐视不理,腾讯云自然也不例外。

在这场异常激烈的竞争中,腾讯云的策略是什么?背后动因如何?又有哪些亮点值得关注?

腾讯云行业大模型平台是什么?

要回答上述问题,就要先感知腾讯云行业大模型平台的庐山真面目。

腾讯云行业大模型平台,顾名思义,功能是以不同产业需求场景出发,提供MaaS一站式服务,让千行百业使用大模型的门槛往低了降。

这是腾讯云在围绕行业大模型平台的快速布局中,从一开始就有的精准目标: 解决千行百业“想用大模型而用不上”这个痛点

也是无数行业在大模型时代的焦虑来源。

毕竟面对大模型贪婪汲取的 算力,企业和机构或缺乏,或根本没有,无法进行训练和推理,不得不将求助的目光投向云厂商。而打造一个大模型所需的 数据,需要进行搜集、整理、清晰洗、标注等层层加工,繁杂的步骤和专业需求无疑是雪上加霜。

再者说,为确保业务使用的效果和可持续性,自研大模型的 成本对企业和机构来说已是天文数字,更别提难以迈出的第一步——计算资源、网络带宽、安全性等方面的经验和人才,都不是各个行业本身所擅长的。

于是引出腾讯云为行业大模型平台提出的基本理念: 量体裁衣、普惠适用

换一句更好理解的通俗说法,腾讯云想做和正在做的事,是把大模型能力放在一个平台上向外花式输出。需要大模型提供支持的行业面对腾讯云行业大模型平台时,就像在面对一个货架摆满、品类丰富的精选商店。

按需挑选,需要什么,就拿什么。

活动现场,腾讯云副总裁、腾讯云智能负责人、优图实验室负责人 吴运声进行了实时演示,以证明“量体裁衣”后的模型对拥有不同场景的企业来说更加好用。

端午节小长假在即,吴运声抛出了一个很贴生活的问题,让大模型规划行程,要求是:

我和孩子都是历史人文爱好者,端午想去上海周边,预算在5000以内,最好每天去2个不同的景点玩。

通用大模型很快给出了3天假期的大致规划。

感受下来,能为出行做大方向的参考,但相对简略,不是最理想的保姆级出行指南。

于是,吴运声加入了一些旅游相关的行业场景数据,给模型喂了2个江浙沪旅游攻略,及1份苏州旅游攻略。

而后面对同样的提问,大模型给出的端午旅游规划就细致了许多,不仅有每天的旅程安排,还含有旅游景点的相关简介。

如果接入旅游领域企业用户的API呢?

除了出行的交通方式和景点安排,所涉及景点的实时票价,提问人也能及时在大模型规划的行程中获得了。

而且此模式(腾讯云称之为“大模型精调”)中,大模型还开启了上网检索功能,查询酒店特色、房价等消息是小菜一碟。

能够感知到,此时的大模型给出的建议服务更加人性化,“实现了服务到商业的闭环”。

现场演示仅针对旅游行业一家而言,但这样的需求并不局限在旅游场景中。

针对差异化需求应运而生后,所有有使用大模型需求的行业伸出一只援手。

如腾讯集团高级执行副总裁云与智慧产业事业群CEO 汤道生所说,实际生活中,腾讯云行业大模型平台已经把产业场景当作了大模型的最佳练兵场。

目前,腾讯云行业大模型平台已经涵盖金融、传媒、文旅、政务、教育等10多个行业场景,提供50+大模型解决方案。

所以具体来看,腾讯云提出的行业大模型平台,将如何帮助他们解决面临的这些问题?

输出自家沉淀能力

总体来看,腾讯云构建行业大模型平台的思路,是尽可能提供更加底层强大、覆盖全面、落地便捷的能力。

而且诚意满满,一次性掏出了腾讯云及腾讯积累多年的技术能力、工程经验及创新成果,并已率先在自家业务上落地应用。

技术方面,腾讯云行业大模型平台的亮点可分为三部分:

首先来看底层模型,这也是大模型平台的核心。

腾讯云TI平台支持企业用户直接结合自身场景数据 按需定制精调模型,或者按照所需开展 多模型训练任务,让企业用户能更加灵活地调用大模型能力。

平台上内置了多个行业大模型,可以满足金融、传媒、文旅、政务、教育等领域的需求。

在模型层的具体能力上,腾讯云TI平台还在降本增效和简单易用上提出了四大亮点:

第一是低成本训练和推理,这也是企业用户在使用大模型时首要关心的事。腾讯云TI平台实现了在少量算力基础上,可提升 特定任务的效果;并选择 专注产业场景,降低训练成本、缩短训练周期。

第二是无需配置对话+支持API调用。快速接入调用产业用户API接口,能够端到端高质量完成多轮服务。

第三是高效触达网络知识。这也是大模型的发展趋势,如ChatGPT已经推出联网插件,回答体验立马提升。腾讯云TI平台 通过搜索引擎获取网络知识,更广泛和实时的信息,能有效提高回答的多样性和相关性。

第四是高时效、快速更新。目前阶段大模型能获取和理解多少信息,会直接影响它的表现。在这方面,腾讯云建立了 实时更新的大模型向量数据库,让大模型阅读理解的长度从2k字增长到8k,翻了4倍。

其次来看平台工具方面

TI-ONE平台提供了完善的大模型工具链,覆盖数据标注、训练、评估、测试和部署等。同时具备多机多卡训练加速能力,能快速进行一站式大模型微调。

腾讯云TI平台行业大模型精调解决方案流程图

在算力方面,腾讯云今年4月发布了面向大模型训练的新一代HCC(High-Performance Computing Cluster)高性能计算集群,具备3.2Tbps业界最高互联网带宽,算力性能提升3倍。

它采用最新一代腾讯云星海自研服务器,结合多层加速的高性能存储系统,加上高带宽、低延迟的网络传输。

数据方面,上面提到的实时更新腾讯云向量数据库(Tecent Cloud Vector DB),是腾讯自研、基于内部多年运营积累的分布式向量数据库,已经过腾讯海量业务场景验证, 日均处理向量检索千亿次,支持标量+向量的混合检索,具有高性能、大容量等特点,支持全内存索引。

与此同时,TI-ONE平台还提供了多个单点工具。

TI-ONE训练平台是为AI工程师打造的一站式机器学习平台,提供从数据接入、模型训练、模型管理到模型服务的全流程开发支持,内置多种训练方式和算法框架

TI-DataTruth数据标注平台面向AI数据服务商提供数据标注作业、数据众包管理、场景数据挖掘等智能数据生产服务。

TI-Matrix应用平台支持快速接入各种数据、算法和智能设备,并提供可视化编排工具,进行模型服务和资源的管理及调度,进一步通过AI服务组建集成和标准化接口开放,降低AI应用开发成本。

值得一提的是,腾讯云TI-ACC升级为太极Angel,能提供更强大的训练和推理加速能力。通过异步调度优化、显存优化、计算优化等方式,相较于行业常用方案提升30%+。

此外,基于腾讯云IaaS层产品服务(计算集群、对象存储、网络加速等),可支持丰富的训练需求和推理应用场景。

腾讯云还联合中国信通院、客户,共建了行业大模型的标准体系及能力架构。包括1套ILMOps方法论、60+的能力建设指标、覆盖主观和客观的能力要求、细化超过200+能力验证指标。覆盖金融、政务、传媒、教育、文旅等各大行业,涵盖模型行业能力、模型工程化性能、模型算力网络、模型安全可靠等方面。

最后,腾讯云行业大模型平台还提供了一系列成熟的配套服务。

提供行业大模型全生命周期一体化的完整方法论,覆盖“模型选型-训练共建-部署应用”全流程,包括“业务分析-数据分析-数据清洗-数据标注-大模型选择-训练加速-模型评测-应用落地”等,同时支持MLOps的体系及工具,保障需求顺利交付。

在配套服务方面,腾讯云提供本地化的训练、落地及陪跑优化服务;针对客户需求,提供私有化部署、公有云托管、混合云部署等灵活部署方案。

安全方面,腾讯云在问题侧、模型侧、答案侧三个层面进行敏感信息的过滤和规避,让最终的答案符合安全、规范的要求。同时,依托腾讯二十余年的安全经验和天御风控能力,提供AIGC全链路内容合规解决方案,确保大模型可信、可靠、可用。

那么,平台能力如此强大,实际能够带来怎样的效果?

据介绍, 腾讯会议·AI会议助手将能够基于简单的文本指令,基于对会议内容的理解,快速提取信息、分析内容等,并且能自动生成智能总结。

腾讯云新一代AI代码助手将支持多种编程语言、主流开发框架和常用IDE。具备代码补全、生成单元测试、代码纠错等能力,加速程序员日常开发。其能力将覆盖沟通、编码、评审等关节环节。

当然,腾讯云大模型平台的能力已经向外输出。

在银行投资、财富管理、绿色金融等业务方面,提供智能咨询、辅助分析、决策等服务。

再比如多年下来积累了海量的音视频、图片、文稿等信息资源的领域——传媒。

央视就已经基于腾讯云智能媒体AI中台,部署TI平台原生模型服务,打造AI开放平台,通过引入自研“标签权重引擎”,让内容标签颗粒度更细、理解度更深、泛化性更高。

进一步的,结合传媒行业需要,重新构建了细分场景的标签体系,包括新闻、综艺、融媒体、影视剧等;同时通过跨模态的文本-图像理解模型,实现跨模态检索。

总之,腾讯云行业大模型平台,是有充分准备而来。

为什么做行业大模型平台?

ChatGPT掀起新一轮AI浪潮后,各方势力抢滩登陆。

但在一场新的技术革命周期下,一味求快显然不是上上策,明确身位后精准出击,更容易站上潮头。

所以,腾讯云亮出了在大模型热潮下的第一张牌:基于腾讯云TI平台打造模型精选商店,提供MaaS一站式服务,以“产业助手”的身份向外输出大模型能力。

为什么瞄准这一身位?

从外到内,有两方面因素驱动。

一方面是外因,也是直接原因: 行业亟需MaaS服务

很长一段时间以来,大模型都被认为只有科技巨头、大厂才能玩得起。因为它对算力、算法都提出极高要求,不仅烧钱而且需要顶尖技术团队开发维护。

但大模型的好处有目共睹,它强大的泛化能力可以解决行业应用场景碎片化、AI“手工作坊式”开发等问题,能推动企业更快完成智能化升级、降本增效。

加之如今新趋势到来,各行各业都开始意识到,如果不搭上AI这班快车,就有被时代淘汰的风险。

由此,MaaS服务被推至台前。

另一方面是受到腾讯自身的影响

一直以来,腾讯在产业互联网中的定位都是做产业的“ 数字化助手”,腾讯云智能则是实现这一目标的重要抓手。

具体技术能力上, AI方面,腾讯在AI大模型领域有多年积累。内部腾讯优图实验室、腾讯AI Lab等都是产业内“明星”实验室,在NLP、CV等热门领域已积累丰富的学术成果和产业落地经验。

云能力上,腾讯云是中国云市场的头部厂商之一,提供混合云服务。

基于腾讯全栈能力,腾讯云智能目前形成了四级加速框架,为产业输出从底层算力支撑到AI开发平台、到AI产品解决方案、再到顶层数智化转型方法的四级全链条服务,覆盖金融、教育、工业、传媒、交通等领域。

由此也就不难理解,为何腾讯云要推出行业大模型平台,并选择在此时此刻登场亮相。

当下,ChatGPT扇动翅膀,引发的AI龙卷风正在快速席卷各行各业,势不可挡。

正如互联网浪潮对工业、电子商务、媒体、传播等领域的重塑与变革,最新一轮AI趋势也势必会颠覆众多行业领域的运作方式、推动智能化升级更快发生。

AI行业、云厂商等身处变革风暴核心,肩负推动技术更快向外圈辐射、影响千行百业的使命,如今已最先起跑,合力拉开变革的序幕。

接下来还会有哪些行业紧跟趋势,还不确定,值得期待。

而可以确定的是,以大模型、AI为圆点,这场变革辐射圈的半径,还在加速扩展。

— 

声明:本站部分内容来自互联网,如有版权侵犯或其他问题请与我们联系,我们将立即删除或处理。
▍相关推荐
更多资讯 >>>