9 月 7 日,2023 腾讯全球数字生态大会于深圳成功举办。会上,腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声发表主题演讲,重点分享了腾讯云行业大模型的最新能力升级、落地实践。
他提到,随着大模型逐步走出 " 尝鲜期 " 的探索阶段,产业实践已成为衡量这些模型价值的重要标准。" 智能化的后半场,腾讯云智能在坚持投入 AI 技术研发的同时,一直专注于产业实践,强调技术的务实可行和产品的安全可靠。"
(相关资料图)
基于此,过去这段时间以来,腾讯云 MaaS 能力不断升级,希望能够助力客户更快、更经济地应用大模型,以抓住 AI 大模型时代的发展机遇。
腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声吴运声认为,AI 大模型的应用正逐步渗透到千行百业的各个环节,包括设计、研发、生产、营销和服务等。从对话式客服到营销内容生成,再到跨模态检索和风险控制,大模型的应用正在展现出更强的能力、更高的效率、更广泛的应用场景和更深的潜力。一场由 " 大模型 " 驱动的 " 效能革命 " 正在悄然发生。
在此背景下,腾讯云从产业客户实际需求出发,基于自研的腾讯混元大模型,同时支持业内主流的开源模型应用,从技术底座、平台能力和智能应用三个维度不断升级 MaaS 能力,助力客户构建专属大模型和智能应用,推动大模型在产业中的落地应用。
在大会现场,吴运声也针对三大升级点进行了逐一详解。技术底座升级使得腾讯云能够为客户提供更强大、多样化的基础模型;TI 平台工具链的升级,保证了训练任务的高效稳定运行,同时提供了任务管理、模型优化和部署支持,使客户能够更轻松地实现模型的落地应用;通过智能应用的升级,腾讯云为客户提供了多款即插即用的产品,这些产品将 AI 大模型技术与实际业务相结合,为客户提供更高效、更自然、更智能的解决方案。
作为腾讯产业互联网生态系统中的重要组成部分,腾讯云智能始终强调 " 云智一体 " 的重要性和必要性。致力于在技术研发和产业实践之间取得平衡,不断拓展 AI 在产业领域应用的 " 纵深度 "。
吴运声表示," 未来,我们将持续打磨 MaaS 能力,携手广大客户和合作伙伴,共同拥抱 AI 大模型时代的‘效能革命’。"
以下为演讲全文:
大家下午好!
我是腾讯的吴运声,今天我的分享主题是《腾讯云 MaaS 升级,深耕产业推进 " 效能革命 "》。
刚刚大家也看到了汤道生与蒙牛卢总数智人互动。
接入 AI 大模型能力后,数智分身可以根据提问,实时生成答案,并匹配相应的表情和动作。这也是过去这段时间,我们的 MaaS 能力升级成果之一。
两个多月前,我们正式发布了腾讯云行业大模型解决方案,致力于打造模型精选商店,为客户提供一站式 MaaS 服务。我们认为,产业场景是大模型最佳练兵场,这一方向,也很快成为行业共识。
过去这段时间,我们也在持续迭代、升级 MaaS 能力,希望帮助更多的客户,快速、低成本落地大模型,抢先抓住 AI 大模型时代的发展机遇。
当前,AI 大模型的发展与应用,给整个云服务市场带来了新的增量。大模型的应用,正在逐步贯穿到企业的设计、研发、生产、营销、服务全流程,助力企业创新的同时,帮助员工提效,加速云智一体进程。
当前,国内大模型发展可谓是 " 百花齐放 ",据不完全统计,参数在 10 亿规模以上的大模型就超过 70 个;经过过去一段时间的发展,企业在大模型方向的探索已经度过了 " 尝鲜期 "," 产业落地 " 成为评估大模型价值的重要标准。在今天上午的生态大会上,腾讯也正式公布了自研混元通用大模型,为我们行业大模型服务提供坚实的底座能力。
尤其大模型在金融、零售、文旅、政务、出行等各个领域的深度应用,其 " 提质增效 " 的效果已逐步显现,大模型的应用场景也涵盖了对话类客服、营销内容创造、跨模态检索、风控等企业核心生产和经营环节,表现出更强的能力、更高的效率、更广的场景、更深的应用。一场由 " 大模型 " 驱动的效能革命正在发生。
依托腾讯云多年深耕产业互联网的经验,我们从产业客户需求场景出发,基于自研腾讯混元大模型,同时支持业内主流开源模型应用,从技术底座、平台能力、智能应用三个维度持续升级 MaaS 能力,助力客户构建专属大模型及智能应用,加速模型产业落地。
我们打造的模型精选商店,为客户提供了不同规模的模型。通过升级大模型训练、精调工具链,可以帮助客户更快、更低成本的打造专属模型。同时,腾讯云有非常广泛的 PaaS、SaaS 产品,这些是我们行业大模型非常好的试炼场。
通过技术底座的升级,我们可以为客户提供能力更强、更多元的基底模型。
混元大模型,构筑了腾讯云 MaaS 坚实的底座。今天,混元也正式面向行业客户开放,客户可直接在腾讯云上通过前端交互和 API 调用体验;也可以以混元作为基底模型,直接在公有云精调。
同时,腾讯云 TI 平台也全面接入了 Llama 2、Falcon、Dolly 等主流开源模型,支持系列模型的直接部署调用、应用流程简单。
客户可根据需要,在 TI 平台上一键完成模型部署,测试这些开源模型的效果,实现模 型选型。
客户也可以通过 TI 平台一键启动精调任务,对这些开源大模型进行精调。腾讯云 TI 平台提供的多机多卡、断点续训的能力,可以保障训练任务稳定高效地运行;训练监控能力,可实时监测训练指标和资源利用率情况;任务管理能力,可自动管理模型多次迭代的训练任务,记录每次训练任务的超参快照,快速还原训练现场。
通过平台能力的升级,我们可以为客户提供更完善的工具链。
升级后的 TI 平台工具链,具备高性能的大模型精调与部署能力,覆盖大模型开发、应用全生命周期。我们在大模型精调最核心的算力、存储方面进行了大幅升级。比如,算力方面接入了腾讯云 HCC 高性能计算节点及星脉高性能计算网络,提供 3.2Tbps 的网络带宽;存储方面接入了 Turbo-CFS 分布式存储,最大带宽可达到 100GiB/s,大幅提升了跨机器的多机多卡训练性能。
在全新升级的 TI 平台工具链加持下,客户只需加入自己独有的场景数据,进行精调训练,就可快速尝试多种大模型,并根据自身业务场景需求,在短时间内精调出专属的模型方案。
在加速方面,全新升级的太极 Angel 大模型加速框架,通过异步调度优化、显存优化、计算优化等方式,相比行业常用方案性能提升 30% 以上。
通过智能应用升级,为客户提供丰富的、即插即用的产品。
腾讯在 AI 技术领域有长期投入和积累。过去我们非常多的 AI 能力,都是率先在内部产品中应用,这是腾讯 AI 的内生动能。
今天,我们的大模型能力,也正在重塑腾讯云广泛的 PaaS、SaaS 产品。这些探索实践,也进一步验证了我们 MaaS 能力的可用性、易用性。
围绕客服场景,今年 6 月腾讯企点发布了全新一代智能客服,引入大模型能力,针对对话交互、人工辅助和知识构建三个层面进行提升。过去两个月,我们进一步升级了管理端配置能力,提升知识构建效率,优化 C 端用户体验。同时,我们积极与各行各业进行产业实践,在文旅、政务、地产等领域落地标杆案例。
基于分析大模型,我们升级推出腾讯企点分析 AI 助手,覆盖对话式分析,辅助数据配置,提取智能结论、一键生成报告四大场景。今年 9 月,企点分析 AI 助手正式向大客户开放内测申请。未来,人人都能拥有专业数据分析能力,让数据跑得更快,为业务一线提供决策支持。
此前,我们推出了数智人工厂。今天,在 AI 大模型技术的加持下,我们全新发布 " 通用口型 " 版小样本数智人,无需训练,上传素材后,将小样本数智人的生产周期,从原来的 24 小时缩短到只需要 1 个小时,大大提升了数智人的生产效率。在大模型技术的加持下,我们的数智人可以实现更高效、更自然、更智能的效果。
在内容创作领域,我们与阅文集团在文生图、图生图的推理部署和加速中达成合作。
在文生图、图生图场景中,面向 C 端用户提供高 QPS、低耗时的方案。而且模型本身推理部署成本高昂,推理吞吐和时延存在瓶颈。阅文基于腾讯云 TI 平台搭载的 Angel 推理加速引擎,推理能力平均提升 30%,在文生文领域,更是把成本降低到原来的四分之一。此外,TI 平台提供动态 batch 和自动服务调度机制,大幅提高了服务吞吐量。
作为数字化助手,我们将持续打磨 MaaS 能力,携手广大客户、合作伙伴一起,共同拥抱 AI 大模型时代的这场 " 效能革命 "。
雷峰网
关键词: