腾讯的大模型故事从产业开始
ChatGPT 火了之后,很多对未来生成式 AI 的愿景直觉性的指向微信。这个超过 12 亿人每天多次打开的地方,是当下最活跃的信息交换场,也是最期待被生成式 AI 重做一遍的地方。这从不断出现又不断被封的各种野生 " 微信 Bot" 中可见一斑。
(资料图片)
敲边鼓的人多了,更显出腾讯的谨慎。
" 对于工业革命来讲,早一个月把电灯泡拿出来,在长的时间跨度上来看是不那么重要的 ",马化腾在今年 5 月的一季度财报会上这样说。他还表示," 关键还是要把底层的算法、算力和数据扎扎实实做好——更关键的是场景落地 "。
言下之意,腾讯要拿出来的,一定是在产品和技术上完备,并且想清楚如何落地的东西。
6 月 19 日,距离马化腾的发言一个月后,腾讯首次披露大模型方面的进展,主角是腾讯云,攻的是行业大模型。
" 精选商店 "
如果说大模型竞争是一场在技术上拉平所有 AI 领域玩家的竞争,那么随着过去几个月国内对于大模型的讨论逐渐从通用转向更务实的产业视角,大厂反而在更具体的竞争中找到了自己的优势。
" 现在是一个合适的时间点,把我们过去一段时间(大模型)的实践、沉淀、思考和我们所积累的工具链给大家做一些分享 ",腾讯云副总裁、腾讯优图实验室总经理吴运声表示。
腾讯云在大模型方向上迈出的第一步是腾讯云 MaaS,或者叫一站式行业大模型精选商店。
腾讯云 MaaS 全景图 图源:腾讯云云厂商被认为会在大模型渗入垂直领域的过程中发挥巨大作用,因其在天然在服务企业客户的过程中具备垂直领域视角的同时,又站在领域内各企业狭窄的个体视角之外。企业在大模型训练、部署的门槛与成本考虑中遇到的障碍会在云厂商所处的更高维度的行业视角下找到平衡。
首先是数据质量差的问题。构建大模型也是成本极高的系统工程,大模型需要大量的高质量数据 进行训练和优化,还必须经过清洗和预处理,以消除噪声、填补缺失值并确保数据质量, 经常会因为数据各类问题,导致模型的效果和效率无法得到保障。如果导入的数据质量低,那训练出来的模型也会有问题——所谓的 garbage in garbage out。
再者是计算资源有限。大模型需要较高的计算资源和存储资源,但很多企业和机构缺乏这方面的资源,导致无法进行大模型的训练和推理。对比一般服务器来说,GPU 服务器的稳定性比较低,大模型训练需要的 GPU 动辄千卡,而且在训练集群里,连接几百台 GPU 服 务器所要求的网络速度极高,如果网络有点拥塞,训练速度就会很慢,效率很受影响。
除此之外,对于大模型的开发和落地环节专业知识和人才的缺乏又会进一步拉高企业在大模型上的投入成本。
腾讯云做 MaaS 并不让人意外,后者称为未来云厂商的基础能力已经开始成为共识。而不同的是,腾讯云尝试用更 " 量体裁衣 " 的解决方案,来拆解企业在大模型落地时面临的实际问题。
这个 " 精选商店 " 拆开来看是一个三层架构:顶层是面向行业的 MaaS 层,底层是以行业大模型和基础设施组成的技术底座,以腾讯 TI 平台为主体的的工具层则成为中间支撑,为企业客户提供涵盖模型预训练、模型精调、智能应用开发等一站式行业大模型解决方案。
发布会上 17 家来自不同行业的生态伙伴同台出现,腾讯云在行业大模型上的优势首先来自多年在产业互联网上积累下的行业知识。
通用大语言模型在应对产业场景落地时存在一定的局限性。一来通用大模型的训练数据主要来自公开数据集或网络数据,对于特定行业的专业领域知识了解有限。并且通用大语言模型的训练需要大量计算资源和漫长的训练周期,这对企业来说是高昂成本。
腾讯云 MaaS 的训练基于包括金融、政务、文旅等一整套高质量的行业大模型,目前在大模型行业应用方面已经有了包括智能客服、OCR、跨模态检索等领域在内的 50 多个行业解决方案。对于这些领域的企业来说,这意味着一个具有行业通识的大模型是现成的。在此基础上加入自己独有的场景数据做精细化的训练,门槛要低得多。企业可以快速生成自己的专属模型,也可根据自身业务场景需求,按需定制不同参数、不同规格的模型服务。
而在具体的训练环节,企业并不希望回答一个完全开放性的问题。他们需要完善的模型工具,和一个被反复验证的高效而成熟的训练流程来做指引。腾讯内承担全栈式 AI 开发服务的 TI 平台所提供的工程化能力是腾讯云 MaaS 的核心,后者拥有从数据标注、训练、评估到测试和部署的一整套大模型工具链。
TI 平台是背后核心
2021 年腾讯云在 TI 平台下推出了 TI DataTruth、TI ONE 和 TI Matrix 三大 AI 底层平台,提供包括算法开发、模型训练、数据标注和数据处理等一系列开发能力。这一平台升级计划强化了 TI 平台的工具属性,也成为腾讯云在大模型领域寻找自己位置的伏笔。
TI-DataTruth聚焦数据生产要素——提供数据标注作业、数据众包管理、 场景数据挖掘等智能数据生产服务。
TI-ONE是整个大模型开发流程的重心——内置多种训练方式和算法框架,为用户提供从数据接 入、模型训练、模型管理到模型服务的全流程开发支持, 满足不同 AI 应用场景的需求。
TI-Matrix靠近应用层——支持快速接入各种数据、算法和智能设备,并提供可视化编排工具,进行模型服务和资源的管理及调度,进一步通过 AI 服务组建集成和标准化接口开 放,降低 AI 应用开发成本。
而腾讯自研的机器学习框架 " 太极 Angel" 也在传统 CV、NLP 算法模型的基础上,新增了对大模型的训练和推理加速能力。通过异步调度优化、显存优化、计算优化等方式," 太极 Angel" 加持下的训练和推理过程相比行业常用方案性能提升 30% 以上。
" 现在把 TI 平台升级到 MaaS,不是说工具属性没了。工具属性仍然有了,仍然是非常重要的,但是除了有工具属性之外,我们内制了很多行业大模型,在平台内训练了自己的模型之后,这个模型可以直接完成下游任务,提供对外的服务去做应用。"
吴运声表示,此次 TI 平台完成了一次从算法到产品层面的完整升级,而隐于其后的充沛算力供给,来自专为大模型训练设计的新一代 HCC ( High-Performance Computing Cluster ) 高性能计算集群。
今年 4 月,腾讯云面向大模型训练的新一代 HCC 高性能计算集群发布,后者采用最新一代的腾讯云星星海自研服务器,多层加速的高性能存储系统,加上高带宽、 低延迟的网络传输,具备 3.2Tbps 业界最高互联网带宽,算力性能提升 3 倍。
去年 10 月腾讯完成首个万亿参数的 AI 大模型混元 NLP 大模型训练,在同等数据集下,前一代 HCC 高性能计算集群已经可以将训练时间由 50 天缩短到 11 天,而如果基于新一代集群,训练时间将进一步缩短至 4 天。在行业大模型的讨论里,一切为最终的产业落地服务,这不是一场万亿模型的规模游戏,重点在灵活和效率。
腾讯云也推出了更适合 AI 运算的向量数据库。后者能够更高效地处理图像、音频和文本等非结构化数据源,能力源自腾讯内部每日处理千亿次检索的向量引擎(OLAMA),提供高吞吐、低延迟、低成本、高可用、弹性扩展的一站式向量检索数据库,单索引支持 10 亿级向量规模,检索,数据接入 AI 的效率会比传统方案提升 10 倍。
大模型的兴起正在反过来重塑云厂商未来的发展发向,腾讯云副总裁刘颖将此归为一个从 AI1.0 到 AI2.0 的变化。
" 在 AI1.0 时代,我们重视单机单卡的性能、标量数据的结构化精准检索,以及云原生带来的自动调度。新的背景下,AI2.0 的业务迭代更快,服务重心也变成了 AI 企业及大模型,我们需要把关注点转移到集群性能的提升、向量数据的存储与检索,以及自动容错能力上。"
" 这意味着需要更加灵活、自由、高性能的云平台。" 这也是腾讯云切入大模型的姿态。
关键词:
相关阅读
-
无锡相关部门回复网友反映某学校使用过...
2023年9月8日14时50分,有网友反映无锡市梁溪区连元街小学午餐使用了过 -
联想S205CPU更换(联想s205)
来为大家解答以上问题,联想S205CPU更换,联想s205很多人还不知道,现 -
西甲官方:马竞vs塞维利亚将在12月23日补赛
西甲官方宣布,此前由于暴雨延期的第四轮马竞vs塞维利亚的比赛,将会推 -
坚守三尺讲台 潜心教书育人(教育时评)
金秋九月,1800多万名人民教师迎来属于自己的节日——第三十九个教... -
抽奖券怎么写(抽奖卷模板)
今天之间网超哥来为大家解答以上的问题。抽奖券怎么写,抽奖卷模板相信 -
dnf二次觉醒任务(二次觉醒任务流程)
很多人对dnf二次觉醒任务,二次觉醒任务流程不是很了解那具体是什么情
精彩推送
-
2024 年助力品牌全域经营 SaaS 工具
海量智能是一家专注于智能营销工具研发和用户运营解决方案的创新型 -
实现全流程国产化 蜜巢政务大模型3.0重...
2024年7月4日,2024世界人工智能大会暨人工智能全球治理高级别会议 -
加速“人工智能+”总台研究院主办活动来啦
“人工智能必须是发展与治理同步,政府要划定边界,特别要在国际上加 -
国科微全系边端AI芯片闪耀WAIC2024:加...
7月4日,2024世界人工智能大会(以下简称“WAIC2024”)在上海开幕 -
钛虎科技机器人震撼发布:T170A“瑶光”...
2024年7月4日 —— 在全球瞩目的2024世界人工智能大会(WAIC)暨人... -
拐点已在眼前,北汽蓝谷积聚向上势能
伴随着中国新能源汽车市场的高速发展,各家新能源汽车企业的表现都备 -
年轻员工猝死频发:沃民高科AI引擎驱动...
在科技快速发展的今天,高强度的工作节奏已成为许多行业尤其是科技 -
强者恒存!曙光存储重磅新品再破存力上限
6月25日,曙光存储召开了主题为“先进存力,凝聚数据要素”的新品暨... -
国产“Omniverse”诞生! 联想新视界重...
近年来,以英伟达Omniverse为代表的元宇宙平台在元宇宙国际竞争中呈 -
丝芭传媒旗下美踏元宇宙和鹦鹉人启动内...
6月26日,丝芭传媒旗下酝酿已久的创新AIGPT及AIGC生成工具APP“鹦鹉 -
李德毅院士:人类的四种基本认知模式
编者按人类认知的整个活动,就是如何解释、解决人类在生存和繁衍过 -
视觉生成式AI如何引领各行各业创新?CVP...
导语:50+ 论文成果、CVPR 自动驾驶大挑战赛“端到端规模驾驶“获 -
AI下半场 宁畅智算中心以全栈全液助推...
当前,人工智能以前所未有的速度塑造各行各业,全国范围内对智算中 -
身怀全栈全液能力 宁畅打造智算中心部...
当前,人工智能以前所未有的速度塑造各行各业,全国范围内对智算中 -
淘宝直播“勇往直前的CEO”再添一员,AI...
自淘宝推出勇往直前的CEO计划以来,一大拨企业家正涌向淘宝直播间。6... -
存算“全能王”!中科可控重磅发布新一...
当前,人工智能应用快速落地、多模态大模型加速迭代,亿万数据让计 -
高能来袭|联想拯救者携手《黑神话:悟空...
从2020年首次发布实机演示视频以来,《黑神话:悟空》便在全球范围 -
YYDS!联发科携最新AI创新应用亮相COMPUTEX
近日,备受全球瞩目的COMPUTEX 2024科技展会在热烈的氛围中拉开帷 -
广西村支书用AI制作视频带货,网友:接...
近日,一则广西勒水村的新闻屡见报端,当地村民用AI做短视频带货,推广 -
COMPUTEX 2024开展:联发科大秀全景AI...
在最近开幕的COMPUTEX 2024科技展会上,联发科展示了其最新的AI技 -
“AI+全场景”!中科可控AI工作站来袭
近年来人工智能技术极速发展,“AI+”已然成为行业用户对于体验升级... -
阿丘科技:生成式AI与行业视觉大模型驱...
5月21日,阿丘科技CEO黄耀应邀参加北京机器视觉助力智能制造创新发展 -
AI赋能 智赢百业 中国移动成功举办AI+...
5月25日,在第七届数字中国建设峰会期间,中国移动举办了以“AI赋能 -
直击2024年数字中国峰会中国移动AI+行业...
5月25日,数字中国峰会中国移动AI+行业分论坛在福建福州盛大召开, -
5月23日-27日@数字中国建设峰会,每日互...
一年一度,相约福州。5月23日至27日,第七届数字中国建设峰会系列活 -
天工AI搜索解读《如懿传》的“招黑体质”
《如懿传》又“火”了。同为“宫斗”题材的清宫戏,相比于至今仍在... -
AVK119简介:SCI 最新的变频涡旋压缩机
AVK119采用三菱电机专利的最新椭圆形涡旋技术设计,与相同尺寸的压 -
普惠AI破局视觉智能化 中小企业迎来发...
在数字化转型浪潮席卷全球之际,视觉智能化作为AI技术的重要分支,正 -
官宣!仰韶彩陶坊酒连续十一年荣膺“黄...
三月三,拜轩辕。在中国传统文化的传承中,这一敬拜黄帝先祖的节日 -
全国人大代表、中国移动辽宁公司总经理...
“数字乡村建设有助于促进农业全面升级、农村全面进步、农民全面发 -
热辣滚烫 盈出精彩|LG gram Pro AI...
LG gram于今年1月份上市了首款AI超轻薄本。它延续了轻薄长续航的基 -
从这部微电影开始,传承一杯“家乡味”
年中,一曲土中带潮的《恐龙抗狼》,火爆全网;年终,一支笑中带泪 -
生成式AI就绪 英特尔发布第五代至强可...
实用化 AI 算力又升上了一个新台阶。随着AI大模型加速迭代,智能 -
泰瑞应急数字孪生底座赋能防灾减灾,提...
近年来,灾害频发,给人们的生命和财产安全带来了巨大威胁。为提升 -
借助AI 数字人,光谷电商科技为什么成...
随着AI技术的蓬勃发展,数字化时代的大幕正式拉开。在这个时代,电 -
性价比提升超30%,腾讯云发布新一代基于...
基础设施的硬实力,愈发成为云厂商的核心竞争力。11月24日,腾讯云 -
山东原创《丝路》动画片央视首播
由枣庄市一甲动漫制作股份有限公司打造的大型原创52集《丝路》动画 -
2023深圳高交会今日开展,AI创新先睹为快!
2023深圳高交会今日盛大开幕,数据显示有超过100个国家和地区组团, -
2023深圳高交会IT展盛况:AI技术成焦点...
11月15日-19日,中国国际高新技术成果交易会(简称:高交会)在深圳 -
2023第二届长三角国际汽车产业及供应链...
2023第二届长三角国际汽车产业及供应链博览会将于2023年10月26-28日 -
“全球精品家轿”2024款艾瑞泽5焕芯上市...
畅销全球80多个国家和地区、斩获全球100万用户的艾瑞泽5,再次焕新 -
Colossal-AI助力智能化升级新时代
在这个快速发展的数字化时代,人工智能(AI)作为推动社会进步的核 -
当远铁路跨焦柳线特大桥成功转体
10月11日凌晨,湖北铁路集团当远铁路跨焦柳线特大桥转体成功,为当 -
微盟集团同时入选恒生人工智能、传媒指...
9月25日,恒生指数公司推出恒生人工智能主题指数和恒生传媒指数,微 -
锐进 求新 创无限 | 品达集团产品战...
2023年9月20日,“锐进、求新、创无限” 品达集团产品战略发布会暨 -
生态出海高歌猛进,海外月销3万辆,日系...
如今,中国汽车迎来了百年一遇的窗口期,同时汽车市场也进入了白热 -
孙树峰院士:激光技术的革命,开启未来...
9月1日,在智能制造助力高质量发展高峰论坛上,俄罗斯自然科学院外籍院 -
国产车赢麻了!中国品牌车企占泰国电动...
国产车赢麻了!中国品牌车企占泰国电动车市场8成份额 -
2023新思科技开发者大会:以创新引领航...
中国上海–9月8日,芯片行业年度嘉年华“2023新思科技开发者大会”... -
基于Android™ 14 Beta的 ColorOS 1...
9月11日,OPPO开启了基于Android™14Beta的ColorOS14全球公测尝鲜,首 -
公司回应禁止管理层买、开理想汽车:情...
公司回应禁止管理层买、开理想汽车:情况属实、律师 理想官方表态 -
上市告吹后 开心汽车宣布并购威马
上市告吹后开心汽车宣布并购威马 -
格局打开!小米汽车获SIG认证:支持苹果...
格局打开!小米汽车获SIG认证:支持苹果CarPlay -
TrendForce集邦咨询: NAND Flash第四...
Sep 11,2023----近日,三星(Samsung)为应对需求持续减弱,宣布9月起扩 -
真“自动挡”来了!特斯拉新款Model 3...
真“自动挡”来了!特斯拉新款Model3可自动选择前进后退 -
“人工智能+”,点燃智能制造发展新引擎...
近日,21ic有幸采访了辽宁省人工智能学会理事长李鸿儒教授,围绕“... -
全国唯一综合性种植资源库 四川省种质...
9月9日,第二届天府国际种业博览会暨四川省种质资源中心库揭牌仪式在成 -
问界M9率先用上!华为AR-HUD有多强:75...
问界M9率先用上!华为AR-HUD有多强:75寸画幅彻底干掉仪表盘 -
一万买到多少续航?新势力又出奇怪榜单...
一万买到多少续航?新势力又出奇怪榜单:特斯拉倒数第一 -
无锡相关部门回复网友反映某学校使用过...
2023年9月8日14时50分,有网友反映无锡市梁溪区连元街小学午餐使用了过 -
礼让救护车、搬抬婴儿车……青岛街头,...
救护车呼啸而至,驾驶员快速打方向盘让出生命“通道”;乘客推婴儿... -
我要打十个!消息称华为ADS 2.0年底开...
我要打十个!消息称华为ADS2 0年底开城数量调整:覆盖全国 -
坚守三尺讲台 潜心教书育人(教育时评)
金秋九月,1800多万名人民教师迎来属于自己的节日——第三十九个教... -
联想S205CPU更换(联想s205)
来为大家解答以上问题,联想S205CPU更换,联想s205很多人还不知道,现 -
获近40亿补贴!中国电池制造商国轩高科1...
获近40亿补贴!中国电池制造商国轩高科147亿在美建厂计划敲定 -
2023年9月9日云南省南瓜批发价格行情
2023年9月9日云南省南瓜批发市场价格最新行情监测显示:2023年9月9日云 -
西甲官方:马竞vs塞维利亚将在12月23日补赛
西甲官方宣布,此前由于暴雨延期的第四轮马竞vs塞维利亚的比赛,将会推 -
国家统计局:8月份居民消费价格同比上涨...
证券时报网讯,据国家统计局,2023年8月份,全国居民消费价格同比上涨0 -
10天内至少24城“认房不认贷”,效果如...
从“认房又认贷”到“认房不认贷”,一字之别的背后,是13年来我国... -
哈尔滨多车加油后开出不远就熄火 加油...
哈尔滨多车加油后开出不远就熄火加油站:进水了、已赔付 -
坚守三尺讲台 潜心教书育人(教育时评)
金秋九月,1800多万名人民教师迎来属于自己的节日——第三十九个教... -
长江通信:9月8日融资买入553.36万元,...
9月8日,长江通信(600345)融资买入553 36万元,融资偿还567 15万元, -
八音之韵丨来听听大音希声的太古之音
于高山流水之间 聆听声律之美 于明月松林之中 感受万物空明 这是人 -
华为加持的阿维塔新车 敢要价40万?
华为加持的阿维塔新车敢要价40万? -
抽奖券怎么写(抽奖卷模板)
今天之间网超哥来为大家解答以上的问题。抽奖券怎么写,抽奖卷模板相信 -
2035年停售燃油车不现实 世界第四大汽...
2035年停售燃油车不现实世界第四大汽车集团:我要卖到2050年 -
中国首款自研车规级7纳米芯片 “龙鹰一...
中国首款自研车规级7纳米芯片“龙鹰一号”性能如何?稍差于骁龙8155 -
行业首个!Flyme Auto获得泰尔“卓越级...
行业首个!FlymeAuto获得泰尔“卓越级”认证魅族:遥遥领先 -
领克08正式上市:92英寸无界AR-HUD 20.88万起
领克08正式上市:92英寸无界AR-HUD20 88万起 -
车评头条:中期提速能力意外 海马M3 1...
汽车已经成为人们生活的必须品了,很多车的适不适合自己很生疏,现在汽 -
近况曝光!72岁知名老戏骨街头被偶遇,...
所以如今有网友在社交平台上晒出偶遇到郑则仕,并且对方还如此精神,就 -
dnf二次觉醒任务(二次觉醒任务流程)
很多人对dnf二次觉醒任务,二次觉醒任务流程不是很了解那具体是什么情 -
暑假出游景点(暑假出游好去处)
诸多的对于暑假出游景点,暑假出游好去处这个问题都颇为感兴趣的,为大 -
兆邦基地产(01660.HK):张彧获委任为执...
格隆汇9月8日丨兆邦基地产(01660 HK)公告,董事会宣布:(i)许志聪已获 -
广汇能源遭遇外资抛售49.6万股|外资买卖
外资卖出:广汇能源(600256)(600256)于2023年9月7日遭遇外资抛售,数 -
白露至 各地一片农忙景象
白露节气已至,各地农民抢抓农时,田间地头一片农忙景象。在湖北省襄阳 -
张艺谋遗憾《坚如磐石》迟到:于和伟的...
极目新闻记者戎钰国庆档看什么?由张艺谋执导的都市罪案题材电影《坚如 -
警察叔叔发布“挑战令”全市7248人挑战成功
9月8日,第三届“百日零违法文明交通好榜样”颁奖仪式在清城区举行... -
或将采用“国风”设计:哪吒X内饰公布 ...
或将采用“国风”设计:哪吒X内饰公布专为年轻人打造 -
三种配色 7座布局 广汽合创MPV V09内...
三种配色7座布局广汽合创MPVV09内饰曝光10月13日上市首发 -
担保期过不过怎么办
担保期是否已经届满,需要根据具体情况分析。1、如果在担保合同中约定 -
中国正在开展HCFCs加速淘汰行动
中新社北京9月8日电(记者阮煜琳)中国生态环境部大气环境司有关负责人8 -
大众再放大招:ID.6 CROZZ 限时官降4....
大众再放大招:ID 6CROZZ限时官降4 5万售价25 89万起 -
138度超广角!70迈3K夜视流媒体后视镜将...
138度超广角!70迈3K夜视流媒体后视镜将开售:一次能看三车道 -
乘联会:8月乘用车市场零售192万辆,同...
乘联会:8月乘用车市场零售192万辆,同比增长2 5%,零售,乘联会,乘用车市场 -
载歌载舞打一个生肖 载歌载舞打一个生...
小枫来为解答以上问题。载歌载舞打一个生肖,载歌载舞打一个生肖具体是 -
交付1.2万成合资黑马!别克E5迎首次OTA...
交付1 2万成合资黑马!别克E5迎首次OTA:上电逻辑不再反人类 -
阿塞拜疆vs比利时比赛预测 阿塞拜疆vs...
阿塞拜疆vs比利时比赛预测,风暴体育讯北京时间9月9日21:00,新赛季欧 -
工行首席技术官:银行业财富管理面临挑...
工行首席技术官:银行业财富管理面临挑战,数字化转型是大势所趋,工行, -
“原子弹之父”奥本海默开什么车?凯迪...
“原子弹之父”奥本海默开什么车?凯迪拉克认领:1941款敞篷经典