腾讯的大模型故事从产业开始
ChatGPT 火了之后,很多对未来生成式 AI 的愿景直觉性的指向微信。这个超过 12 亿人每天多次打开的地方,是当下最活跃的信息交换场,也是最期待被生成式 AI 重做一遍的地方。这从不断出现又不断被封的各种野生 " 微信 Bot" 中可见一斑。
(资料图片)
敲边鼓的人多了,更显出腾讯的谨慎。
" 对于工业革命来讲,早一个月把电灯泡拿出来,在长的时间跨度上来看是不那么重要的 ",马化腾在今年 5 月的一季度财报会上这样说。他还表示," 关键还是要把底层的算法、算力和数据扎扎实实做好——更关键的是场景落地 "。
言下之意,腾讯要拿出来的,一定是在产品和技术上完备,并且想清楚如何落地的东西。
6 月 19 日,距离马化腾的发言一个月后,腾讯首次披露大模型方面的进展,主角是腾讯云,攻的是行业大模型。
" 精选商店 "
如果说大模型竞争是一场在技术上拉平所有 AI 领域玩家的竞争,那么随着过去几个月国内对于大模型的讨论逐渐从通用转向更务实的产业视角,大厂反而在更具体的竞争中找到了自己的优势。
" 现在是一个合适的时间点,把我们过去一段时间(大模型)的实践、沉淀、思考和我们所积累的工具链给大家做一些分享 ",腾讯云副总裁、腾讯优图实验室总经理吴运声表示。
腾讯云在大模型方向上迈出的第一步是腾讯云 MaaS,或者叫一站式行业大模型精选商店。
腾讯云 MaaS 全景图 图源:腾讯云云厂商被认为会在大模型渗入垂直领域的过程中发挥巨大作用,因其在天然在服务企业客户的过程中具备垂直领域视角的同时,又站在领域内各企业狭窄的个体视角之外。企业在大模型训练、部署的门槛与成本考虑中遇到的障碍会在云厂商所处的更高维度的行业视角下找到平衡。
首先是数据质量差的问题。构建大模型也是成本极高的系统工程,大模型需要大量的高质量数据 进行训练和优化,还必须经过清洗和预处理,以消除噪声、填补缺失值并确保数据质量, 经常会因为数据各类问题,导致模型的效果和效率无法得到保障。如果导入的数据质量低,那训练出来的模型也会有问题——所谓的 garbage in garbage out。
再者是计算资源有限。大模型需要较高的计算资源和存储资源,但很多企业和机构缺乏这方面的资源,导致无法进行大模型的训练和推理。对比一般服务器来说,GPU 服务器的稳定性比较低,大模型训练需要的 GPU 动辄千卡,而且在训练集群里,连接几百台 GPU 服 务器所要求的网络速度极高,如果网络有点拥塞,训练速度就会很慢,效率很受影响。
除此之外,对于大模型的开发和落地环节专业知识和人才的缺乏又会进一步拉高企业在大模型上的投入成本。
腾讯云做 MaaS 并不让人意外,后者称为未来云厂商的基础能力已经开始成为共识。而不同的是,腾讯云尝试用更 " 量体裁衣 " 的解决方案,来拆解企业在大模型落地时面临的实际问题。
这个 " 精选商店 " 拆开来看是一个三层架构:顶层是面向行业的 MaaS 层,底层是以行业大模型和基础设施组成的技术底座,以腾讯 TI 平台为主体的的工具层则成为中间支撑,为企业客户提供涵盖模型预训练、模型精调、智能应用开发等一站式行业大模型解决方案。
发布会上 17 家来自不同行业的生态伙伴同台出现,腾讯云在行业大模型上的优势首先来自多年在产业互联网上积累下的行业知识。
通用大语言模型在应对产业场景落地时存在一定的局限性。一来通用大模型的训练数据主要来自公开数据集或网络数据,对于特定行业的专业领域知识了解有限。并且通用大语言模型的训练需要大量计算资源和漫长的训练周期,这对企业来说是高昂成本。
腾讯云 MaaS 的训练基于包括金融、政务、文旅等一整套高质量的行业大模型,目前在大模型行业应用方面已经有了包括智能客服、OCR、跨模态检索等领域在内的 50 多个行业解决方案。对于这些领域的企业来说,这意味着一个具有行业通识的大模型是现成的。在此基础上加入自己独有的场景数据做精细化的训练,门槛要低得多。企业可以快速生成自己的专属模型,也可根据自身业务场景需求,按需定制不同参数、不同规格的模型服务。
而在具体的训练环节,企业并不希望回答一个完全开放性的问题。他们需要完善的模型工具,和一个被反复验证的高效而成熟的训练流程来做指引。腾讯内承担全栈式 AI 开发服务的 TI 平台所提供的工程化能力是腾讯云 MaaS 的核心,后者拥有从数据标注、训练、评估到测试和部署的一整套大模型工具链。
TI 平台是背后核心
2021 年腾讯云在 TI 平台下推出了 TI DataTruth、TI ONE 和 TI Matrix 三大 AI 底层平台,提供包括算法开发、模型训练、数据标注和数据处理等一系列开发能力。这一平台升级计划强化了 TI 平台的工具属性,也成为腾讯云在大模型领域寻找自己位置的伏笔。
TI-DataTruth聚焦数据生产要素——提供数据标注作业、数据众包管理、 场景数据挖掘等智能数据生产服务。
TI-ONE是整个大模型开发流程的重心——内置多种训练方式和算法框架,为用户提供从数据接 入、模型训练、模型管理到模型服务的全流程开发支持, 满足不同 AI 应用场景的需求。
TI-Matrix靠近应用层——支持快速接入各种数据、算法和智能设备,并提供可视化编排工具,进行模型服务和资源的管理及调度,进一步通过 AI 服务组建集成和标准化接口开 放,降低 AI 应用开发成本。
而腾讯自研的机器学习框架 " 太极 Angel" 也在传统 CV、NLP 算法模型的基础上,新增了对大模型的训练和推理加速能力。通过异步调度优化、显存优化、计算优化等方式," 太极 Angel" 加持下的训练和推理过程相比行业常用方案性能提升 30% 以上。
" 现在把 TI 平台升级到 MaaS,不是说工具属性没了。工具属性仍然有了,仍然是非常重要的,但是除了有工具属性之外,我们内制了很多行业大模型,在平台内训练了自己的模型之后,这个模型可以直接完成下游任务,提供对外的服务去做应用。"
吴运声表示,此次 TI 平台完成了一次从算法到产品层面的完整升级,而隐于其后的充沛算力供给,来自专为大模型训练设计的新一代 HCC ( High-Performance Computing Cluster ) 高性能计算集群。
今年 4 月,腾讯云面向大模型训练的新一代 HCC 高性能计算集群发布,后者采用最新一代的腾讯云星星海自研服务器,多层加速的高性能存储系统,加上高带宽、 低延迟的网络传输,具备 3.2Tbps 业界最高互联网带宽,算力性能提升 3 倍。
去年 10 月腾讯完成首个万亿参数的 AI 大模型混元 NLP 大模型训练,在同等数据集下,前一代 HCC 高性能计算集群已经可以将训练时间由 50 天缩短到 11 天,而如果基于新一代集群,训练时间将进一步缩短至 4 天。在行业大模型的讨论里,一切为最终的产业落地服务,这不是一场万亿模型的规模游戏,重点在灵活和效率。
腾讯云也推出了更适合 AI 运算的向量数据库。后者能够更高效地处理图像、音频和文本等非结构化数据源,能力源自腾讯内部每日处理千亿次检索的向量引擎(OLAMA),提供高吞吐、低延迟、低成本、高可用、弹性扩展的一站式向量检索数据库,单索引支持 10 亿级向量规模,检索,数据接入 AI 的效率会比传统方案提升 10 倍。
大模型的兴起正在反过来重塑云厂商未来的发展发向,腾讯云副总裁刘颖将此归为一个从 AI1.0 到 AI2.0 的变化。
" 在 AI1.0 时代,我们重视单机单卡的性能、标量数据的结构化精准检索,以及云原生带来的自动调度。新的背景下,AI2.0 的业务迭代更快,服务重心也变成了 AI 企业及大模型,我们需要把关注点转移到集群性能的提升、向量数据的存储与检索,以及自动容错能力上。"
" 这意味着需要更加灵活、自由、高性能的云平台。" 这也是腾讯云切入大模型的姿态。
关键词:
相关阅读
-
腾讯的大模型故事从产业开始
ChatGPT火了之后,很多对未来生成式AI的愿景直觉性的指向微信。这个超 -
亿纬锂能股东户数增加1061户,户均持股6...
亿纬锂能最新股东户数17 05万户,高于行业平均水平。公司户均持有流通 -
2023全球数字经济大会将于7月4日至7日在...
新京报贝壳财经讯(记者陈维城)6月21日,2023年全球数字经济大会组委 -
上海网信办整治餐饮企业过度索取个人信...
中新网6月21日电 据“网信上海”微信公众号消息,近日,“亮剑浦江... -
博思软件:陈航累计质押股数约为5533万股
博思软件(SZ300525,收盘价:元)6月21日晚间发布公告称,截至本公告 -
镍价横盘整理 不锈钢微幅反弹【机构评论】
镍价横盘整理。宏观方面此前乐观的氛围有所消退,基本面偏悲观的品种表
精彩推送
-
腾讯的大模型故事从产业开始
ChatGPT火了之后,很多对未来生成式AI的愿景直觉性的指向微信。这个超 -
下次还买!曝极氪001定速130km/h撞收费...
下次还买!曝极氪001定速130km h撞收费站:人轻伤、电池没烧 -
动态:修出风险?因更换发动机可能引起...
修出风险?因更换发动机可能引起自燃12辆涉事路虎被召回 -
是AI还是人类 如何判断文章是否为Cha...
生成式预训练转换器(GPT)等自然语言处理(NLP)模型以制作类人文本、回答 -
中东土豪 正疯狂投资中国新造车
中东土豪正疯狂投资中国新造车 -
环球快消息!新能源车辆购置税减免政策...
新能源车辆购置税减免政策延期蔚来李斌点赞:对换电充分肯定 -
荷泽火车站(关于荷泽火车站的基本详情...
1、菏泽南站站址在中国山东省菏泽市牡丹区解放街南端,邮政编码274012 -
亿纬锂能股东户数增加1061户,户均持股6...
亿纬锂能最新股东户数17 05万户,高于行业平均水平。公司户均持有流通 -
雇主责任险和意外险是什么?靠谱吗?
雇主责任险是一种保障雇主因员工在工作过程中遭受身体伤害或疾病造成的 -
看热讯:*ST紫鑫(002118.SZ):深交所拟...
格隆汇6月21日丨*ST紫鑫(002118 SZ)公布,收到深圳证券交易所下发的《 -
国家新闻出版署发布6月国产网游审批信息...
中青宝旗下的《召唤骑士团》、《岛与工厂》以及网易旗下的《燕云十六声 -
自驾游中出车祸 通用安吉星自动定位报...
自驾游中出车祸通用安吉星自动定位报警救车主 -
形容歌声醉人的优美句子简短_形容歌声
1、绕梁三日、余音袅袅、洋洋盈耳、娓娓动听、余音绕梁一、绕梁三日白 -
2023全球数字经济大会将于7月4日至7日在...
新京报贝壳财经讯(记者陈维城)6月21日,2023年全球数字经济大会组委 -
全球速递!湖北十堰市茅箭区举办“工匠...
工人日报客户端讯6月20日,湖北省十堰市茅箭区举办2023年“工匠杯”... -
上海网信办整治餐饮企业过度索取个人信...
中新网6月21日电 据“网信上海”微信公众号消息,近日,“亮剑浦江... -
焦点快看:广州曙光做自体脂肪填充脸部...
一、广州曙光做自体脂肪填充脸部效果如何?广州曙光拥有精致的面部脂肪 -
天天观速讯丨全国铁路7月1日起实行新列...
全国铁路7月1日起实行新列车运行图:成都香港能高铁直达了 -
三家店京剧唱词 三家店京剧 聚看点
1、首先京剧音乐是板腔体,不是曲牌体。2、其次三家店里有好多段唱,西 -
勒紧裤腰带!现代汽车集团CEO:在华缩减...
勒紧裤腰带!现代汽车集团CEO:在华缩减产品线关停、出售工厂 -
石油土豪79亿投资蔚来 李斌:从讨论到...
石油土豪79亿投资蔚来李斌:从讨论到签署只用了3周 -
博思软件:陈航累计质押股数约为5533万股
博思软件(SZ300525,收盘价:元)6月21日晚间发布公告称,截至本公告 -
“老虎变猫”是进化还是退化?全新路虎...
“老虎变猫”是进化还是退化?全新路虎揽胜极光发布搭载1 5T三缸发动机 -
镍价横盘整理 不锈钢微幅反弹【机构评论】
镍价横盘整理。宏观方面此前乐观的氛围有所消退,基本面偏悲观的品种表 -
卓胜微跌6.93% 东北证券在其高位喊买入...
卓胜微跌6 93%东北证券在其高位喊买入 -
光绪元宝图片及价格(100万光绪元宝图片...
1、可以在网上搜一下相关图片的。2、其实都差不多。3、那些是拍卖价格 -
【世界快播报】合盛硅业股东富达实业累...
合盛硅业(603260 SH)发布公告,截至公告披露日,股东富达实业在减持计 -
【天天热闻】强化高性能封装战略布局,...
长电科技董事、首席执行长郑力表示:“长电科技将持续加大前沿技术... -
世界讯息:Sourceability®荣获2023年Su...
Sourceability®是一家全球电子元器件数字化分销商,在2023年由知名机 -
当前时讯:新能源汽车购置税设减免税额...
新能源汽车购置税设减免税额上限:30万及以下车辆不受影响 -
终于不用吃细粮了!大众推出途观L全新版...
终于不用吃细粮了!大众推出途观L全新版本售价19 98万起 -
三亚首个全寄宿制公办专门学校开学
6月20日下午,位于育才生态区育才中心学校附近的三亚市育苗学校正式揭 -
埃夫特:股东及其一致行动人拟合计减持...
App6月21日消息,埃夫特公告,股东信惟基石及其一致行动人马鞍山基石拟 -
奇瑞无界Pro追尾大货车 藏式门把手弹不...
奇瑞无界Pro追尾大货车藏式门把手弹不开:副驾满脸血迹求救 -
头条:【江苏】南京海事局维护保障南京...
6月20日,在南京海事局全方位保障下,南京仙新路过江通道首榀钢箱梁吊 -
全球微资讯!中科磁业跌6.03% 上市即巅...
中科磁业跌6 03%上市即巅峰超募4 6亿天风证券保荐 -
环球速讯:明阳智能股东Lucky Prosperi...
明阳智能(601615 SH)发布公告,截至公告披露日,股东LuckyProsperity和 -
亚太股份(002284.SZ):取得新能源汽车项...
格隆汇6月21日丨亚太股份(002284 SZ)公布,公司于近日收到国内某头部自 -
SMM:“至暗时刻”已过!黑色系或筑底反...
》查看SMM钢铁产品报价、数据、行情分析在由宝钢股份武钢有限公司、宝 -
特斯拉市值一夜暴涨:美国各大车企纷纷...
特斯拉市值一夜暴涨:美国各大车企纷纷加入其充电标准 -
Dragon Boat Festival celebrated in Neijiang 热闻
TheFirstChinaLeisureSportsChallengeandthe11thNeijiangDaqianDragonB -
今日关注:利群股份(601366)6月21日主...
截至2023年6月21日收盘,利群股份(601366)报收于5 31元,下跌0 19%,换 -
这次要加多少钱?全新丰田埃尔法官图首...
这次要加多少钱?全新丰田埃尔法官图首次曝光 -
Soul创始人张璐创新用户共治众裁模式,...
如今,互联网平台已经成为个体快速获取和发布信息的重要渠道之一,年轻 -
自动化如何彻底改变浴室修补服务 最新消息
了解自动化如何改变浴室装修服务,带来效率、精度和成本效益。了解创新 -
吃什么补精最快_吃什么水果补肾
1、疾病分析:黑葡萄含有丰富的钙、铁、磷、钾等矿物质、维生素和氨基 -
焦点速读:俄罗斯长毛猫_俄罗斯美女刚长毛
1、关于毛子一说,是东北人对俄罗斯人的称呼,毛子一词最早应该是在清 -
耕好节粮减损“无形良田”(消费视窗)
在山西省运城市万荣县光华乡大兴村的麦田里,收割机正在作业。闫鑫摄不 -
侯家塘社区:开展2023年护苗·绿书签系...
6月是未成年人保护工作宣传月。为增强未成年人的法治观念,创造未成年 -
洛克王国泪花犬怎么样 洛克王国泪花犬
1、楼主,天赋还行,用处就是生命火焰。2、但是速度慢,也是花瓶…... -
长安汽车推出智能手表钥匙:一键启动、...
长安汽车推出智能手表钥匙:一键启动、熄火1518元 -
今日热闻!性能比肩AMG 比亚迪方程豹首...
性能比肩AMG比亚迪方程豹首车再曝光:车身现神秘数字“2318” -
郑州将发放5000万汽车消费券:买车最高...
郑州将发放5000万汽车消费券:买车最高立减6000元不限户籍 -
李想详解为何差点砍掉理想L7:自己有“...
李想详解为何差点砍掉理想L7:自己有“病”、团队需定期喂药 -
幼儿园大班安全教案:会说话的安全标志
乐乐学教研网精心为你收集整理了幼儿园大班安全教案:会说话的安全标志 -
多家媒体:前巴萨前锋苏亚雷斯因膝盖伤...
据ESPN,Ge等多家媒体报道,乌拉圭传奇球星苏亚雷斯正考虑结束职业生涯 -
【时快讯】印度德里地铁将支持手机二维...
印度德里地铁将支持手机二维码乘车网友:遥遥领先 -
2023年6月21日异丙醇价格最新行情预测_...
中国报告大厅2023年6月21日异丙醇价格最新走势监测显示:山东夏为国际 -
又一一线城市拟出台措施!“电驴”不能...
中新网6月21日电(中新财经记者葛成)电动自行车因为方便快捷,成为不少 -
第23届中国工博会9月在沪举办 超2600家...
第23届中国工博会9月举办27个国家和地区的超过2600家企业(机构)参会 -
怎么使手机一直不黑屏 要闻速递
手机经常黑屏可能是由于多种原因导致的,包括内存告急、系统版本不适配 -
天天播报:宋唯
1、宋唯,演员,主要作品有《全力青春》。2、。文章到此就分享结束,希 -
环球讯息:好消息!这些线路,有高铁了!
记者从中国国家铁路集团有限公司(以下简称国铁集团)获悉,7月1日零时 -
希腊移民船倾覆事故船只沉没前航拍视频...
欧盟边境与海岸警卫局19日公布了一艘非法移民船倾覆前在海上航行的视频 -
烹饪大赛助抚远冷水鱼香飘全国 冷水鱼...
日前,2023中国(佳木斯)冷水鱼烹饪大赛、2023中国(抚远)冷水鱼预制 -
新能源汽车优惠政策延续 李想:完成目...
为支持新能源汽车产业发展、促进汽车消费,财政部等三部门表示将延续和 -
今热点:老工业城市如何焕发新活力?新...
本报讯(记者张伟)城市,是我国新型工业体系建设的重要载体;指数,是量 -
如何给电脑降温_怎样给电脑降温
1、此方案适用XPVISTAWIN7系统【问题描述】:计算机温度高【原因分析】 -
桌面图标打不开一个程序怎么办(桌面图...
来为大家解答以上问题,桌面图标打不开一个程序怎么办,桌面图标打不开 -
树廉洁家风 创幸福家庭
树廉洁家风创幸福家庭--娄星区和家超限检测站党支部开展主题党日活动湖 -
天天微资讯!芽森滴最好的作品_芽森滴番号
1、芽森滴(芽森しずく)她最初以艺名「絵莉花」从《素人个人撮影、投 -
失业险怎么领取需要什么条件_失业险怎么...
1、你好,失业保险领取步骤详情如下:参保单位出具两份《解除(终止)劳 -
石楼县举办乡村振兴村干部专业化能力提升
6月17日至19日,石楼县乡村振兴村干部专业化能力提升培训班(第二期) -
渝湘高铁重黔段全线最长单头掘进鲁家山...
6月21日,经过900多天日夜奋战,渝湘高铁重庆至黔江段全线最长单头掘进 -
联芯通支持ISO 15118-20双向电力传输,...
杭州市–2023年6月21日–杭州联芯通半导体有限公司(简称联芯通)是一家 -
年最吃香的行业_现在最赚钱的行业 最吃...
现在最赚钱的行业有:新媒体行业、教培行业、互联网服务业、老年用品关 -
打造全产业链协同创新平台 青岛市光电...
六月的青岛,热度攀升,万物升腾,新型显示产业同样热潮澎湃。6月20日,“2 -
宛如一缕青波!vivo X90s青漾图赏_环球快看点
快科技6月21日消息,近日vivo发布新机X90s,现在这款新机已经来到我们 -
世界热讯:大师利用封建迷信诈骗百万元
自称“南海观音”,谎称能显灵做法事帮他人鸿运当头、家庭美满、消... -
每日聚焦:学生可免费乘坐南宁机场巴士
记者6月18日从南宁机场了解到,6月20日至9月5日,乘坐南宁机场始发、到 -
苹果或重新发明苹果汽车安全带:打造发...
苹果或重新发明苹果汽车安全带:打造发光安全带扣 -
历史首次!阿里云与浙大斩获数据库顶会...
6月21日,数据库国际顶级学术会议SIGMOD在美国西雅图举行,阿里云与浙 -
世界今热点:手机qq启动出现问题请卸载...
1、手机qq启动出现问题请卸载重装的处理方式:直接卸载重新安装就好了 -
动态焦点:罗德与施瓦茨信号发生器和分析...
罗德与施瓦茨的R&SSMW200A和R&SSMM100A矢量信号发生器以及R&SFSW和R&SF -
贸泽电子隆重推出新一期EIT计划 探索智...
2023年6月21日–提供超丰富半导体和电子元器件™的业界知名新品引入(NP -
如何关闭谷歌的深色模式 焦点滚动
能够关闭Google搜索上的深色模式以提高工作效率非常重要。研究表明,大 -
天天热头条丨亚美尼亚基本概况_亚美尼亚...
亚美尼亚民主共和国是历史上第一个现代化的亚美尼亚共和国,它的存在时 -
天天视点!N,N-二甲基环己胺商品报价动...
交易商品牌 产地交货地最新报价N,N-二甲基环己胺 99%,170kg 桶济南世 -
皇马2023-24赛季上半赛季就要靠这四位前锋了
【夏窗真的不再签人了?】皇马2023-24赛季上半赛季就要靠这四位前锋了。 -
全球速读:文化观察丨万物皆可盲盒,是...
在互联网平台搜索盲盒,除了惊喜的炫耀,更多的还是为失败的开盲盒经历 -
单眼皮应该怎么化眼妆_单眼皮女生眼妆超...
1、化好妆。首先确定眼镜需要化妆的部位,如图。然后用手指晕染底妆。2 -
获2000万元中央预算内投资!黄石这7个村...
省发改委、省农业农村厅、省乡村振兴局日前下达乡村振兴专项农村人居环 -
港校北上,掀起了香港教授的创业浪潮
港校北上正在加快香港教授的创业进程。6月16日,香港科技大学(广州) -
全球快看点丨因交易撮合业务清淡 摩根...
亚汇网获悉,知情人士称,摩根大通(J U)正在亚洲进行新一轮裁员,裁掉 -
腾讯汤道生:AI对世界的改变 一定也是...
腾讯官微6月21日消息,腾讯集团高级执行副总裁、云与智慧产业事业群CEO -
瑞士5月手表出口额增长14% 中国需求持...
瑞士手表出口在5月份再次跃升,原因是对美国的出口回升,中国需求保持 -
比亚迪“最火”车型上冠军版:刀片电池...
比亚迪“最火”车型上冠军版:刀片电池纯电续航达605km -
快资讯丨欧预赛-C罗绝杀+200场里程碑战...
欧预赛-C罗绝杀+200场里程碑战破门葡萄牙1-0十人冰岛取四连胜,c罗,冰岛 -
每日快看:“浴皇大帝”发布纯电版本:...
“浴皇大帝”发布纯电版本:凯迪拉克凯雷德IQ来了 -
余承东大喜!工信部:支持L3级及更高级...
余承东大喜!工信部:支持L3级及更高级别自动驾驶功能商业化应用