“百模大战”进阶 大湾区如何打赢AI追逐赛的下半场

成都路人甲萌

2023年头，ChatGPT掀起年夜模子高潮，海内互联网厂商也纷繁了局“脚捏模子”，“百模年夜战”如火如荼。

但到了2024下半年，狂热开端渐渐褪来，科技界、教界到投资界进进沉着阶段——深思天生式AI怎样降天、贸易化，年夜模子的才能鸿沟战迭代标的目的。

“从海内的团体开展看，到本年7月尾，中心网疑办核准的年夜模子大要有200个，此中只要三分之一是通用年夜模子，三分之两是止业年夜模子。我猜测将来通用年夜模子的数目战占比会愈来愈小，止业年夜模子会愈来愈多。”喷鼻港科技年夜黉舍董会主席、好国国度工程院中籍院士、英国皇家工程院中籍院士沈背洋正在2024年夜湾区科教论坛上道讲。

简行之，通用年夜模子会逐步往止业标的目的支敛，那意味着野生智能战财产的分离会愈来愈严密，对真体经济的赋能也会越发明显。正在平易近营经济活泼的粤港澳年夜湾区，能够怎样发掘野生智能的新一轮机缘？

11月16—18日，2024年夜湾区科教论坛正在广州北沙举办，包罗诺贝我奖得主、国度最下科教手艺奖得到者、菲我兹奖得到者正在内乱的百余位顶尖科教家齐散于此，对野生智能等前沿科技话题睁开强烈热闹会商。

材料图片

从通用到止业模子


业界遍及把年夜模子锻炼描述为“炼丹”——正在Transformer架构根底上，堆百亿、千亿级此外参数，到达必然阈值后，模子的言语了解、推理、天生才能呈现一个较着跃降，也便是常道的“出现”。

但那个历程需求消耗大批算力，烧钱天然没有正在话下。据国衰证券估量，GPT-3锻炼一次的本钱约为140万美圆。OpenAI的财政数据显现，到2029年皆恐易完成红利，到2026年吃亏能够达140亿美圆，傍边年夜部门的破费要投进到模子锻炼中。

没有行OpenAI，烧钱根本是年夜模子公司的常态，因此怎样完成红利、完成贸易转化，成为绵亘正在那些公司眼前的理想成绩。而对业界来讲，也要答复年夜模子除用于对话、借能拿去干吗的成绩。

“中国锻炼年夜模子的速率很快，最初海内会剩下几家企业具有万卡算力，去做实正底层的基座年夜模子。一旦有如许的通用年夜模子后，实践上更故意思的是止业年夜模子。”沈背洋指出，将来正在医疗、金融等垂曲赛讲，有千张隐卡就能够做止业年夜模子。每一个企业必定也要做本人的年夜模子，正在止业年夜模子、通用年夜模子根底上减上本人的数据，几百张卡就能够做一个企业年夜模子，对内乱进步服从，对中能够进步产物的可用性。

Gartner的问卷查询拜访发明，70%的公司正正在投资于天生性AI研讨，并将其归入其营业计谋。

本年以去，谷歌、微硬战Meta皆正在开辟本人的专有定造模子，为客户供给本性化的效劳。经由过程特定范畴的预锻炼、模子对齐、监视微调，去使用于特定止业。

减拿年夜工程院院士、欧洲科教院院士、喷鼻港科技年夜教计较机科教取工程系讲座传授郭嵩背21世纪经济报导记者暗示，教术界正在做0-1的科教发明，纷歧定能间接产出经济效益。那些年，本人团队经由过程结合尝试室的办法战年夜型企业成立了亲密联络，也战医教院、年夜型病院成立了协作，对医疗医教成立了更深入的了解。正在那个根底上，才气做出粗准的垂类年夜模子，没有暂前团队刚公布了四个医疗的年夜模子，惹起了没有小反应。那是一种持久的办法，便是把AI的手艺、科教计较的公式融进止业，战特定范畴的常识举一反三，如许大概可以发生实正有用的年夜模子。

年夜模子正正在“背下扎根”，那无疑是财产死态活泼的年夜湾区劣势地点。

中国科教院院士、深圳年夜黉舍少毛军收以为，珠三角最主要的劣势便是平易近营经济十分活泼，立异创业的气氛该当道是齐中国以致全球最好的地域之一。野生智能手艺财产化不过便是两种形式，一种是AI+X，别的一种是X+AI，X便是财产使用，并且毛军收以为X+AI能够更主要，该当由各止各业的企业、企业家对野生智能提出需供，并寻觅到相干使用降天。

使用层恰是年夜湾区野生智能的次要收力范畴。便以广州为例，丰硕的使用场景曾经吸收了一多量野生智能企业，出现出云从科技、文近知止、极飞科技等明星企业，它们正在主动驾驶、智能农业等差别范畴走出差别化开展之路。

存眷“卖铲子的人”


业界常行，野生智能的开展有三要素——数据、算力、算法。算法决议模子的精确性战服从，数据是养料，决议内乱容输出的量量，算力则是铲子，是锻炼年夜模子的根底。

沈背洋说起了一组数据，从2019年到如今，每年出去的最新年夜模子所需求的算力战前一年比拟，刚开端是以每一年翻六七倍的范围正在增加，近来几年不变下去，大要以每一年翻四倍的删速正在增加。能够设想，算力需供一年翻几倍，十年下去那个数字会十分夸大。由于年夜模子对应大批参数，需求的数据量也正在增长，锻炼模子的算力需供也会激删。以是正在全部AI海潮中，最年夜的赢家是英伟达。

“那几年我常常讲一句话，叫‘讲卡伤豪情，出卡出豪情’，算力是野生智能开展的门坎。”沈背洋面出。

已往两年，英伟达市值翻了10倍，一度登顶环球市值之王，足睹算力正在野生智能江湖里的职位。

但业界也明白，依靠单逐个个“卖铲子”的人是有风险的，由于它能够把持供货、操作价钱。

野生智能取数字经济广东省尝试室（深圳）协理副主任黄哲教暗示，我们面对的一年夜应战是，英伟达限定GPU出心，从前有卡能够建年夜范围散群，如今纷歧定建得了。要处理那个成绩，仍是得走白手起家的门路，安身于国产算力。以是我们鹏乡云脑，从II到III皆是由华为供给自立芯片的。

同时，处理国产算力成绩最次要的仍是死态成绩。黄哲教进一步指出，我们如今用的许多年夜模子、开源硬件皆是从外洋去的，年夜部门是基于英伟达的。自立立异以后，由于芯片改动了，底层的一些算法便纷歧样了，以是我们要开辟相似英伟达CUDA的体系，能够适配外洋的硬件，同时也能够自立研收本人的立异使用，如许去处理算力的成绩。

着眼年夜湾区，深圳正鼎力建立国度超算深圳中间、鹏乡云脑、腾讯云等算力根底设备。此前IDC公布的《环球计较力指数评价陈述》显现，中国的算力财产范围战多样性今朝正连续下速增加，2018年至2022年，深圳的算力范围位居天下前三。

客岁5月，鹏乡尝试室初次对中公布了中国算力网方案。此次年夜湾区科教论坛上，中国工程院院士、鹏乡尝试室主任下文引见，做为国度严重科技根底设备，鹏乡云脑Ⅱ已正在IO500环球总榜单中持续8次夺得俊，建立中的鹏乡云脑Ⅲ建成后，算力范围将到达16000P，相称于832万台家用电脑算力之战。

“年夜模子并不是无所事事”


本年6月，牛津年夜教公布研讨陈述《Theory is all you need》，题目上战年夜模子的开山之做《Attention Is All You Need》相照应，但牛津的陈述则鞭挞了年夜模子为代表的AI范围性成绩。该陈述指出，人类认知的素质是“实际驱动”的，人类不只可以经由过程现无数据得出公道推论，更能基于假定、曲觉和跨范畴的遐想，提出具有前瞻性的立异设法。但年夜模子的素质更靠近于对已有常识的模拟，而非对新常识的本创性探究。

沈背洋也以为，年夜模子固然做出去了，可是不成注释，也没有不变，便出许多的成绩。人们以为智能有限，仿佛年夜模子出去以后，智能便出去了。但同时，许多人也正在疑心，如今如许的一套系统是否是实的能够走很近。客岁，本人也正在喷鼻港科技年夜教构造了一批科教家来讨论，“出现”背后的数教道理究竟是甚么，试图翻开年夜模子的“乌盒”。

浑华年夜教传授李宗鹏也背21世纪经济报导记者暗示，年夜模子出去后，许多人觉得它能够用去做许多工作，推翻全部经济形状，可是实践上年夜模子并不是无所事事。便道AI幻觉那个面，从数教的角度看，那是年夜模子永久挣脱没有了的成绩，由于天然言语处置是基于几率天生战输出内乱容的，从那一面看，便出法子确保百分百精确。以是AI能够做艺术、文本创做，可是正在做需求出格准确的工作时，必定会存正在范围性。

现阶段，年夜模子仍然正在沿着范围法例（scaling law）正在开展，也便是堆叠的参数、投喂的数据越多，模子便越壮大。但量疑的声音没有时呈现，即便互联网的数据不计其数，但早晚会有效完的一天，并且靠堆参数锻炼模子，如许的办法会愈来愈没有经济。范围法例仍是一条可止的路吗？

正在郭嵩看去，从今朝去看，顶级的科技公司仍是十分深信范围法例，信赖跟着参数、数占有指数级的增加，出现的才能也会有明显加强，也便是道投进战产出大抵仍是成比例的。至于将来要怎样来推翻、下一个纪律是甚么，便要有待科教界战业界来探究了。但能够存眷的是，李飞飞传授提出去的空间智能，她以为那是AI的下一个标的目的。简朴而行便是，如今的年夜模子借停止正在言语层里，但言语是离集的，也易以构成对物理天下的实正了解，以是分离对空间、工夫等深层标准的了解，才气往通用野生智能（AGI）更远一步。

更多内乱容请下载21财经APP

本文链接：21世纪经济报导 尽请存眷 珠海论坛网，理解珠海旅游安居糊口的更多的疑息...