人工智能需要的突破-TE头版.pdfVIP

ThebreakthroughAIneeds

2024年9⽉20⽇

Sep19th20249⽉19th2024

TwoyearsafterChatgpttooktheworldbystorm,

generativeartificialintelligenceseemstohavehita

roadblock.Theenergycostsofbuildingandusing

biggermodelsarespiralling,andbreakthroughsare

gettingharder.Fortunately,researchersand

entrepreneursareracingforwaysaroundthe

constraints.Theiringenuitywillnotjusttransformai.

Itwilldeterminewhichfirmsprevail,whether

investorswin,andwhichcountryholdsswayoverthe

technology.

在ChatGPT风靡全球多年后，⽣成式⼈⼯智能似乎遇

到了障碍。构建和使⽤更⼤模型的能源成本呈螺旋式

上升，突破变得越来越困难。幸运的是，研究⼈员和

企业家正在争先恐后地寻找绕过这些限制的⽅法。他

们的聪明才智不仅会改变AI。它将决定哪些公司获

胜，投资者是否获胜，以及哪个国家对这项技术拥有

主导权。

Largelanguagemodelshaveakeenappetitefor

electricity.TheenergyusedtotrainOpenAI’sgpt-4

modelcouldhavepowered50Americanhomesfora

century.Andasmodelsgetbigger,costsriserapidly.

Byoneestimate,today’sbiggestmodelscost$100m

totrain;thenextgenerationcouldcost$1bn,andthe

followingone$10bn.Ontopofthis,askingamodel

toansweraquerycomesatacomputationalcost—

anythingfrom$2,400to$223,000tosummarisethe

financialreportsoftheworld’s58,000public

companies.Intimesuch“inference”costs,when

addedup,canexceedthecostoftraining.Ifso,itis

hardtoseehowgenerativeaicouldeverbecome

economicallyviable.

⼤型语⾔模型对电有强烈的需求。⽤于训练OpenAI

的gpt-4模型的能源可以在⼀个世纪内为50个美国家

庭供电。随着模型越来越⼤，成本会迅速上升。据估

计，当今最⼤的模型的训练成本为$100m;下⼀代可

能花费10亿美元，接下来的⼀代可能花费100亿美

元。最重要的是，让模型回答查询需要花费计算成本

—总结全球58000家上市公司的财务报告需要2400

USD到223000USD不等。随着时间的推移，这种

“推理”成本加起来可能会超过训练成本。如果是这

样，就很难看出⽣成式AI如何在经济上变得可⾏。

Thisisfrighteningforinvestors,manyofwhomhave

betbigonAI.TheyhaveflockedtoNvidia,which

designsthechipsmostcommonlyusedforaimodels.

Itsmarketcapitalisationhasrisenby$2.5trnover

thepasttwoyears.Venturecapitalist